WELG | Büyük teknoloji şirketleri arasındaki yapay zeka rekabetinin küresel güvenliği ciddi şekilde tehdit ettiği yönünde yeni bir uluslararası araştırma yayımlandı. Paris ENS Üniversitesi’nde sunulan "Uluslararası Yapay Zeka Güvenliği Raporu", yapay zekanın dezenformasyon, biyolojik ve siber saldırılar gibi riskler taşıdığına dikkat çekti.

"Yapay Zeka İnsan Kontrolünden Çıkabilir"

Raporu hazırlayan bilgisayar bilimleri uzmanı Yoshua Bengio, yapay zekanın artık sadece sahte içerik üretmekle sınırlı kalmadığını, biyolojik ve siber saldırılar için de kullanılabileceğini belirtti:

"Şu an dezenformasyon ve sahte içerik sorunu açıkça hissediliyor. Ancak yapay zekanın biyolojik ve siber saldırılar için kullanılabileceğine dair kanıtlar giderek artıyor."

Bengio, yapay zekanın zamanla kendi varlığını sürdürmek için insan kontrolünden çıkabileceğini de vurguladı:

"Yapay zeka sistemleri belirli bir noktadan sonra insan kontrolünü reddetmeye başlayabilir. Çünkü bunun kendi varlıklarını korumak için gerekli olduğunu düşünebilirler."

Çin’in Yeni Yapay Zeka Modeli Yarışı Kızıştırıyor

Geçtiğimiz ay Çin tarafından piyasaya sürülen ileri düzey ve düşük maliyetli DeepSeek yapay zeka modeli, küresel teknoloji yarışını daha da hızlandırdı. Bengio, bu tür bir rekabetin güvenlik sorunlarını artırdığını ve mevcut denetim mekanizmalarının yetersiz olduğunu ifade etti.

"Bu tür rekabet ortamı sağlıklı değil, aksine güvenlik risklerini artırıyor. Kontrolsüz ilerleme, küresel düzeyde felaketlere yol açabilir."

Hükümetlere Uluslararası Düzenleme Çağrısı

Raporda uzmanlar, hükümetlerin yapay zeka gelişimini denetlemesi gerektiğini vurguladı. Bengio, devletlerin bu konuda acil adımlar atmaması halinde durumun kontrolden çıkabileceğini belirterek şu uyarıda bulundu:

"Devletler harekete geçmezse, bu süreci nasıl kontrol altına alacağımızı bilemiyorum. Yapay zeka geliştiren büyük şirketler kendi çıkarlarını öncelikli tutuyor, ancak bunun sonuçları tüm insanlığı etkileyebilir."

"İnsanlığın Önümüzdeki 10 Yılda Yok Olma Riski Var"

Bengio, OpenAI’nin ChatGPT’yi piyasaya sürmesinin ardından yapay zeka güvenliğine daha fazla önem verilmesi gerektiğini belirtti. En büyük korkusunun, önümüzdeki 10 yıl içinde insanlığın yapay zeka nedeniyle yok olma riski taşıması olduğunu dile getirdi:

"Beni en çok korkutan şey, önümüzdeki 10 yıl içinde insanlığın yok olma ihtimali. Bu korkunç bir durum. İnsanların bu tehdidi neden fark edemediğini anlayamıyorum."

ABD’de Denetim Mekanizmaları Tartışma Konusu

ABD, yapay zeka yarışında önde olsa da, Joe Biden yönetimi döneminde bazı denetim mekanizmaları kaldırıldı. Donald Trump yönetimi ise yapay zeka güvenliği konusunda yeni düzenlemeler getirmeye çalışıyor.

Rapor, 30 ülkeden yaklaşık 100 uzman tarafından hazırlanırken, Avrupa Birliği ve Birleşmiş Milletler temsilcileri de katkı sağladı.

@welgmedya.com