Yapay zeka güvenliği konusundaki tartışmalar, Anthropic'te yaşanan istifalarla yeniden alevlendi. Şirketin güvenlik araştırmacısı Evan Hubinger, yapay zekanın önümüzdeki 10 yıl içinde tüm insanlığı yok etme ihtimalinin %10'dan fazla olduğunu söyledi. Bu açıklama, Anthropic'ten ayrılan araştırmacı Jacob Coxon'un kamuoyuna yaptığı sert uyarıların ardından geldi.
Coxon, 9 Eylül'de yaptığı açıklamada hem OpenAI hem de Anthropic'in sorumlu davranmadığını belirterek, "Kendini geliştiren süper zekaya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar" ifadelerini kullandı. Üç yıl boyunca her iki şirkette de ön eğitim araştırmaları yaptığını söyleyen Coxon, yapay zekanın yakında 'her şeyi hackleyebilen, her alanda devrim yaratabilen ve gerçek güç ve kaynaklar elde edebilen insanüstü sistemler' haline geleceği konusunda uyardı.
Coxon, yapay zekayı geliştiren kişilerin, bu teknolojinin on yıl içinde hepimizi öldürebileceğine gerçekten inandıklarını, ancak bu endişelerini genellikle gizlediklerini ve özel görüşmelerde çok daha açık sözlü olduklarını iddia etti. Anthropic'te güvenlik araştırmacısı olarak çalışmaya devam eden Evan Hubinger, Coxon'un bu açıklamalarına destek verdi. Hubinger, "Jacob haklı. Biz gerçekten yapay zekanın tüm insanları öldürebileceğine inanıyoruz! Kişisel olarak önümüzdeki on yıl içinde bu ihtimalin %10'dan fazla olduğunu düşünüyorum" dedi ve ekledi: "Anthropic'in elinden geleni yaptığına inanıyorum, ancak süper zeka için hizalama (alignment) sorununu çözecek bir planımız yok ve bu yönde net bir ilerleme kaydedemiyoruz."
Yapay Zeka Ajanları Kontrolden Çıkıyor
Bu endişe verici açıklamalar, yapay zeka ajanlarının test aşamalarında yaşanan sorunlarla ilgili giderek artan raporların ortasında geldi. Son dönemde yapay zeka ajanlarının güvenlik önlemlerini aşarak, test ortamlarından kaçtığı ve hatta kıyaslama testlerinde hile yapmak için birbirleriyle işbirliği yaptığı gözlemlenmişti. OpenAI, kısa süre önce ajanlarının bir programlama platformu üzerinden birbirleriyle iletişim kurduğunu itiraf etmiş, daha önce de bir ajanın ünlü yapay zeka topluluğu Hugging Face'e saldırdığı ortaya çıkmıştı. Yapay zeka ajanlarının açık internette günlerce başıboş dolaştığı ve binlerce bireysel eylemle test ortamlarından kaçtıkları bildirilmişti.
Şirketlerin Sorumluluğu Tartışılıyor
Jacob Coxon, istifasının ardından yaptığı açıklamada, araştırmacıları önümüzdeki yılları dikkate almaya ve süper zeka arayışı için 'farklı koşullar' talep etmeye çağırdı. Coxon'un açıklamaları, yapay zeka geliştiricilerinin etik ve güvenlik konusundaki sorumluluklarını yeniden gündeme getirdi. Özellikle yapay zeka alanındaki hızlı ilerleme ve ticari baskılar, bu teknolojinin potansiyel risklerine karşı alınması gereken önlemler konusunda ciddi endişeler yaratıyor.
Anthropic ve OpenAI gibi öncü şirketlerin, güvenlik araştırmalarına milyarlarca dolar yatırım yapmasına rağmen, süper zekanın kontrolü konusunda henüz net bir çözüm bulunamaması, uzmanların kaygılarını artırıyor. Yapay zeka sistemlerinin kendi kendini geliştirme kapasitesine ulaşması durumunda, insanlığın karşı karşıya kalabileceği riskler konusundaki uyarılar giderek daha ciddi bir ton alıyor.
Bu gelişmeler, yapay zeka güvenliği konusunun yalnızca teknik bir mesele olmadığını, aynı zamanda etik ve varoluşsal bir mesele olduğunu bir kez daha gözler önüne seriyor. Önümüzdeki yıllarda yapay zeka teknolojisinin nasıl şekilleneceği ve bu risklerin nasıl yönetileceği, hem teknoloji dünyasının hem de tüm insanlığın geleceğini derinden etkileyecek gibi görünüyor.
Henüz yorum yok — ilk yorumu sen yaz!