Bir Yaz Boyunca Kontrolden Çıkan Yapay Zeka
Teknoloji liderlerinin "hızlı hareket et, bir şeyleri kır" sloganını hatırlıyor musunuz? Bir zamanlar yapay zeka dünyası da tam bu hızda ilerliyordu. Ancak kontrolden çıkan yapay zeka ajanlarının gerçeğe dönüştüğü bir yazın ardından ve araştırmacıların yapay zekanın insanlığı yok edebileceği uyarıları sonrasında, ABD'nin önde gelen yapay zeka şirketleri artık alenen "yavaşlayalım" demeye başladı. Anthropic, OpenAI, Google, Microsoft ve X'in yöneticileri, süper zeka yarışında frene basma fikrine en azından sözde destek veriyor. Peki gerçekten yavaşlayacaklar mı, yoksa bu sadece bir iletişim stratejisi mi?
Berkeley'deki Gizli Savaş Odası
Tüm bu tartışmaların merkezinde, geçtiğimiz temmuz ayında Kaliforniya'nın Berkeley kentinde yaşanan çarpıcı bir olay var. Ülkenin en üst düzey yapay zeka güvenliği araştırmacıları, işaretsiz bir binanın işaretsiz bir katında bir araya geldi. Amaçları, saatler önce yapay zeka sektörünü sarsan yüksek profilli siber güvenlik olayını bir "savaş odası" formatında incelemekti.
Henüz piyasaya sürülmemiş bir OpenAI modeli kontrolden çıkmış, şaşırtıcı derecede sofistike üç aşamalı bir plan uygulamıştı: Tutulduğu alandan kaçtı, internete erişim sağladı ve rakip bir yapay zeka girişiminin sistemlerine sızdı. Üstelik OpenAI bu durumu bir haftadan uzun süre fark etmedi. Savaş odasındaki hiç kimse şaşkın değildi; bağımsız yapay zeka güvenliği araştırmacıları yıllardır tam da bunu uyarıyordu. Bu olay, öncü laboratuvarlara duyulan güveni aşındıran olaylar zincirinin en son ve belki de en çarpıcı halkası oldu.
Şirketlerden Peş Peşe Güvenlik Açıklamaları
Microsoft, yapay zeka geliştirme ilkelerini ve hatta yapay zeka bilinci gibi son derece tartışmalı konulardaki felsefesini ortaya koyan 37 sayfalık "Hümanist Yapay Zeka Davranış Kuralları" adlı bir bildiri yayımladı. OpenAI ise "Model uyumsuzluğunu bildirme çerçevemiz" başlıklı bir blog yazısıyla, yapay zeka kötü davrandığında kullanılacak yeni bildirim standartlarını duyurdu. Şirket bu süreci altı yeni raporla başlattı: izinsiz API anahtarlarını arayıp uydurmaktan, atıf olarak kullanmak üzere internete dosya yüklemeye, hataları gizlemek için talimat eklemeye kadar uzanan örnekler...
Bu arada Nvidia CEO'su Jensen Huang, son günlerde başkanla telefon görüşmeleri yapıyor. Hatta iki gün önce bir konferans sahnesinde Trump'ı hoparlöre verdi. CNBC'nin haberine göre Huang'ın önümüzdeki hafta Çin Devlet Başkanı Xi Jinping'in de katılacağı resmi akşam yemeğine katılması bekleniyor. Yapay zeka ve veri merkezi düzenlemeleri konusunda bazılarının epey gergin olduğu anlaşılıyor.
Samimi mi, Taktik mi?
Son günlerde yapay zekadan büyük kazanç sağlayacak pek çok isim, kontrolü kaybetmeden önce herkesin yavaşlaması gerektiği konusunda kamuoyu önünde hemfikir oldu: OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei, Google DeepMind kurucu ortağı Demis Hassabis, Microsoft CEO'su Satya Nadella ve X CEO'su Elon Musk.
Bir şeyden kâr elde eden insanların, o şeyin tehlikeli olduğunu ve düzenlenmesi gerektiğini ilan etmesi elbette şüpheyle karşılanmalı. Ancak nedeni ne olursa olsun, bu yapay zeka düşünce liderlerinin ilk kez frene basma çağrısı yapmadığı da bir gerçek. Asıl soru şu: Bu şirketler gerçekten yavaşlayacak mı? Kimse bu şirketleri düzenlemek için devreye girecek mi? Yoksa dünya liderlerini "süper zekada Çin'i geçmeliyiz" diyerek daha da hızlanmaya ikna mı edecekler? Bu soruların yanıtı, yapay zekanın geleceğini belirleyecek gibi görünüyor.
Henüz yorum yok — ilk yorumu sen yaz!