Gavin Newsom'dan yapay zeka hamlesi: 'Kill switch' zorunlu olabilir

Kaliforniya, yapay zeka denetiminde bayrağı devralmaya hazırlanıyor

ABD'de yapay zeka düzenlemeleri konusunda Kongre'nin adım atmakta yavaş kalması, eyaletleri harekete geçiriyor. Kaliforniya Valisi Gavin Newsom, cuma günü yayımladığı yeni bir yürütme emriyle eyaletin yapay zeka gözetiminde liderliği üstlenmesini istedi. Newsom'un talimatı, özellikle ön cephedeki (frontier) yapay zeka modelleri için bir tür "kill switch" (acil durdurma mekanizması) zorunluluğunu gündeme getiriyor.

Bu hamle, Washington'da kapsamlı bir yapay zeka yasasının yakın vadede geçme ihtimalinin düşük olduğu bir dönemde geldi. Temsilciler Meclisi kasım ayına kadar tatildeyken, yaklaşan ara seçimler Senato'da da büyük çaplı yasama hareketliliğini zorlaştırıyor.

Newsom'dan uzman grubuna iki aylık görev

Newsom'un yürütme emri, eyaletin bir uzman grubunu toplamasını ve iki ay içinde yapay zeka güvenliği önlemlerinin eyalet hukukunda nasıl güçlendirilebileceğine dair öneriler sunmasını öngörüyor. Gruptan değerlendirmesi istenen başlıca fikirler arasında şunlar yer alıyor:

• Yapay zeka şirketlerinin düzenli denetimler için bağımsız doğrulama ekiplerini yerinde bulundurmasının zorunlu hale getirilmesi,
• Şirketlerin şeffaflık raporları ve risk değerlendirmelerinin bağımsız denetçi standartlarına tabi tutulması,
• Etkinliği rutin olarak doğrulanan bir "kill switch" oluşturulması,
• OpenAI'ın Hugging Face'e yönelik saldırısı gibi "kontrol kaybı olaylarının" kritik güvenlik vakaları olarak bildirilmesinin şart koşulması.

Emir ayrıca bir eyalet kurumuna, Newsom'un yakın zamanda imzaladığı iki yasanın uygulanmasını hızlandırma talimatı veriyor: yapay zeka güvenliğini değerlendirecek bağımsız doğrulayıcılar için bir çerçeve oluşturulması ve eyalet çapında bir yapay zeka denetçileri sicili kurulması.

Kongre'ye ve Trump'a 'çerçevemizi benimseyin' çağrısı

Newsom, bu düzenlemeyi federal düzey için bir model olarak konumlandırıyor. Kongre ve Başkan Donald Trump'a seslenerek "eyaletin çerçevesini inceleyip benimsemeleri" ya da "ülkeye öncülük eden bu düzenlemeyi taban olarak almaları" çağrısında bulunuyor. Newsom, "Federal hükümetin anlamlı bir yapay zeka gözetimi veya hesap verebilirliği yaratmadaki açık başarısızlığı her Amerikalıyı endişelendirmeli; özellikle de yapay zeka CEO'ları düzenleme için yalvarırken" ifadelerini kullandı.

Newsom, "Harekete geçmek için beklemiyoruz; çok geç olmadan ciddi ve sorumlu yapay zeka gözetimi konusundaki çalışmalarımızı hızlandıracağız. Bunu düşünceli ama acil bir hızla yapacağız; riskler beklemeye veya geciktirmeye izin vermeyecek kadar yüksek" dedi. Trump ise konuya ilişkin daha önce yaptığı açıklamada, "Yapay zekanın ihtiyaç duyduğu tek kontrol veya 'korkuluk' GÜÇLÜ VE AKILLI (Yüksek IQ'lu!) bir BAŞKAN'dır ve ABD'de bu fazlasıyla var!" demişti.

Bu yürütme emri, Kaliforniya'nın yapay zeka düzenlemesi konusunda duyacağımız son adım olmayabilir. Newsom çarşamba günü Politico'ya verdiği demeçte, olası bir yürütme eyleminin yanı sıra yapay zeka konusunda özel bir yasama oturumu için Kaliforniya milletvekillerini toplantıya çağırma olasılığını da gündeme getirmişti. Eyaletin bu hamlesi, yapay zeka güvenliği tartışmalarının federal düzeyde tıkandığı bir dönemde eyaletlerin ne kadar ileri gidebileceğini göstermesi açısından dikkat çekiyor.