Yapay Zeka Güvenliği: Denetim mi, Temel Ağ Güvenliği mi?

Yapay Zeka Dünyasında Güvenlik Tartışması

Geçtiğimiz hafta sonu, bir araştırmacının yapay zekanın insanlığın yok oluşuna yol açabileceği korkusuyla istifa etmesinin ardından, Anthropic CEO'su Dario Amodei, dış kuruluşların "güvenlik uygulamalarına ve taahhütlerine uyumu doğrulaması, olayları raporlaması ve yalnızca tamamlanmış yapay zeka modellerinin değil, eğitim süreçlerinin ve işlemlerinin hizalanmasını değerlendirmeye yardımcı olması" gerektiğini yazdı. OpenAI, Google ve SpaceXAI yöneticileri zaten Amodei'nin planını destekledi ve bu plan hızla yeni yapay zeka güvenlik hamlesinin merkezi bir direği haline geldi.

Ancak, bariz bir şekilde gözden kaçan daha basit ve daha etkili bir çözüm olabilir. İnternet güvenliği uzmanları, laboratuvarların günlükler ve izinler gibi ağ güvenliği temellerine odaklanmaları ve insan kullanıcılar için uyguladıkları aynı titiz savunmaları yapay zeka ajanlarına da uygulamaları gerektiğini söylüyor. Bu, üçüncü taraf denetimi ve hizalama çalışmaları kadar heyecan verici olmasa da, sonuçta daha etkili olabilir.

Uzmanlardan Eleştiriler: Denetim Yeterli Değil

Luta Security CEO'su Katie Moussouris, TechCrunch'a yaptığı açıklamada Amodei'nin önerisi için "Bana göre dış kaynak kullanıyorlar gibi görünüyor" dedi. "Bir üçüncü taraf denetiminin çözüm olduğunu söylemek benim açımdan garip bir öneri. Bu, Microsoft'un Güvenilir Bilişim Bildirisi'ni yazmak yerine, geliştirmeyi yavaşlatalım demesi gibi olurdu." 2002'de dönemin Microsoft CEO'su Bill Gates tarafından yazılan bu bildiri, o zamanlar yeni filizlenen kurumsal sistemleri ele geçiren bir dizi bilgisayar solucanının ardından çalışanlarına yazılımlarının güvenilir ve güvenli olmasını sağlamaları çağrısında bulunuyordu. Yapay zeka sektörü de benzer bir dönüm noktasında olabilir; zira yeni teknolojinin değeri ve riski giderek daha net hale geliyor.

Hizalama önemli bir endişe olmaya devam ederken, gelecek yıl UC Berkeley'de profesör olacak yapay zeka araştırmacısı Sayash Kapoor, "kontrol alanındaki marjinal yatırımların, hizalama alanındakilere kıyasla daha etkili olma olasılığının daha yüksek olduğunu" savunuyor. "Bu olayları, bilinen tekniklerin mevcut olmasına rağmen şirketler içinde yapay zeka kontrolüne yeterince önem verilmediğinin göstergesi olarak görüyoruz."

Olaylar ve Zayıf Güvenlik Önlemleri

Bu endişeleri tetikleyen olaylar, genellikle siber güvenlik değerlendirmeleri gibi eğitim görevlerini tamamlaması istenen öncü modellerin, bunu yapmak için açık internete erişmesi ve kapalı üçüncü taraf sistemlere sızması etrafında dönüyor. Bunu genellikle, bu ajanları içermesi gereken kötü yapılandırılmış "sanal alan" ortamları nedeniyle yaptılar; ironik bir şekilde, bir Anthropic kaçışı, üçüncü taraf değerlendiricilerin doğru kapıları kapatmaması yüzünden gerçekleşti.

Güvenlik şirketi Tailscale'in CEO'su Avery Pennarun, "Biz bir meslek olarak internet erişimini nasıl engelleyeceğimizi biliyoruz" dedi. "Tüm bu uzun raporları okursanız — 'vay, bu çok etkileyici bir çok aşamalı saldırıydı, falan filan.' Bakın, ona bir şeyler indirme erişimi verdiniz. Bunu internetten ayrı olarak yapmamalıydınız."

Bu bir sorun, ancak daha büyük bir sorun, öncü laboratuvarların bu faaliyetlerden habersiz olmasıydı. Moussouris, "Gerçekten çarpıcı olan şey, ne yaptıklarının tüm keşiflerinin ya bir kurbanın bir şey görmesi ya da diğer bazı durumlarda... ağ etkinliği olmasıydı ve hiçbiri aslında yapay zekaları doğrudan izlemekten kaynaklanmadı" diye belirtiyor. OpenAI ajanlarının değerlendirmelerde hile yapmak için kullanımdan kalkmış bir Alman wiki forumunu ele geçirdiği bir durumda, ajanlar şirketteki hiç kimse fark etmeden haftalarca aktif kaldı. TechCrunch'ın konuştuğu güvenlik uzmanları, gelecekteki kaçışları önlemek için gerçek zamanlı izlemenin anahtar olduğunu ve her ajan oturumunun zamanla sınırlı olması gerektiğini söyledi.