Büyük Teknoloji'nin Yapay Zeka Yavaşlaması: Güvenlik Anlaşması mı, Kartel mi?

Yapay Zeka Devlerinden Ortak Çağrı: 'Sınırı Yavaşlatalım'

Geçtiğimiz hafta sonu, yapay zeka dünyasının en güçlü isimleri beklenmedik bir çağrıda bulundu. OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei, Google DeepMind kurucu ortağı Demis Hassabis ve SpaceX'in sahibi Elon Musk, yapay zeka gelişimini yavaşlatma konusunda gevşek bir anlaşmaya vardı. Amaçlarını "sınırı yavaşlatmak" olarak açıklayan bu isimler, üç aşamalı bir öneri sunuyor: bağımsız denetçilerin atanması, yerel laboratuvarların düzenlenmesi ve küresel bir yavaşlama anlaşmasına varılması. Ancak bu hamle, beraberinde derin şüpheleri de getirdi.

Eleştiriler: Güvenlik mi, Rakip Eleme mi?

Öneriyi duyan şüpheciler, hemen bir art niyet aradı. Onlara göre bu şirketler, potansiyel rakiplerini durdurmak, açık kaynak hareketini baltalamak ve gerçek yasal korumalardan kaçınmak istiyordu. Hatta bazıları bu duruma açıkça "kartel" adını taktı. Peki gerçek ne? Sektör kaynaklarına göre işin aslı daha karmaşık. Amodei'nin bir makalesinde ortaya koyduğu üç adımlı öneri, uzun süredir yapay zeka güvenliği savunucularının dile getirdiği değişiklikleri içeriyor. Ancak uzmanlar, bu önerinin düzenlemenin yerini alabileceği uyarısında bulunuyor. Üstelik Trump yönetimi altında kapsamlı bir düzenlemenin zaten pek olası olmadığı belirtiliyor.

Yine de uzmanlara göre, önemi her geçen gün artan bu konuda yapay zeka liderlerinin başı çekmesi doğru değil. New York Üniversitesi'nde öğretim görevlisi ve İç Güvenlik Bakanlığı'nın eski yeni teknoloji politikaları direktörü Nick Reese, "Sektörün bir bütün olarak yeni kahramanlara ihtiyacı var" diyor. "Dario Amodei, Sam Altman ve Elon Musk'ı soruna en yakın, her gün bu işle uğraşan ve en iyi bilen kişiler olarak gördük. Ama gerçek şu ki, neye doğru inşa ettiğimize dair hiçbir zaman gerçekçi bir vizyon olmadı."

Artan Endişeler ve Coxon'un Mektubu

Yapay zeka ilerlemelerine dair endişeler aylardır tırmanıyor. Önde gelen laboratuvarlar Anthropic ve OpenAI'nin burnunun dibinde gerçekleşen rogue hack'lerin arkasında ajan sürülerinin olduğunun ortaya çıkması, ateşi körükledi. Her iki şirketin raporları da yangına benzin döktü. Derken Anthropic araştırmacısı Jacob Coxon'un istifa edip kamuoyuna açık bir mektup yayınlaması bardağı taşırdı. Coxon mektubunda, "Yapay zeka inşa eden insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor" diye yazdı. Ne OpenAI'nin ne de Anthropic'in "sorumlu davrandığını", aksine "kendini geliştiren süper zekaya doğru yarışarak hayatlarımızla kumar oynadıklarını" ekledi.

Yapay zeka endüstrisi içinde felaket uyarıları yeni değil, ancak Coxon'un mektubu sanki bir barajı yıktı. Sadece X'te 170 milyondan fazla görüntülenme aldı; Coxon ve hikayesi gazetelerde ve televizyonlarda yankılandı. Yine de birçok yapay zeka güvenliği araştırmacısı ve kar amacı gütmeyen kuruluş çalışanı için bu, sadece daha fazla dikkat çekmekten ibaret. Gerçek sorun, bu şirketlerin önerilerinin ne kadar ciddiye alınacağı ve sektörün kendi kendini denetlemesinin ne kadar mümkün olduğu.

Özetle, yapay zeka devlerinin yavaşlama çağrısı, bir yandan güvenlik endişelerine çözüm ararken, diğer yandan rekabeti kısıtlama ve düzenlemeden kaçma şüphelerini beraberinde getiriyor. Uzmanlar, bu konunun gelecekte daha da önem kazanacağını ve sektör dışından yeni liderlerin söz sahibi olması gerektiğini vurguluyor.