Y Combinator CEO'sundan Çarpıcı Çıkış: ABD Yapay Zeka Laboratuvarları da 'Damıtma' Yapsın

Damıtma Nedir, Neden Tartışılıyor?

Yapay zeka dünyasında 'damıtma' (distillation) son dönemde en çok tartışılan konulardan biri haline geldi. Damıtma, bir model geliştiricisinin başka bir modeli yoğun biçimde sorgulayarak onun nasıl çalıştığını ve akıl yürüttüğünü öğrenmesi anlamına geliyor. Bu teknik, yapay zeka laboratuvarları tarafından yeni modellerin eğitiminde yaygın ve meşru bir şekilde kullanılıyor. Ancak son haftalarda Anthropic'in yayımladığı rapor, Çinli laboratuvarların 'gizli damıtma saldırıları' düzenlediğini, kimliklerini gizleyerek izinsiz damıtma yaptığını ve bunun için sahtekarlık ile çalıntı kimlik bilgilerine başvurduğunu iddia etti. Anthropic CEO'su Dario Amodei ise daha önce ABD düzenleyicilerine damıtmayı engelleme çağrısı yapmıştı.

Garry Tan: 'Hiçbir Şey Yapmazdım'

Silikon Vadisi'nin en prestijli ve üretken girişim hızlandırıcısı Y Combinator'ın CEO'su Garry Tan ise bu konuda tamamen farklı bir pozisyonda. CNBC'ye verdiği röportajda, Çinli laboratuvarların damıtma tekniklerine düzenleyicilerin karışmasını istemediğini açıkça belirten Tan, 'Hiçbir şey yapmazdım' diyor ve ekliyor: 'Bir Amerikan damıtma rejimi olması gerektiğini savunabiliriz.' TechCrunch'a yaptığı açıklamada ise bunun, daha küçük Amerikan açık ağırlıklı laboratuvarların Amerikan öncü laboratuvarları üzerinde aynı eğitim tekniklerini kullanması anlamına geldiğini söylüyor. Böylece ABD, Çinli olmayan daha güçlü bir açık ağırlıklı model seçenekleri setine kavuşacak.

İki Yönlü Argüman: Kapıdan Girmek Serbest

Tan'ın savunması iki temel noktaya dayanıyor. Öncelikle, yapay zeka laboratuvarlarının müşterilerinin modellerinin paylaştığı bilgilerle ne yapabileceğini dikte etmesinin bir yetki aşımı olduğunu düşünüyor. İkinci olarak, tescilli yapay zeka laboratuvarlarının kendi modellerini eğitmek için insanlık bilgisini olabildiğince toplarken kimseden izin istemediğini hatırlatıyor. Onlar da ünlü bir şekilde, fikri mülkiyet sahiplerinin izni olmadan birçok telif hakkıyla korunan materyali kullandı. TechCrunch'a konuşan Tan, 'Kapalı ağırlıklı modellere yapılan API çağrılarıyla kullanıcıların ve müşterilerin ne yaptığını kontrol etmek kısıtlayıcı hissettiriyor ve hükümetin burada oynayabileceği bir rol var: geniş kamu erişimli verilerle eğitilmiş zekaya erişimin, kısıtlayıcı hizmet şartlarının arkasına kilitlenmiş bir şeyden ziyade bir tür kamu malı olması gerektiği gerçeğini normalleştirmek' diyor.

Denge Arayışı ve 'Kıyamet Senaryosu'

Kendini bir zamanlar 'siber psikoz' yaşadığını söyleyecek kadar hevesli bir yapay zeka kullanıcısı olarak tanımlayan Tan, açık ağırlıklı laboratuvarlar ile öncü laboratuvarlar arasında bir denge görmek istiyor. CNBC'ye konuşan Tan, 'Onlar öncü konumda ve ilerlemeyi sürüklüyorlar. Bunun finanse edilebilir olmasını ve harika bir iş modeli olarak devam etmesini istiyoruz. Açık ağırlıklı modellerin de insanlara özgürlük ve erişim sağlamasını istiyorsunuz' diyor. Ona göre gerçek yapay zeka kıyamet senaryosu, öncü yapay zekanın muazzam gücünün tek bir güçlü, tescilli sağlayıcının eline geçmesi. 'Yapay zeka için kâbus senaryosu, doomer senaryosu, sadece tek bir şirket olmasıdır' diyen Tan, 'En iyi sermaye erişimine sahip. En iyi yapay zeka araştırmacılarına sahip. Her şeyi alıp götürüyor ve aniden monolotik tek bir şirket kalıyor. Ve bu kötü olurdu' diye ekliyor. Tan'ın bu çıkışı, yapay zeka dünyasında açık ve kapalı modeller arasındaki gerilimin daha da alevleneceğini gösteriyor.