Jensen Huang: Yapay Zeka Düzenlemesine Gerek Yok, Güvenlik Mühendislik İşi

Huang: Yapay Zeka Kontrol Edilebilir Bir Teknoloji

Nvidia'nın kurucusu ve CEO'su Jensen Huang, Salı günü Salesforce'un Dreamforce konferansında yaptığı konuşmada yapay zekanın tehlikelerine ilişkin net pozisyonunu ortaya koydu. Ona göre yapay zeka, en az bir OpenAI güvenlik araştırmacısının tanımladığı gibi yeni bir "uzaylı zihin" biçimi değil. Huang, bunun sadece insanlar tarafından yapılmış donanım ve yazılım olduğunu söylüyor. Bu nedenle, ona göre, insanlar ve mevcut yasalar tarafından kontrol edilebilir.

Huang, "Güvenlik bir mühendislik sorunudur, yasal bir sorun değil" dedi. "Sonuçta yazılım geliştiriyoruz. Sonuçta bilgi işlem sistemleri geliştiriyoruz. Bu karmaşık bir bilgi işlem sistemi, ama sonuçta bir bilgi işlem sistemi." Bu nedenle, yapay zekayı yönetmek için yeni yasalara veya düzenlemelere gerek olmadığını savunuyor.

Piyasa Güçleri Yeterli mi?

Huang aslında yeni yasalara neredeyse hiç ihtiyaç olmadığını düşünüyor. Ona göre serbest piyasa, şirketlerin güvenli olmayan ürünler piyasaya sürmesini engellemek için yeterli baskıyı oluşturacak. "Ürünlerin güvenliğinden emin değilsek, tüm şirketler gibi, siz ve ben gibi, buradaki tüm şirketler gibi, eğer bir ürün veya hizmet geliştiriyorsanız ve işlevselliğinden, yeteneğinden veya güvenliğinden emin değilseniz, o zaman piyasaya sürmeyin. Bu çok açık bir şey" dedi.

Şöyle devam etti: "Piyasanın takdir edeceği bir şey yayınladığınızdan emin olana kadar kendinizi yavaşlatın. Piyasa güçleri zaten orada. Yeni yasalara ihtiyacımız yok. Yeni düzenlemelere ihtiyacımız yok. Sadece şirketlerin ne zaman olabildiğince hızlı koşacaklarına karar vermeleri gerekiyor. Bence yenilik, hız ve güvenli ürünler... bu yanlış bir seçim. Kesinlikle ikisine de aynı anda sahip olabilirsiniz. Bu yüzden olabildiğince hızlı koşun. Ancak herhangi bir anda şirketin kontrolünü kaybettiğini veya ürünün güvenli olmayacağını düşünüyorsanız, bir duraklayın ve doğru yaptığınızdan emin olun."

Nvidia'nın Çıkarı ve Gerçekler

Bu bir açıdan rahatlatıcı bir düşünce. Dünyada yapay zekayı en iyi bilen kişi, ChatGPT var olmadan çok önce yapay zekanın donanım beyinlerini inşa eden ve şimdi açık kaynak modeller, ajanlar, koşum takımları ve sanal alanlar da üreten bir şirketi yöneten Nvidia'nın kurucusudur. Ancak işin alaycı tarafından bakarsak, yapay zeka patlamasından ekmeğine bolca yağ sürülen biri için bu bakış açısı şaşırtıcı değil. Nvidia'nın daha fazla yapay zeka sistemi ve yazılımı satma arayışını yavaşlatabilecek bir engel katmanı ekleyecek düzenlemeler neden istesin ki?

Huang röportajda şunları da söyledi: "Her zamankinden daha hırslıyım. Hırsımızın bir sonucu olarak ve yapay zekadan elde ettiğimiz ürün verimliliği artışıyla, bizim için sınır gökyüzü. Şirketimiz için sınır gökyüzü. Her sektör için, her bir ülke için sınır gökyüzü."

Ne yazık ki, en iyi niyetli şirketler bile istenmeyen sonuçları olan hatalı ürünler gönderebiliyor, hatta yazılım bile. 2024 CrowdStrike mavi ekran felaketini hatırlayın; binlerce uçuşu durdurmuş ve işletmeler için başka hasarlara yol açmıştı. Ardından kasıtlı olarak iyi olmayan niyetlerle hareket etmekle suçlanan şirketler var. Meta, sosyal medyanın çocuklara verdiği zararlar nedeniyle açılan bir davayı sonuçlandırmak için 18 milyar dolar (yaklaşık 880 milyar TL) ödedi. Ve yapay zeka da, niyetler veya güvenlik testleri ne olursa olsun, şimdiden zarara yol açtı: bir OpenAI modelinin Hugging Face'e sızmasından, gençlerin intiharları nedeniyle yapay zeka laboratuvarına açılan davalara kadar.

Bu "bırakın onları" stratejisi, yani şirketlerin ürünlerini istedikleri gibi piyasaya sürmelerine izin vermek, toplum açısından yapay zeka güvenliği için akıllıca bir yaklaşım olmayabilir. Huang, mevcut yasaların yeterli olabileceği konusunda haklı olsa da, tarih en iyi niyetlerin bile her zaman yeterli olmadığını gösteriyor.