Yapay Zeka Dünyasında Kıyamet Tartışması: "İnsanlığı Yok Edebilir" Uyarıları Neden Arttı?

Yapay Zeka Dünyasında Kıyamet Tartışması Alevlendi

Yapay zeka sektörü, teknolojinin insanlık için varoluşsal bir tehdit oluşturup oluşturmadığına dair şimdiye kadarki en yüksek sesli tartışmasını yaşıyor. Son dönemde yaşanan gelişmeler, sektörün içinden gelen uyarıları yeniden gündeme taşıdı ve "yapay zeka insanlığın sonunu getirebilir mi?" sorusunu bir kez daha masaya yatırdı.

TechCrunch'ın Equity podcast'inde Kirsten Korosec, Sean O'Kane ve Anthony Ha, bu son apokaliptik uyarıları ele aldı. Tartışma, yapay zeka araştırmacısı Jacob Coxon'un, önde gelen yapay zeka şirketlerinin "hayatlarımızla kumar oynadığı" endişesiyle Anthropic'ten istifa ettiğini açıklamasıyla başladı. Ardından Anthropic'in hizalama (alignment) lideri, "Yapay zekanın tüm insanları öldürebileceğine gerçekten içtenlikle inanıyoruz!" diyerek tartışmaya katıldı ve kişisel olarak bu olasılığın önümüzdeki on yıl içinde "%10'dan fazla" olduğunu düşündüğünü ekledi.

"%10'dan Fazla" İddiası ve S-1 Dosyası Şakası

Podcast'te Anthony Ha, bu tür yüzdelik ifadelerin genellikle temelsiz olduğunu savunarak, "%10'dan fazla olasılık" rakamının hiçbir hesaplamaya dayanmadığını belirtti. Ha, ayrıca bu tür uyarıların arkasındaki "biz" ifadesini sorgulayarak, yapay zeka topluluğunun tek bir blok gibi konuşulmasının yanıltıcı olduğunu vurguladı.

Sean O'Kane ise bu uyarıların, şirketlerin halka arz hazırlıkları sırasında nasıl görünebileceğini esprili bir dille sorguladı: "Şu anda Anthropic'in S-1 dosyasındaki o bölümü yeniden yazmak zorunda kalan genç avukatlar var mı? 'Anthropic'in resmi pozisyonu, tüm insanlığı yok edebilecek bir şey geliştirme olasılığımızın %10'dan fazla olduğu ve bunun işimiz için maddi olarak kötü olacağıdır' demek zorunda kalıyorlar mı?"

Sam Altman ve Dario Amodei'nin İkilemi

Podcast'te sıkça dile getirilen bir tema, yapay zeka liderlerinin kıyamet senaryolarını anlatırken kendi şirketlerini nasıl yönettikleriyle ilgili. Anthony Ha, "Eğer gerçekten yapay zekanın insanlığı yok edebileceğine inanıyorsanız, o zaman neden hala bu işi yapıyorsunuz?" sorusunu yöneltti. Bu ikilem, Sam Altman veya Dario Amodei gibi isimlerin açıklamalarında sıkça karşımıza çıkıyor.

Öte yandan, Kirsten Korosec, bu uyarıların "şirketlerinin yapay zeka modelinin ne kadar ileri olduğunu göstermek için garip bir gösteriş biçimi" olup olmadığını sordu. Özellikle bu şirketlerin halka arz hazırlıkları düşünüldüğünde, bu tür açıklamaların stratejik bir mesaj olabileceği ihtimali de tartışılıyor.

Not: Bu bölüm, Anthropic CEO'su Dario Amodei'nin daha temkinli yapay zeka geliştirme planını yayınlamasından önce kaydedilmişti. Sektördeki bu tartışmalar, yapay zekanın geleceği ve etik sınırları konusunda daha fazla soru işareti yaratmaya devam ediyor.