Yapay zeka devinden çarpıcı iş birliği
Yapay zeka dünyasında beklenmedik bir ortaklık haberi geldi. Anthropic, danışmanlık devi Accenture ile el sıkışarak yapay zeka modellerinin güvenlik denetimini bağımsız bir gözle yapılmasını sağlayacak bir anlaşmaya imza attı. Bu iş birliği, Anthropic CEO'su Dario Amodei'nin geçtiğimiz hafta açıkladığı, yapay zeka gelişimini yavaşlatma planının ilk somut adımı olarak yorumlanıyor.
Anlaşmaya göre Accenture, Anthropic'in sınır yapay zeka modellerini güvenlik uyumluluğu açısından değerlendirecek. Daha da önemlisi, Accenture değerlendiricileri Anthropic'in içine yerleştirilecek ve şirketin yapay zeka geliştirme süreçlerine doğrudan erişebilecek. İki şirket de önümüzdeki beş yıl içinde bu ortak çabaya en az 1 milyar dolar (yaklaşık 50 milyar TL) yatırım yapmayı taahhüt etti.
Amodei'nin üç adımlı planı
Peki bu iş birliği neden bu kadar önemli? Çünkü Amodei'nin önerdiği üç adımlı yaklaşım, tüm "sınır yapay zeka" şirketlerinin, çalışan benzeri sürekli erişime sahip üçüncü taraf değerlendiricilere sahip olmasını gerektiriyor. Bu değerlendiriciler, güvenlik uygulamalarına ve taahhütlere uyulup uyulmadığını izleyecek, olayları raporlayacak ve yapay zeka modellerinin hizalanmasını değerlendirecek.
Anthropic'e göre Accenture değerlendiricileri, "modellerin eğitim sırasında nasıl şekillendiğini izleyecek, bu modellerin nasıl oluşturulup dağıtıldığına dair kararları takip edecek ve çalışanlarla doğrudan konuşacak." Bu, yapay zeka geliştirme sürecine dışarıdan bir gözün sürekli müdahil olması anlamına geliyor.
Accenture neden seçildi?
Anthropic, Accenture'ın çeşitli sektörlerde işletmelere ve hükümetlere yapay zeka dağıtımı konusunda deneyimli olduğunu belirtiyor. Ayrıca Accenture'ın kurumların yapay zekayı nasıl kullandığına dair bilgisi, Anthropic'in kendi modelleri hakkında daha geniş bir perspektif sunabilir. Ancak şirket, yerleştirilmiş değerlendiriciler fikrinin yeni olduğunu ve henüz kapsam, erişim düzeyi veya endişelerin nasıl raporlanacağı konusunda standartlar belirlenmediğini itiraf ediyor.
Bu belirsizliklere rağmen Anthropic, sınır yapay zeka modellerini değerlendirmek için Accenture'ın ötesinde başka şirketlerle de çalışacağını duyurdu. Önümüzdeki haftalarda diğer değerlendiricileri açıklayacağını söyleyen şirket, Accenture'ın Anthropic dışındaki yapay zeka şirketleriyle de çalışacağını ekledi. Bu hamle, yapay zeka güvenliği konusunda sektör çapında bir standart oluşturma çabasının ilk adımı olabilir.
Yapay zeka dünyası hızla büyürken, Anthropic'in attığı bu adım, gelişimin kontrolsüz gitmemesi gerektiğini savunanlar için umut verici bir gelişme. Ancak iş birliğinin ne kadar etkili olacağı ve diğer yapay zeka devlerinin benzer adımlar atıp atmayacağı merakla bekleniyor.
1 milyar dolar denetim için çok değil mi ya. Accenture zaten danışmanlıkta pahalı, bir de yapay zeka denetimi diye fiyatı şişirmişlerdir. sonunda fatura yine kullanıcıya çıkar.