Base Labs, Hugging Face ve Goodfire ile açık model güvenliği için güçlerini birleştirdi

Açık Modellerde Güvenlik Standartı Gelişiyor

Yapay zeka dünyasında açık ağırlıklı modellerin güvenliği tartışmaları sürerken, önemli bir iş birliği haberi geldi. Baseten'in bu yıl başında kurduğu araştırma grubu Base Labs, Hugging Face ve Goodfire AI ile ortaklık kurarak açık modeller için güvenlik değerlendirme ve izleme altyapısı geliştireceğini duyurdu. Şirket, bu girişimi açık modeller için şeffaf bir "standart" olarak tanımlıyor ve güvenliğin model eğitimi ve dağıtımına entegre edilmesi gerektiğini vurguluyor.

Neden Şimdi?

Son dönemde açık modellerin güvenliği, "abliteration" adı verilen ve modelin koruma mekanizmalarını devre dışı bırakan bir teknik nedeniyle endişe yaratıyor. Hugging Face platformunda 6.000'den fazla abliterated model bulunuyor. Bu durum, açık modellerin kötüye kullanım riskini artırıyor. Base Labs, bu soruna karşı eğitim ve izleme yöntemleri geliştirip yayınlayarak, açık modellerin güvenli bir şekilde kullanılmasını sağlamayı hedefliyor.

Ortaklığın Detayları ve Gelecek Planları

Ortaklığın teknik işleyişi henüz netleşmedi ancak Goodfire, sosyal medyada yaptığı açıklamada "Güvenlik, açık modellere yerleştirilmeli ve onları sunanlar tarafından sağlanmalı" diyerek hedefi özetledi. Goodfire, yapay zekanın "kara kutusunu" açarak modellerin karar verme süreçlerini açıklama konusunda uzmanlaşmış bir şirket. Baseten ise bir yapay zeka çıkarım (inference) sağlayıcısı olarak Haziran ayında 1,5 milyar dolarlık (yaklaşık 70 milyar TL) bir Seri F yatırımı topladı ve değerlemesini 13 milyar dolara (yaklaşık 630 milyar TL) yükseltti. Goodfire AI da bu yılın başlarında B Capital liderliğinde 150 milyon dolarlık (yaklaşık 7,3 milyar TL) bir Seri B yatırımı aldı.

Baseten, geliştirici ekosistemine açık bir çağrı yaparak bu çerçeveye katkıda bulunmaya davet ediyor. Şirket, "Birlikte, herkes için güvenli ve erişilebilir açık modellerden oluşan bir ekosistem inşa ediyoruz" ifadelerini kullandı. Bu iş birliği, açık modellerin güvenliği konusunda önemli bir adım olarak görülüyor ve sektörde standart oluşturma potansiyeli taşıyor.