ChatGPT Konuşmalarınız İnsanlar Tarafından Okunuyor: 'Project Lilly' Ortaya Çıktı

ChatGPT Sohbetleriniz İnsanlar Tarafından İnceleniyor

Yapay zeka devi OpenAI, ChatGPT'nin yanıtlarını iyileştirmek için kullanıcı sohbetlerini insanlara okutuyor. 404 Media'nın yayınladığı rapora göre, 'Project Lilly' adı verilen bu proje kapsamında OpenAI yüzlerce yükleniciyle çalışıyor. Bu kişiler, anonimleştirilmiş gerçek sohbetleri inceleyerek ChatGPT'nin verdiği yanıtların kalitesini değerlendiriyor.

Peki bu inceleme tam olarak nasıl işliyor? 'Prompt reviewer' (istem inceleyicisi) adı verilen operatörler, ChatGPT'nin yanıtlarının soruyu gerçekten yanıtlayıp yanıtlamadığını, aşırı 'yapay zeka dili' kullanıp kullanmadığını, patronluk taslayan bir tona, emojiye veya yalakalığa kaçıp kaçmadığını kontrol ediyor. Ayrıca yanıtların insan gibi davranmaktan (antropomorfizm) ve kişisel deneyimlerden bahsetmekten kaçınması gerekiyor. Örneğin ChatGPT 'bazı bilgiler buldum' diyebilirken, 'bir şef olarak şunu severim' veya 'bu duyguyu bilirim' gibi ifadeler kullanamıyor.

Bu iş oldukça basit ve tekrarlayıcı görünse de, saatlik ücretin 50 doların (yaklaşık 2.400 TL) üzerinde olduğu belirtiliyor. Ancak bir inceleyici, yönergelerin sürekli değiştiğini ve sıklıkla kendi içinde çelişkili olduğunu söylüyor.

Kişisel Bilgileriniz Tehlikede mi?

İşin en endişe verici kısmı ise sohbetlerin anonimleştirilse bile bazı kişisel bilgilerin sızabileceği gerçeği. OpenAI, 404 Media'ya yaptığı açıklamada, filtreleme işleminin özellikle kısa sohbetlerde bazı kişisel verileri geçirebileceğini kabul etti. Üstelik birçok kullanıcı, ChatGPT'yi bir arkadaş veya terapist gibi kullanarak derin sırlarını paylaşıyor. İnceleyicilere sunulan sohbetlerde, kullanıcıların sorularını, ilgi alanlarını, hatta konumlarını içeren bir 'kullanıcı anıları özeti' bile yer alıyor.

Proje Lilly, sohbetlerin gerçek doğruluğunu değerlendirmiyor; yalnızca bariz hataları işaretliyor. Bu da muhtemelen başka ekiplerin ayrı değerlendirmeler yaptığını gösteriyor. Ayrıca bu inceleme, birinin zarar verme niyetini araştıran manuel güvenlik kontrollerinden ayrı tutuluyor.

Yapay Zeka Hâlâ İnsana Muhtaç

Project Lilly'nin varlığı, yapay zeka modellerinin sadece teknolojik gelişmeyle ve daha iyi eğitim setleriyle iyileşmediğini ortaya koyuyor. Görünen o ki, işin içine birkaç yetenekli insanı katmadan olmuyor. Peki ya sohbetlerinizin ürün geliştirme için kullanılmasına izin veren ayar? Çoğu sohbet botunda varsayılan olarak açık gelen bu ayar, ücretli planlarda bile açık. ChatGPT'de ise Enterprise, Business ve Education sürümlerinde varsayılan olarak kapalı. Yani kişisel kullanımda sohbetlerinizin insanlar tarafından okunma ihtimali hiç de az değil.

Sonuç olarak, ChatGPT ile konuşurken kendinizi güvende hissetmeyin. Özel bilgilerinizi paylaşmadan önce iki kez düşünün.