ChatGPT'ye güvenen avukat, sahte tanıklık nedeniyle ceza aldı!

Yapay zeka halüsinasyonu mahkemede skandala yol açtı

New Mexico'da 40 yılı aşkın süredir ceza avukatlığı yapan Stephen Aarons, ChatGPT kullanarak hazırladığı dilekçede tamamen uydurma tanık ifadelerine yer verdiği için New Mexico Yüksek Mahkemesi tarafından doğrudan mahkemeye saygısızlıkla suçlandı. Mahkeme, avukatın dilekçesinde "tamamen uydurma tanıklardan gelen sahte ifadeler" bulunduğunu tespit etti. Aarons, yapay zekanın ürettiği bu sahte delilleri doğrulamadan mahkemeye sunduğunu ve müvekkilini de bu hatadan haberdar etmediğini itiraf etti.

Uydurma tanıklar ve yanlış hukuki atıflar

Mahkeme kararına göre Aarons'un dilekçesinde Memur Michelle Amarillo, Memur Sanchez, Manal Al-Jibury ve Teresa Marquez gibi hiç var olmayan tanıkların ifadeleri yer alıyordu. Ayrıca Danny Stanton'ın tehdit aldığına dair sahte ifadeler, Linda Stanton'ın eşinin aldığı tehditlerle ilgili uydurma beyanları ve Mariah Chavez ile Teresa Marquez'in (uydurma tanık) saldırganın kıyafeti ve görünümü hakkındaki yalan ifadeleri de dilekçede bulunuyordu. Aarons ayrıca gerçek davalara yaptığı atıflarda hukuki dayanakları yanlış aktarmıştı. Bu tür hatalar, yapay zeka araçlarının hukuk alanında dikkatsizce kullanılmasının ciddi sonuçlar doğurabileceğini gösteriyor.

"AI'nin halüsinasyon görebileceğini bilmiyordum"

21 Ağustos'taki duruşmada Aarons, cinayet davasının bilgisayar tarafından oluşturulmuş transkriptini ve diğer belgeleri ChatGPT'ye yüklediğini, yapay zekanın da sahte alıntılar ürettiğini söyledi. "Benim aptallığımın bizi bu öğleden sonra bir araya getirmesi pek de teselli edici değil" diyen Aarons, ChatGPT'nin OpenAI o3 modeliyle çalışan bir sürümünü kullandığını belirtti. "Hukuk ve tıp alanlarında yapay zeka kullanımı çok yaygın olduğu için doğru olacağını varsaydım" diye ekledi. Oysa yapay zeka modelleri, eğitim verilerinde bulunmayan bilgileri uydurabiliyor; buna "halüsinasyon" deniyor. Uzmanlar, hukukçuların yapay zeka çıktılarını mutlaka bağımsız kaynaklardan doğrulaması gerektiğini vurguluyor.

Ceza ve disiplin süreci

Mahkeme, Aarons'u New Mexico Yüksek Mahkemesi önünde duruşmalardan men etti ve 5.000 dolar (yaklaşık 245.000 TL) para cezasına çarptırdı. Bu tutar New Mexico Barosu Müvekkil Koruma Fonu'na ödenecek. Ancak disiplin kurulu soruşturması sonucunda daha ağır yaptırımlar da gündeme gelebilir. Mahkeme, Aarons'un "pişmanlık göstermediğini ve müvekkiline karşı ilgisizlik sergilediğini" belirterek dosyayı disiplin kuruluna sevk etti. Aarons'un eski müvekkili Oscar Renee Sandoval, Şubat 2025'te cinayetten suçlu bulunarak ömür boyu hapis cezasına çarptırılmıştı. Bu olay, yapay zekanın hukuk pratiğinde bilinçsizce kullanılmasının hem avukatlar hem de müvekkiller için ne denli yıkıcı sonuçlar doğurabileceğini bir kez daha gözler önüne seriyor.