Yapay Zeka Hayaleti Mahkemede: Avukata 5 Bin Dolar Ceza

Yapay Zeka Mahkemede Hayal Ürünü Tanıklar Yarattı

New Mexico Yüksek Mahkemesi, bir cinayet davasında müvekkilinin temyiz başvurusunda yapay zeka tarafından uydurulmuş tanıklara ve sahte polis ifadelerine yer veren avukat Stephen Aarons'a 5.000 dolar (yaklaşık 245.000 TL) para cezası kesti. Reuters'ın haberine göre mahkeme, avukatı "yapay zeka tarafından üretilen dilekçesindeki olgusal iddiaları ve yasal dayanakları doğrulamadığı" için suçlu buldu. Dilekçede, "tamamen uydurma tanıkların yalan ifadeleri" ve silahın görünümüne dair "asılsız tanıklık" yer aldığı belirtildi.

Olay, yapay zeka araçlarının hukuk dünyasında giderek daha fazla kullanılmasıyla birlikte ortaya çıkan etik ve mesleki sorunların son örneği. ChatGPT gibi üretken yapay zeka modelleri, bazen gerçekmiş gibi görünen ama tamamen kurgu olan hukuki atıflar ve tanık ifadeleri üretebiliyor. Uzmanlar, bu tür hataların avukatların mesleki itibarını zedeleyebileceği ve adaletin işleyişini tehlikeye atabileceği konusunda uyarıyor.

Adaletten Sert Tepki: 'Haberleri İzlemiyor musunuz?'

Ağustos ayındaki duruşmada Aarons, ChatGPT'yi kullanarak davanın "kurşun geçirmez bir özetini" oluşturduğunu düşündüğünü itiraf etti. Yargıç C. Shannon Bacon, avukatın yapay zekanın risklerinden habersiz olmasına sert tepki gösterdi: "Avukat, haberleri izlemiyor musunuz? Radyo dinlemiyor musunuz? Dünyada olup bitenler hakkında hiçbir şey okumuyor musunuz?" diye sordu. Bacon, "Çünkü avukatların yapay zeka halüsinasyonlarına güvenmesi sorunu her gün manşetlerde" diye ekledi.

Yargıcın bu sözleri, yapay zeka kaynaklı hataların ne kadar yaygınlaştığını gözler önüne seriyor. Son yıllarda birçok avukat, mahkemeye sundukları dilekçelerde yapay zeka tarafından uydurulmuş yasal atıflar nedeniyle ceza aldı. Geçtiğimiz yıl bir yargıç, iki hukuk firmasını "çok sayıda yanlış, hatalı ve yanıltıcı yasal atıf ve alıntı" içeren bir dilekçe sundukları için sert bir şekilde eleştirmişti. MyPillow'un sahibi Mike Lindell'in avukatları da yapay zeka tarafından üretilmiş yanlış alıntılar ve sahte atıflar nedeniyle para cezasına çarptırılmıştı.

Avukat Aarons: 'Pişmanım ama Umutluyum'

Stephen Aarons, Reuters'a yaptığı açıklamada pişman olduğunu ancak bunun dürüst bir hata olduğunu ve disiplin kurulunun bunu dikkate alacağını umduğunu söyledi. Aarons'un durumu, yapay zeka araçlarının hukuk gibi hassas alanlarda bilinçsizce kullanılmasının ne gibi sonuçlar doğurabileceğini gösteriyor. Uzmanlar, avukatların yapay zeka çıktılarını mutlaka doğrulaması ve bu araçları bir yardımcı olarak görüp, tek başına güvenilir kaynak olarak kabul etmemesi gerektiğini vurguluyor.

Bu dava, yapay zekanın hukuk sistemindeki yeri ve sınırları konusunda önemli bir emsal teşkil ediyor. Mahkemeler, yapay zeka tarafından üretilen içeriklerin sorumluluğunun tamamen kullanıcıda olduğunu ve mesleki özen yükümlülüğünün ihlal edilmesi durumunda yaptırımların kaçınılmaz olacağını açıkça ortaya koyuyor.