Yapay zeka, cinayet temyizinde sahte polis ifadesi ve tanıklar üretti

New Mexico Yüksek Mahkemesi, avukat Stephen Aarons’ı mahkeme dosyasındaki bilgilerin doğruluğunu teyit etmemesi nedeniyle mahkemeye itaatsizlikten sorumlu tuttu. Mahkeme, Aarons’ın sunduğu dilekçenin “tamamen uydurulmuş tanıkların sahte ifadelerini” içerdiğini belirtti.

Yargıçlar ayrıca avukatın müvekkiline karşı “pişmanlık ve endişe eksikliği” sergilediği değerlendirmesinde bulundu. Aarons’ın eyaletteki avukatların disiplin kuruluna sevk edilerek hakkında soruşturma başlatılmasına karar verildi.

Aarons ise Reuters’a yaptığı açıklamada, geçen yıl davayı üstlendiğinde duruşma sürecini özetlemek için ChatGPT’den yararlandığını söyledi. Yapay zekanın gerçekleri “halüsinasyon” yoluyla uydurabileceğinin boyutunu anlayamadığını belirten Aarons, bunun kendisi için “dürüst bir hata” olduğunu savundu.

Avukat, “Pişmanım ancak disiplin kurulunun bunun dürüst bir hata olduğunu dikkate almasını umuyorum. Bu, güçlü ancak zaman zaman istikrarsız olan bu teknolojiye güvenen tüm profesyoneller için çıkarılması gereken bir ders” dedi.

‘Kurgu’ ifadeler üretti

Söz konusu dosya, çocuklarının annesini öldürmekle suçlanan Oscar Renee Sandoval’ın temyiz başvurusuyla ilgili. Suçlamaları kabul etmeyen Sandoval, geçen yıl cinayetten mahkum edilerek müebbet hapis cezasına çarptırılmıştı.

Aarons, Sandoval’ın temyiz sürecini yürütürken bilgisayar tarafından oluşturulan duruşma tutanağını ve davaya ilişkin diğer belgeleri ChatGPT’ye yüklediğini anlattı. Yapay zekanın kendisine “kusursuz bir özet” sunacağını varsaydığını belirtti.

Ancak New Mexico Yüksek Mahkemesi, avukatın sunduğu ana temyiz dilekçesinde gerçekte söylenmemiş ifadelerin yer aldığını tespit etti. Mahkeme, bunlar arasında “silahlının koyu renk pantolon ve beyaz gömlek giydiğine” ilişkin kurgusal bir ifadenin de bulunduğunu açıkladı.

Mahkeme, geçen ay Aarons’tan söz konusu sahte bilgilerin temyiz dosyasına nasıl girdiğini açıklamasını istedi. Avukat ise 21 Ağustos’taki duruşmada, ChatGPT’nin yanlış bilgi üretme ihtimalinin farkında olmadığını söyledi.

Hukuk dünyasında yapay zeka uyarısı

Olay, mahkemelere yapay zeka tarafından hazırlanan belgelerin yeterince kontrol edilmeden sunulmasına ilişkin tartışmaları yeniden gündeme getirdi.

ABD’de çok sayıda avukat, yapay zeka araçlarının uydurduğu dava atıflarını veya yasaları yanlış aktardığı dilekçeleri mahkemeye sunduğu için yaptırımlarla karşılaştı. Ancak New Mexico’daki olayın, yapay zekanın yalnızca hatalı hukuki kaynaklar üretmekle kalmayıp ceza davasında sahte tanık ifadeleri oluşturması bakımından daha ileri bir örnek olduğu belirtildi.

Sandoval’ın temyiz başvurusu ise halen devam ediyor ve 2 Eylül’de New Mexico kamu savunma sisteminden Kim Chavez Cook’a devredildi.