New York merkezli önde gelen hukuk firmalarından Sullivan & Cromwell, yapay zeka teknolojisini kullanarak hazırladığı bir mahkeme dosyasında ciddi hatalar yapıldığını kabul etti. Firmanın avukatları, yapay zeka tarafından üretilen ve gerçekte var olmayan mahkeme kararlarına atıfta bulunan yanlış bilgiler içeren bir belgeyi mahkemeye sundu. Bu durum, yapay zekanın hukuki belgelerin hazırlanmasındaki güvenilirliği hakkında soru işaretleri doğurdu.
Sullivan & Cromwell'den yapılan açıklamada, yapay zeka destekli bir aracın kullanıldığı ve bu aracın yanlış atıflar ürettiği belirtildi. Firmanın bu hatadan dolayı derin üzüntü duyduğu ve özür dilediği vurgulandı. Yapay zekanın hukuki araştırmalarda ve belge hazırlamada verimliliği artırma potansiyeli taşımasına rağmen, bu olay, teknolojinin henüz kusursuz olmadığını ve insan denetiminin önemini bir kez daha gözler önüne serdi. Hukuk dünyası, bu tür hataların tekrarlanmaması için yapay zeka kullanımına yönelik daha sıkı protokoller geliştirilmesi gerektiğini tartışıyor.
