Büyük bir hukuk firması olan Sullivan & Cromwell, federal mahkemeye sunduğu bir dosyada yapay zeka (yapay zeka) tarafından üretilmiş ve gerçek olmayan mahkeme kararlarına atıfta bulunulması üzerine yargıçtan ve karşı taraftan özür dilemek zorunda kaldı. Firmanın sözcüsü, yapılan hatayı kabul ederek, yapay zeka aracının çıktısının dikkatli bir şekilde gözden geçirilmesi gerektiğini belirtti.
Olay, firmanın bir dava dosyasında kullandığı yapay zeka destekli bir araçtan kaynaklandı. Araç, gerçekte var olmayan davalara ve kararlara atıflar üretti. Bu yanlış bilgiler, mahkeme kayıtlarına girdiğinde durumun vahameti ortaya çıktı. Sullivan & Cromwell, hatanın dosyayı sunmadan önceki iç inceleme süreçlerinde fark edilemediğini de itiraf etti. Bu durum, hukuk sektöründe yapay zeka kullanımının getirdiği riskler ve bu teknolojilerin güvenilirliği konusunda yeni tartışmaları beraberinde getirdi.
