Manhattan federal mahkemesinde görülen bir dava yargıcı öfkelendirdi. İki avukat, yapay zeka ile çalışan sohbet robotu ChatGPT'yi, bir mahkeme dosyasına hayali yasal araştırmalar dahil etmeleri için kendilerini kandırmakla suçladı.
Avukatlar Steven A. Schwartz ve Peter LoDuca, bir havayolu şirketine karşı açtıkları davada Schwartz'ın gerçek sandığı ama aslında ChatGPT’nin uydurduğu geçmiş davalara atıflar içeren bir dosyalama nedeniyle olası bir cezayla karşı karşıya.
Schwartz, müvekkilinin 2019 yılındaki bir uçuşta meydana gelen bir yaralanma nedeniyle Colombia havayolu şirketi Avianca'ya karşı açtığı davayı destekleyen hukuki emsalleri ararken, yapay zeka kullandığını kabul etti.
Kullanıcılardan gelen sorulara, deneme benzeri yanıtlar üreterek tüm dünyayı hayrete düşüren sohbet robotu, Schwartz'ın hukuk bürosunda kullanılan olağan yöntemlerle bulamadığı havacılık kazalarını içeren birkaç dava önerdi.
Ancak bu vakaların birçoğu gerçek değildi ya da var olmayan havayollarını içeriyordu.
Schwartz, ABD Bölge Yargıcı P. Kevin Castel'e "bu internet sitesinin, vakaları, kendi erişimi olmayan bir kaynaktan elde ettiği gibi yanlış bir kanı altında hareket ettiğini" söyledi.
Alıntıların doğru olduğundan emin olmak için teyit araştırması yapmakta "sefil bir şekilde başarısız olduğunu" söyleyen avukat, "ChatGPT'nin dava uydurabileceğini kavrayamamıştım" dedi.
Yargıç Castel, bu olağandışı durum karşısında hem şaşkın hem de sinirliydi. Ayrıca iki avukatın, Avianca'nın avukatları ve mahkeme tarafından sorun hakkında ilk kez uyarıldıklarında, sahte yasal atıfları düzeltmek için hızlı hareket etmemelerinden dolayı da rahatsızdı. Avianca sahte içtihatlara, Mart ayında yaptığı bir başvuruda dikkat çekmişti.
Yargıç, Schwartz'ın karşısına bilgisayar programı tarafından icat edilen bir hukuki dava ile çıktı. Başlangıçta bir kadın tarafından bir havayolu şirketine karşı açılan haksız bir ölüm davası olarak tanımlanan dava, bilgisayar programında New York'a giden bir uçağı kaçıran ve ek masraflar yapmak zorunda kalan bir adamla ilgili yasal bir iddiaya dönüştü.
Castel duruşmada, “Bunun hukuki bir saçmalık olduğu konusunda hemfikir miyiz?" diye sordu.
Schwartz, kafa karıştırıcı sunumun davanın farklı bölümlerinden alınan alıntılardan kaynaklandığı yanılgısına düştüğünü söyledi.
Castel sorgusunu bitirdiğinde Schwartz'a söyleyecek başka bir şeyi olup olmadığını sordu.
Schwartz, "İçtenlikle özür dilemek istiyorum" dedi.
Bu gaf nedeniyle kişisel ve profesyonel olarak acı çektiğini ve "utanmış, aşağılanmış ve son derece pişman" hissettiğini belirten Schwartz, kendisinin ve çalıştığı firma Levidow, Levidow & Oberman’ın benzer bir olayın bir daha yaşanmaması için gerekli tedbirleri aldıklarını söyledi.
Davada çalışan bir diğer avukat LoDuca ise Schwartz'a güvendiğini, bu nedenle derlediği dosyayı yeterince incelemediğini kabul etti.
Yargıç ise "anlamsız" olduğunu anlamanın ne kadar kolay olduğunu göstermek için alıntı yapılan bir davanın bazı bölümlerini yüksek sesle okudu. LoDuca ise "Bunun düzmece bir dava olduğu hiç aklıma gelmedi" dedi ve sonucun kendisini üzdüğünü söyledi.
Hukuk firmasının avukatı Ronald Minkoff ise yargıca, dosyanın "kötü niyetten değil, dikkatsizlikten kaynaklandığını" ve yaptırımla sonuçlanmaması gerektiğini savundu.
Avukatların özellikle teknolojiyle, özellikle de yeni teknolojiyle zor zamanlar geçirdiğini ve bu durumun kolaylaşmadığını söyleyen Minkoff, "Neredeyse hiç federal araştırma yapmayan Bay Schwartz bu yeni teknolojiyi kullanmayı seçti. Standart bir arama motoru kullandığını sanıyordu; yaptığı şeyin canlı mermiyle oynamak olduğunun farkında değildi" ifadelerini kullandı.
William & Mary Hukuk Fakültesi Hukuk ve Mahkeme Teknolojisi Merkezi'nde yardımcı profesör ve araştırma müdür yardımcısı olan Daniel Shin, geçen hafta Manhattan federal mahkemesi dahil ABD'deki eyalet ve federal mahkemelerden düzinelerce katılımcının, yüz yüze ve çevrimiçi olarak katıldığı bir konferans sırasında, Avianca davasını tanıttığını açıkladı.
Shin, olayın konferansta şok ve şaşkınlık yarattığını söyledi.
Shin, "New York Güney Bölgesi'nden, büyük mali suçlardan 11 Eylül dosyasına kadar önemli davalara bakan federal bölgeden bahsediyoruz. Bu, üretken yapay zeka kullanan bir avukatın potansiyel mesleki suiistimalinin belgelenmiş ilk örneğiydi" dedi.
Shin, davanın avukatların ChatGPT'nin nasıl çalıştığını anlamamış olabileceklerini gösterdiğini, çünkü sohbet robotunun halüsinasyon görme eğiliminde olduğunu, kurgusal şeyler hakkında gerçekçi görünen ama aslında olmayan bir şekilde konuştuğunu söyledi.
Yargıç, cezalar konusunda daha sonraki bir tarihte karar verecek.