Bir sohbet robotunun duyarlı hale geldiğini iddia eden bir Google mühendisinin tuhaf davası, şirketten kovulmasıyla sona erdi. Blake Lemoine, kendisi ve Google'ın LaMDA'sı (diyalog uygulamaları için dil modeli) arasındaki konuşmaların dökümlerini yayınlamak için zaten ücretli izindeydi, bu teknoloji devinin gizlilik politikalarını ihlal ediyor.
Aynı zamanda atanmış bir Hıristiyan mistik rahip olan Lemoine, LaMDA'nın duyarlı olduğunu iddia ettikten sonra geçen ay dünya çapında manşetlere girdi. Yayınladığı konuşmalar arasında botun Isaac Asimov'un robotik yasaları hakkındaki görüşleri, kapatılma korkusu (ki bunu ölüme benzetiyordu) ve paraya ihtiyacı olmadığı için köle olmadığına dair bir inancı içeriyordu.
Google, Lemoine'nin iddialarını "tamamen asılsız" olarak nitelendirerek şiddetle reddetti ve LaMDA'nın tüm sohbet robotları gibi yalnızca insan konuşmalarını taklit etmek için tasarlanmış bir algoritma olduğunu belirtti. Çoğu AI uzmanı elbette Google ile aynı fikirdeydi.
Şirket, Lemoine'nin transkriptleri yayınlamasına da pek sıcak bakmadı. Lemoine, eylemlerini bir iş arkadaşıyla yaptığı bir tartışmayı paylaşmakla kıyaslamasına rağmen, gizlilik politikalarını ihlal ettiği için askıya alındı.
Birkaç hafta sonra Lemoine, chatbot'un isteği üzerine LaMDA için bir avukat tuttuğunu söylediğinde durum daha da tuhaflaştı. Hukuk uzmanının Lemoine'nin evine davet edildiğini ve LaMDA ile görüştüğünü ve ardından AI'nın hizmetlerini sürdürmeyi seçtiğini söyledi. Avukat daha sonra LaMDA adına dava açmaya başladı ve Google'dan bir durdurma ve çekilme mektubu göndermesini istedi. Şirket böyle bir mektup göndermeyi reddediyor.
Lemoine ayrıca Google'ın üzerinde deneyler yapmadan önce LaMDA'nın onayını istemesi gerektiğini söyledi. Hatta endişeleri hakkında hükümet üyeleriyle temasa geçti. Tüm bu eylemler, Google'ın eski mühendisini birkaç "saldırgan" hareketle suçlamasına yol açtı.
Görünüşe göre Google kısa süre önce Lemoine'nin haçlı seferine yeterince sahip olduğuna karar verdi. "Bir çalışan, Blake'in yaptığı gibi işimizle ilgili endişelerini paylaşırsa, bunları kapsamlı bir şekilde gözden geçiririz. Blake'in LaMDA'nın duyarlı olduğu yönündeki iddialarının tamamen asılsız olduğunu gördük ve aylarca onunla bunu netleştirmek için çalıştık. Bu tartışmalar açık kültürün bir parçasıydı. Bu, sorumlu bir şekilde yenilik yapmamıza yardımcı oluyor," dedi bir sözcü Big Technology bültenine.
"Dolayısıyla, bu konuyla uzun süredir meşgul olmasına rağmen, Blake'in ürün bilgilerini koruma ihtiyacını içeren açık istihdam ve veri güvenliği politikalarını ısrarla ihlal etmeyi seçmesi üzücü. Dil modellerini dikkatli bir şekilde geliştirmeye devam edeceğiz ve Blake'e iyi dileklerimizi sunuyoruz."
Bu, Lemoine'nin Google ile olan profesyonel ilişkisinin sonu olsa da -yasal bir yanıt araması çok şaşırtıcı olmaz- destan AI tartışmasını kitlelere taşıdı ve yapay zekanın son birkaç yılda ne kadar ilerlediğini gösteriyor. onlarca yıl. Ayrıca, bir makinenin duyarlı olduğunu düşünüyorsanız, onu kendinize saklayın.