Farklı kaynaklardan doğrulanan iddiaya göre projenin başlangıcı 2014 yılına dayanıyor. Edinburgh'daki Amazon mühendislerinin işe alım sürecini otomasyon haline getirmeye karar vermesinin ardından proje başlatılıyor.
Yapılan 500 bilgisayar modellemesinde toplam elli bin anahtar kelimeyi tarayan ve geçmişteki başvuruları inceleyen sistem, aday önerisinde bulunmak için webde gezinecekti. Kaynaklardan birine göre amaç, yapay zekanın kendisine verilen özgeçmişlerden en iyilerini ayıklamasını sağlamaktı.
Çalışmanın ilk yılının ardından programda bir hata olduğunu fark eden mühendisler, yapay zekanın kadınlardan hoşlanmadığı gerçeğini keşfetti. Daha öncesinde çalıştığı özgeçmişlerde erkek adayların sayıca baskın olması, yapay zekada böyle bir probleme yol açmıştı. Detaylı incelemelerde ise yapay zekanın kadınların puanını düşürdüğü ve kız okullarında okuyan adayları filtrelediği ortaya çıktı.
Yapay zekanın başka ayrımcılık yolları bulmasından çekinen mühendisler, sisteme müdahale etti. Bu sorunun dışında, yapay zeka yetersiz adaylar da önerebiliyordu.
Bu gibi çalışmalarda, insana özgü sorunların makinelere bulaşması ilk değil. Daha önce de eski suçluların tekrar suça dönme ihtimalini inceleyen yazılım siyahilere karşı önyargılıydı. Benzer problemler kredi, şartlı tahliye, işe alım gibi konularda denenen yazılımlarda da ortaya çıkmıştı.
Amazon projeyi karar verici değil danışman olarak kullandığını, yapay zekanın verdiği tavsiyelerin incelendiğini söyledi. Açıklamada, iş yerinde çeşitliliğe ve eşitliğe verdikleri önemi de vurguladılar.