“Büyük Kilise” ya da Latin dilinde “Magna Ecclesia” olarak bilinen ilk kilise önceden bir pagan tapınağının olduğu yerin üzerine inşa edilmişti. Ayasofya’nın 15 Şubat 360 tarihinde törenle açılışını yapan kişi II. Konstantindir. Sokrates’in kronik olarak yazdığı tarih bilgilerinden, Ayasofya’nın kilise olarak Büyük Konstantin’in emri ile inşaasının yapıldığını biliyoruz.
Ilk inşa edilen kilise binası ahşap çatılı bir bazilika şeklindeydi. Bu bazilikanın orta sahını iki ya da dört sıra koridorla çevrili idi ve bu koridorlar balkonlu katı taşıyordu. Ve yapı avlulu idi. 404 senesinde ayaklanmalar sırasında bu kilisenin çok büyük bölümü yandı. Ayaklanmaların nedeni Patrik John Chrysostom’un Imparator Arcadius tarafından sürgün edilmesidir