1874 yazında Charles Jeremiah Smith, işe Milwaukee, Wisconsin'de "donanım uzmanlığı" yapan küçük bir işletme kurarak başladı. C.J. Smith, bu girişiminin bu kadar büyüyeceğini ve 16.000'den fazla çalışanı ile küresel bir üretici haline geleceğini hayal edemezdi. C.J. Smith müşterileriyle ilgilenmenin, onların sorunlarını çözmenin ve “daha iyi bir yol bulmalarına” yardımcı olmanın öneminin farkındaydı ve dürüstlüğe ve dürüstlükle iş yapmaya inanıyordu.
C.J. Smith'in kurduğu iş hızla büyüdü, bebek arabaları ve bisikletler için metal parçalar üreten dünyanın en büyük imalatçılarından biri haline geldi. Arthur Oliver Smith ve diğer iki erkek kardeşi babalarının işine katıldılar. A. O. Smith ve erkek kardeşleri, babalarının teknoloji ve inovasyona olan inancını sonuna kadar paylaştılar. 1899'da, otomobil devriminin ilk günlerinde, A.O. Smith yeni, hafif çelik bir araba şasesi geliştirdi. Birkaç yıl içinde, bu şaseleri en bilinen araba üreticileri olan Cadillac, Oldsmobile ve Ford gibi firmalara satıyordu. AO Smith'in oğlu Lloyd Raymond, aile şirketini devraldı, otomotiv işini genişletti ve dünyanın ilk otomatik şase üretim hattı Mekanik Marvel'i 1921'de tanıttı. Ray Smith ve mühendisleri ayrıca, petrol rafinerisi için basınçlı kap ve geniş çaplı çelik boru dâhil olmak üzere çok çeşitli çelik ürünleri geliştirerek o dönemin gelişmekte olan petrol ve doğal gaz endüstrilerine getirdikleri önemli yeniliklerle büyük katkı sağladılar.
Ray Smith o sırada eşsiz bir mühendislik ekibi kurdu. Bu ekip camı çeliğe kaynaştırma prosesini başarılı bir şekilde uyguladı. Bu icat, cam astarlı bira fıçıları, büyük cam astarlı bira tankları ve 1936'da bir konut tipi su ısıtıcı tankının cam astarlama süreci de dahil olmak üzere yeni ürünlerin geliştirilmesini sağladı. Cam astarlı su ısıtıcıları hızla endüstrinin standardı haline geldi ve bugüne kadar öyle kaldı. Bu dönemde elektrik motorları, fiberglas boru, yenilikçi Harvestore® yapısı ve diğerleri de dahil olmak üzere yeni işletmeler kuruldu.
Şirket büyüdükçe, daha fazla fırsat için Amerika Birleşik Devletleri dışındaki pazarlara açılmaya başladı. Kanada ve Avrupa'ya genişledi ve bu pazarlara hizmet etmek için küçük su ısıtıcısı operasyonları açtı. Daha sonra, Çin pazarına giren ilk ABD su ısıtıcı üreticilerinden biri oldu. A. O. Smith, Çin'deki tüketicilere özgü ürünler geliştirmek için mühendislik uzmanlığını kullanarak yerel ihtiyaçlara uygun çözümler sundu.
Faaliyete başladığı her ülkede A.O. Smith, değerlerini de beraberinde getirerek, dürüstlük ve dürüstlükle iş yapma, karşılıklı saygı ve itibar içeren bir işyeri ortamı geliştirdi. Birkaç yıl sonra şirket Hindistan'a girdi ve Hindistan pazarına hizmet eden ilk ABD su ısıtıcısı şirketi oldu. Bugün, A. O. Smith Corporation konut ve ticari su ısıtıcıları ve kazanlar ve su arıtma ekipmanları üreten küresel bir su teknolojisi şirketidir.
A.O. Smith tüm dünyada olduğu gibi 2013 yılından itibaren Türkiye’de de su arıtma teknolojileri alanında üstün kalite ve ileri teknolojiyi yüksek seviyede teknik destek ile bir arada sunmayı prensip edinmiştir.