Pek çok âlim yetiştirmiş, eski ve yaygın bir aile olan Âlûsizâde'lere mensuptur. 1894 de İstanbul'a geldi. Ahmed Haşim, babasının Arap vilayetlerinde memurluk yapmasından dolayı İstanbul'a geldiğinde Türkçe bilmiyordu.
Önce Nümune-i Terakki Mektebi'ne (1895) devam etti. Mekteb-i Sultani'ye (Galatasaray Lisesi) parasız yatılı olarak girdi (1896) ve buradan mezun oldu (1906).
Reji memurluğu, İzmir Sultanisinde Fransızca öğretmenliği (1907-8), Maliye Mezareti'nde tercümanlık yaptı. I. Dünya Savaşı sırasında ihtiyat zabiti (yedeksubay) olarak askere alındı. Anadolu'nun çeşitli yerlerindeki askerî birliklerde görev yaptı. Böylece bir nisbette Anadolu'yu tanıma imkânı buldu.
Savaştan sonra Düyûn-ı Umûmiye'de çalıştı. Sanayi-i Nefise Mektebi'nde (Güzel Sanatlar Akademisi) estetik ve mitoloji dersleri vermeğe başladı. Bu hocalığı uzun seneler devam etti. 1924 yazını Paris'te geçirdi. Fransız sembolistlerinin yayın organı Mercure de France dergisinde "Les tendances actuelles de la literatüre Turque" adlı, Tanzimattan sonra Türk edebiyatını ele alan bir makalesi yayımlandı (1 Ağustos 1924). Dönüşte Osmanlı Bankası'nda çalıştı. Aynı zamanda Mülkiye Mektebi ve Harp Akademisi'nde Fransızca dersleri verdi ve Sanayi-i Nefîse'deki görevine devam etti. Bu yıllar sanat hayatı bakımından da en hareketli yıllarıdır. 1928 de, hastalığı sebebiyle ikinci defa Paris'e gitti. Dönüşünde sıhhati için daha rahat bir iş; Anadolu Şimendöferleri Şirketi İdare Meclisi azalığı bulmuştu. Hastalığı ilerliyordu. 1932 de tedavi için gittiği Frankfurt'tan iyileşemeden döndü. 4 Haziran 1933 de vefat etti. Mezarı Eyüp'tedir.
Ahmed Haşim'in sanat hayatı Galatasaray'da öğrenci iken başlar. Burada onun şiir zevkini geliştiren ilk tesir, edebiyat öğretmeni Ahmed Hikmet'ten gelir. Mektep arkadaşları İzzet Melih, Hamdullah Subhi, Emin Bülend ve Abdülhak Şinasi ile beraber bir sanat çevresi teşkil ettiler. Bu çevre içinde Haşim'in ilk şiiri Hayâl-i aşkım 7 Mart 1901 tarihli Mecmua-i edebiye'de çıktı. O yıl içinde aynı mecmuada neşredilen onüç manzumemesinde Servet-i fünun şiirinin, bilhassa Cenap ve Fikret'in tesiri görülür.
1906-8 yılları Haşim, Fransız şiirini, özellikle sembolistleri ve Batı edebiyatının estetik temellerini yakından tanımaya çalıştı. Halid Ziya, Kırk yıl'da, Hâşim'in kendi nesli içinde Avrupa şiirini en iyi araştıran ve bilen bir şair olduğunu söyler. 1908 de İzmir dönüşü Aşiyan, Musavver muhit mecmualarında, şahsiyetini daha çok belirten şiirlerini neşre başladı. Bu tarihten ölümüne kadar şiirlerinin çıktığı diğer dergiler Resimli kitap, Servet-i fünun, Rebab, Dergâh, Yeni mecmua ve Yeni Türk'tür. 1909 da Fecr-i âti topluluğuna katıldı. Ancak, grupla bağı bu topluluğun yayın organı durumundaki Servet-i fünun mecmuasına şiir vermekle kaldı. Grubun toplantılarından yalnız birine katıldı. Şahsiyet olarak da bu topluluğun dışında olan A. Haşim, ömrünün sonuna kadar da hiç bir akım içinde yer almadı, kendine has bir şiir ve nesir anlayışıyla kendine has bir şahsiyet olarak kaldı.
Ahmed Haşim'in olgunluk devresini teşkil eden şiirlerde, Abdülhak Hâmid'le beraber, bâzı Servet-i fünun şairlerine tesir eden Şeyh Galib'in duygu ve hayâl gücü hissedilir. Gül-bülbül, Leylâ-Mecnun gibi motifler, mum alevinde yanan pervaneler, alevden kadeh ve şarap, hayâl havuzları... Galib'i hatırlatan veya düşündüren imajlardır.
Ahmed Haşim'in, başta Şiir-i kamer'leri olmak üzere birçok şiirlerinde, Bağdad'da geçen çocukluğuna ait hatıraları bulmak mümkündür. Bazen platonik bir aşk olarak da görünen derin bir anne sevgisi, güneşten kaçıp çöle hayat veren geceye sığınma, hastalık ve ölüm gibi motifler çocukluğundan getirdiği, bazan açık, bazan şuur-altında gizlenmiş hatıraların izlerini taşır. Haşim'in sosyal tarafı bulunmayan şairliği de fıtraten içe-kapanıklığı, çirkinlik ve yabancılık kompleksleriyle izah edilmelidir. Ancak, onun şiirinin asıl kaynağını Fransız sembolizminde aramak lâzımdır. Sembolist şiirle ilk defa, Galatasaray'da iken, Fransızca bir şiir antolojisinde karşı karşıya gelir. Haşim'in, bilhassa Belçikalı şair Emil Verhaeren hakkında Mussavver muhit mecmuasında neşredilen (1908) bir makalesi, onun sembolistlere ne kadar çok yaklaşmış olduğunu göstermektedir. Aynı mecmuada daha sonra Henri de Regnier'yi, 1927 yılında da Hayat mecmuasında Mallarmé'yi tanıtan birer makalesi çıkar.
1921 de Dergâh'da çıkan "Bir günün sonunda arzu" isimli şiirinin fazla müphem bulunarak tenkit edilmesi üzerine, edebiyatımızda şiire dâir en güzel yazılardan biri olan Şiirde mâna ve vuzuh başlıklı makalesini yazar. Bu yazı daha sonra Piyale kitabının başına "Şiir hakkında bazı mülâhazalar" adıyla basılmıştır. Hâşim bu makalesinde, şiirde mâna ve açıklık aranmayacağı, şiirin tasvirî, öğretici veya belâgatçi değil, resullerin sözleri gibi çeşitli yorumlara müsait, sözden çok mûsikiye yakın bir ifade olması gerektiği üzerinde durur.
Bütün hayatı boyunca 80 kadar şiir yazıp yayınlamış olan Ahmed Haşim bu yazısında ortaya koyduğu tarife, şiirlerinde yaklaşabilmiş midir? Gerçekten de onun birçok şiirleri çeşitli tefsirlere açık kalmıştır. Umumî hatlariyle bu şiirler psiko-analitik yorumlara muhtaç renkler, müzikalite, derin bir melankoli ve müphemiyet, uzak ve meçhul diyarlar hasreti arzeder. Konturları gölgelenmiş, karartılmış ve silinmiş birer tablo gibidir. Onlarda gerçek değil, sadece intiba verilmek istenmiştir. Buna göre Hâşim'in şiiri sembolistlere olduğundan daha fazla belki empresyonistlere yaklaşmış olmalıdır. Ahmed Haşim'in nesri, şiirinden çok farklı bir karakter gösterir. Şiirindeki müphemiyete, vuzuhsuzluğa, aşırı santimantalizme mukabil, nesirde açık, berrak, nisbeten sade ve bazan nüktedan, hattâ müstehzi bir ifâdesi ve üslûbu vardır. Onun bu tavrı da gerçekte, "Şiir hakkında bazı mülâhazalar" makalesinde nesirden beklediği vasıflara uygun bulunmaktadır. Gerek fıkraları ve edebî tenkitleri (Bize göre ve Gurabâhâhe-i lâklâkan) gerekse seyahat anektodları (Frankfurt seyahatnamesi) kendi nevilerinde muvaffak olmuş ve beğenilmiş nesir yazılarıdır.