Tanulmányait németországi egyetemeken végezte. 1905-ben doktorált Göttingenben Hilbert irányítása mellett. Több egyetemen oktatott, majd 1917-ben a berlini egyetem professzora lett 1952-ig. Jelentős szerepet játszott az egyetem alkalmazott matematikai intézetének 1925-ben történt megalapításában. Számos funkciót töltött be az egyetemen. Fő területe volt az integrálegyenletek és a Hilbert-terek elmélete. Nevéhez fűződik a Gram-Schmidt-féle ortogonalizációs eljárás. A topológia területén fontos eredménye a Jordan-féle görbetételre általa adott bizonyítás.