Németországban, a königsbergi egyetemen tanult. Még egyetemi hallgatóként egy tanulmányával elnyerte a Francia Akadémia nagydíját. Königsbergben kötött életreszóló barátságot David Hilberttel. 1887-ben a bonni egyetemen habilitált. Tanított a königsbergi, zürichi, és berlini egyetemen, majd 1902-től élete végéig Göttingenben. Zürichben Albert Einstein is hallgatói közé tartozott. Fontos eredményeket ért el a kvadratikus alakok és lánctörtek elméletében. Ő vezette be a számelméletben a számok geometriáját. 1907-ben felismerte, hogy Lorentz és Einstein eredményei a négydimenziós tér-idő kontinuumban fogalmazhatók meg. Ezzel jelentősen hozzájárult a relativitáselmélet matematikai megalapozásához. Hatással volt Einstein későbbi munkásságára, az általános relativitáselmélet kidolgozására is. Minkowski egy sejtését, melyet ő csak egy speciális esetre bizonyított, később Hajós György bizonyította az általános esetben. Minkowski nevét viseli az 12493 Minkowski aszteroida.