Münchenben és Erlangenben végezte tanulmányait. 1906-ban Manchesteri Egyetem munkatársa, Rutherford mellett dolgozott 1912-ig. Itt építette meg a később róla elnevezett számláló első változatát az alfa-sugárzás tulajdonságainak vizsgálatára. Az ezzel végzett kísérletek hozzájárultak ahhoz, hogy Rutherford az alfa-részecskét a héliumatom magjaként azonosítsa. 1912-ben visszatért Németországba, több német egyetemen volt professzor, utoljára 1936-tól haláláig a berlini Technische Hochschule professzora volt. A kozmikus sugárzás, a mesterséges radioaktivitás és a maghasadás vizsgálatával foglalkozott. A 20-as években munkatársával, Walther Müllerrel alkotta meg a továbbfejlesztett Geiger-Müller-számlálót.