A budai József Ipartanodában a vasúti mérnöki tanfolyam után, 1866-ban mérnöki oklevelet szerzett. 1867-ben tanársegéd volt a műegyetemen. 1868-ban matematika-fizika szakos tanári oklevelet nyert. 1869-ben ösztöndíjjal Heidelbergbe ment s ott tanulmányai mellett Kirchhoff laboratóriumában dolgozott. 1870-től a budai főreáliskola tanára 28 évig. 1872-ben egyetemi magántanári képesítést szerzett. 1875-től két évtizeden át a Természettudományi Társulat könyvtárosa, 1894-től az MTA főkönyvtárosa. Az 1870-es évektől nagyon alapos tudomány-történeti kutatásokat végzett, a fizika történetéről írt munkáját 1881-ben Bugát-pályadíjjal jutalmazták, maga a mű először német nyelven jelent meg, ma is alapvető forrás. Értékes adatokat nyújtott a Gauss-életrajhoz. Élete utolsó éveiben megbízást kapott a magyar fizika történetének megírására, erre a célra Eötvös Loránd 1903. január 3-ig szabadságot engedélyezett számára, a munkát halála miatt nem tudta befejezni. Heller Farkas édesapja volt.