Amerikai matematikus
A University of Chicago-n tanult matematikát, 1936-ban szerzett doktori fokozatot. A University of Michigan-on tanított a 2. világháború kezdetéig, amikor katonai szolgálatra behívták. Itt a Ballistic Research Laboratory-ban lőelemképző táblák előállítását vezette. 1943-ban csatlakozott Eckerthez és Mauchlyhoz, részt vett az ENIAC építésében, majd az EDVAC tervezésében. 1944-ben Neumann Jánossal találkozva meghívta az ENIAC-hoz, ennek a látogatásnak eredményeként írta meg Neumann a híres "First Draft"-ot, amelyben a számítógépek építésének és működésének alapelveit fogalmazta meg. A háború vége után Goldstine Princetonban Neumann János mellett részt vett az IAS számítógép építésében. Neumann halála után az IBM-nél dolgozott haláláig, törekedett arra, hogy erősítse a cég kapcsolatait az akadémiai közösséggel. Számos könyve a számítógépek történetének fontos dokumentuma.