Skóciában tanult, ragaszkodott a vegyészi pályához, bár ezt apja ellenezte, és megvonta támogatását. Ezután írással és oktatással kereste kenyerét. Tanított egy edinburgh-i iskolában 1830 és 1837 között, 1837 és 1855 között pedig a londoni University College professzora volt, ezután a pénzverdét vezette 1855-től 1869-ig.

 Első fontos írása (1829) a gázok diffúziójával foglalkozott. A gázok diffúziós sebességére dolgozta ki a "Graham-törvény"-t. Megállapította azt is, hogy a gázok kiáramlásának relatív sebessége hasonló a diffúziós sebességhez. Az egyik folyadéknak a másikba való diffúzióját vizsgálva, két osztályba sorolta a részecskéket. A krisztalloidoknak, mint a közönséges sónak, nagy a diffúziós sebessége, a kolloidoknak, mint a gumiarábikumnak, kicsi. Kidolgozta a dialízis módszerét, amelynek segítségével elválaszthatók egymástól a kolloidok és a krisztalloidok. Bebizonyította, hogy a folyadék diffúziós folyamata némely vegyületek részleges bomlását váltja ki. Sok kolloidkémiai szakkifejezést ő vezetett be.

 Graham 1833-ban a foszforsav három formáját tanulmányozta, ennek során dolgozta ki a több bázisos savak fogalmát. 1835-ös írásában a kristályvíz tulajdonságait elemezte hidratált sókban, felfedezte egyes sók és az alkohol jól meghatározott vegyületeit, az "alkoholátokat", a hidrátok analógjait. Utolsó művében a palládium-hidridről írt, ez volt a fémből és gázból létrejövő szilárd vegyület első ismert példája.