A Manchesteri és a Cambridge-i Egyetemen tanult, majd a berlini Technische Hochschulén (műszaki egyetemen) Hans Geiger tanítványa volt. 1923-tól Ernest Rutherforddal dolgozott együtt Cambridge-ben, a Cavendish Laboratóriumban. Az alfa-részecskékkel bombázott elemek átalakulásait tanulmányozták, az atommag természetét vizsgálták. A protonról, a hidrogénatom magjáról megállapították, hogy más atomok magjának is alkotóeleme.
Chadwick 1932-ben megfigyelte, hogy az alfa-részecskékkel bombázott berillium ismeretlen sugárzást bocsát ki, az pedig protonokat lök ki a különböző anyagok atommagjaiból. Chadwick értelmezése szerint a sugárzás a protonnal nagyjából egyenlő tömegű, de elektromos töltés nélküli részecskékből - neutronokból áll.
A felfedezés új eszközt szolgáltatott az atomok szétbontásához, mivel az elektromos töltés nélküli neutron eltérülés nélkül képes behatolni az atommagba. Chadwick 1945-ben kapott lovagi rangot.