Az egyetem elvégzése után a moszkvai Fizikai és Biofizikai Intézetben kezdett el dolgozni. Az igazgató, Pjotr Lazarev javaslatára fizikai optikával foglalkozott. Kezdetben szerves festékmolekulák fotolumineszcenciáját vizsgálta, s a következő években munkatársaival megfogalmazta a lumineszcencia alapvető törvényeit. Úttörő szerepet játszott a lumineszcens lámpák fejlesztésében. Vavilov vezette be a "nemlineáris optika" kifejezést. 1932-ben a Szovjet Tudományos Akadémia tagja, az Optikai Intézet igazgatója és még ebben az évben a leningrádi Fizikai Intézet vezetője lett. Számos tanítványával megszervezte a neutronok, a sugárzással keltett lumineszcencia és a színes kristályok vizsgálatát. 1933-ban tanítványával, Pavel Cserenkovval felfedezték a Vavilov-Cserenkov-sugárzást. melynek elméletét később Ilja Frank és Igor Tamm fejlesztette tovább. 1934-ben a tudományos akadémia Leningrádból Moszkvába költözött, ahol Vavilov a Lebegyev Fizikai Intézetet szervezte meg. 1945-től haláláig a Szovjet Tudományos Akadémia elnöke volt. Jelentős szerepe volt a Szovjetunió hidrogénbomba-programjában is. 1946-ban Vavilov, Cserenkov, Frank és Tamm Sztálin-díjat kapott, 1958-ban, Vavilov halála után hét évvel, a másik három tudóst Nobel-díjjal tüntették ki a Vavilov-Cserenkov-sugárzás jelenségének felfedezéséért és értelmezéséért. Vavilov tudománytörténettel is foglalkozott, népszerűsítő könyvet írt az optikáról, tudományos életrajzot - többek között - Galileiről, Huygensről, Faraday-ről, Newtonról, Lomonoszovról és Lebegyevről.