A keleti terjeszkedés szükségesnek látszott politikai, ideológiai és katonai szempontokból, de még inkább gazdaságilag. Bár a Szovjetunió jelentős élelmiszer- és nyersanyagszállítmányokat küldött Németországnak, Hitlerék nem birtokolhatták korlátlanul a szovjet nyersanyagforrásokat, pedig egy hosszú háborúhoz szükség lett volna ezekre; főként a Kaukázus vidéki olajra. Ha sikerül létrehozni német vezetéssel „az európai kontinens nagytérgazdaságát” – az Uraltól az Atlanti-óceánig –, „Németország sikeresen tudja felvenni a harcot más kontinensek ellen, és nem lesz többé legyőzhető” – vélte Hitler.
1941. június 22-én hajnalban a német csapatok 3 millió katonával megindultak a Szovjetunió ellen. A Barbarossa-terv román és finn részvétellel számolt, de akadtak önként jelentkezők is, beállt a sorba a szlovák, a magyar és az olasz hadsereg is. Japánnak Hitler nem szánt feladatot a Szovjetunió ellen, inkább azt akarta, hogy zavarja meg az angolokat és az amerikaiakat a Távol-Keleten, és így biztosítsa Németország „nyugalmát” a hadjárat idejére. A japán külügyminiszter 1941 áprilisában semlegességi megállapodást kötött Sztálinnal, és ehhez a japán vezetés 1945-ig tartotta is magát.
Hitler biztos volt a gyors győzelemben, a német vezérkar is úgy tekintette a Szovjetuniót, mintha Franciaország lett volna, jó utakkal, bőséges készletekkel. Kevés és pontatlan információval rendelkeztek az ellenfélről, és mindössze tíz hetes villámháborút jósoltak. Nem számoltak a szovjet infrastruktúra hiányával (nincsenek utak, az olaj messze van), valamint az utánpótlási–élelmezési gondokkal.
Sztálin nem tartotta elképzelhetőnek, hogy Hitler kétfrontos háborút kockáztatna. Ezért semmibe vette az angol, amerikai forrásokból és saját hírszerzésétől származó információkat. A Vörös Hadsereget rosszul készítették fel, haditerve csupán a határok védelmére szorítkozott, s nagyon kevés volt a hadműveleti tartaléka. Sztálin az utolsó pillanatig nem engedélyezte a szovjet csapatok mozgósítását. A háború elkerüléséért megalázkodást is vállaló Sztálin napokig hallgatott, és csak július 3-án állt az ország elé, hogy rádióbeszédével a háborúra buzdítson.
A meglepetésszerű német támadás eközben sikeresen haladt. A három német hadseregcsoport északon Leningrád, középen Moszkva, délen Kijev (a Donyec-medence ) felé támadott. A háború első napján a németek már biztosították a légi fölényt – a szovjetek 1200 gépet veszítettek ezen a napon, a zömét még a földön bombázták le. A páncélos egységek nagy átkaroló hadműveletekben áttörték a szovjet védelmet, és hatalmas katlanokat hoztak létre, ahol felőrölték a szovjet csapatokat. A németeknek mégis nehezebbnek bizonyult a hadjárat, mint gondolták. A hatalmas térségben nem tudtak egyforma gyorsan haladni. A bekerített szovjet egységek keményen védekeztek, kitörési kísérleteik lassították a német támadást. Így is három hónappal a támadás kezdete után a fő irányokban Leningrádot bekerítették, Kijevet elfoglalták, és megkezdődhetett a Moszkva elleni, döntőnek szánt roham.
A Moszkva elleni német hadművelet októberben indult, de november végére kifulladt. Hiába látták már Moszkva tornyait a német előőrsök, a várost nem tudták bevenni. A kormányhivatalok elköltöztek, de Sztálin maradt. A november 7-i díszszemlét a Vörös téren most is megtartották. Moszkva védelmét Zsukov irányította, aki a tisztogatások utáni idők legrátermettebb katonai vezetője lett. Ő szervezte a december 5-én kezdődő szovjet ellentámadást is, amelyben a szovjet hadosztályok 150 km-re visszanyomták a németeket.
1941 decemberére a Szovjetunió lakosságának közel fele a német vonalak mögött élt, a háború előtti széntermelés 50%-a, a nyersvas, acél és hengerelt áruk termelésének 66%-a került német kézre. 1000 üzemet ugyan sikerült az Ural vidékére áttelepíteni, de ennél több elpusztult. Az új fegyvergyárak létrehozása nem ment máról holnapra. Ekkor különösen fontosak voltak az amerikai–angol szállítmányok.
Északon a bekerített Leningrádot is sikerült megvédeni, de a hadsereg és a város vezetői nem készültek fel a gyors német előretörésre, a lakosság kimentésére. Leningrád 1944. januárjáig német blokád alatt állt. A 2,5–3 millió lakosú város kb. 1 millió embert veszített, a modern történelem legnagyobb veszteségét, amely nagyvárost ért. A jég beállta után a Ladoga-ta von keresztül teherautókkal szállítottak élelmet és menekítettek nőket, gyerekeket, sebesülteket. Ez volt az „Élet vonala”, amit a német repülők rendszeresen bombáztak.
A következő évben, 1942 tavaszán a Szovjetunió déli területein Hitler és Sztálin is támadó hadműveleteket tervezett. Hitler belátta, hogy három irányban egyszerre nem tud eredményeket elérni, ezért a legfontosabb cél, a Kaukázus vidéki és a bakui olajmezők felé fordult. Sztálin a Krím-félszigetet és a Donyec-vidéket akarta felszabadítani. A szovjet vezetés a moszkvai csata után visszanyerte önbizalmát, és a reálisnál jobbnak ítélte helyzetét a déli fronton.
Hitler két részre bontotta a Dél hadseregcsoport támadó egységeit. Az egyik rész a Kaukázus felé, a másik rész Sztálingrád irányába indult. Az 1942-es nyári német offenzíva északi szárnyán mozogtak a magyar csapatok is. Amikor a németek Voronyezsnél elérték a Dont, délre, Sztálingrád irányába fordultak.
A 6. német hadsereg Paulus tábornok vezetésével augusztus 23-án indított általános támadást Sztálingrád ellen. A német légierő tönkrebombázta a várost, de a romok között a német páncélosok is nehezebben mozogtak. A gyalogság házról házra küzdötte előre magát. A villámháború nagy hadműveletei után itt egy-egy ház is naponta többször cserélt gazdát. Hitler presztízskérdést csinált a város bevételéből, mint ahogy Sztálin is a megtartásából.
A szovjet ellentámadás és átkaroló hadművelet novemberben kezdődött, és négy nap múlva már találkoztak az északról és délről előretörő csapatok. A sztálingrádi katlanban rekedt 250 000 német katona hátrálását Hitler nem engedélyezte. Göring, a légierő vezetőjebekerített csapataik biztos ellátását ígérte, ami aztán kivihetetlennek bizonyult.
1943. február 2-án a 6. német hadsereg utolsó egységei is megadták magukat Sztálingrádnál, 24 tábornok, 2500 tiszt, 91000 közkatona került hadifogságba. (Közülük évek múlva alig hatezren tértek haza.) Sztálin és a szovjet hadsereg addigi legnagyobb győzelmét ünnepelhette, Német országban pedig, amikor hosszú hallgatás után végre elismerték a vereséget, háromnapos gyásszal emlékeztek az áldozatokra.