1933 és 1945 között számos csoport fejtett ki ellenállást a náci rezsimmel szemben, mind Németország, mind az általa elfoglalt országok területén.

Saját hazájukban a nácik legkorábbi ellenfelei a kommunisták, a szocialisták és a szakszervezeti vezetők voltak. Habár a hagyományos egyházak hierarchiájába tartozó személyek vagy támogatták a náci rezsimet, vagy eltűrték a diszkriminációt és üldöztetést célzó politikájukat, egyes német teológusok, mint például Dietrich Bonhoeffer, ellenálltak. Bonhoeffert, aki a német fegyveres erők hírszerző szolgálatában (Abwehr) szolgáló, Hitler-ellenes katonatisztekkel állt kapcsolatban, 1943-ban letartóztatták, majd 1945-ben kivégezték.

A német konzervatív elitben és a német vezérkarban is jelen voltak a náci rezsimet ellenzők kisebb csoportjai. 1944 júliusában ezen csoportok szövetsége és egy maroknyi mérsékelt szociáldemokrata politikus Klaus Schenk Graf von Stauffenberg ezredes vezetése alatt összeesküvést szőtt Adolf Hitler meggyilkolására és a náci rezsim megdöntésére, ami nem járt sikerrel.

Egy másik kisebb ellenállócsoport is szerveződött Németországban Hans és Sophie Scholl müncheni diákok köré. Szórólapkampányukban arra törekedtek, hogy nyilvánosságra hozzák a német erők által keleten elkövetett rémtetteket, és hogy aktív ellenállásra buzdítsák a németeket a náci rezsimmel szemben. A Scholl testvéreket és a csoport több másik tagját a Gestapo (a német állami titkosrendőrség) 1943 februárjában letartóztatta, és kivégezte.

Az ellenállás Európa németek által megszállt területein is jelentkezett. Franciaországban Charles de Gaulle tábornok nem volt hajlandó hűségesküt tenni a Vichy-rezsimnek. Londonban megszervezte a Francia Nemzeti Felszabadítási Bizottmányt, és a kollaboráns Vichy-rezsimmel szembeni nyílt ellenállást hirdetett. A francia területeken 1941-ben egyszerre fejlődött ki egy gaulle-ista ellenállási mozgalom és egy kommunista ellenállási mozgalom, amelyek szabotázsakciókkal és rajtaütésekkel támadták a német tiszteket.

Miután a németek 1940 áprilisában megszállták Dániát, egy helyi ellenállási mozgalom kezdte meg működését. Tevékenységeik közé tartozott az informátorok megölése, a német katonai létesítmények fosztogatása és a vasútvonalak szabotálása. Hasonlóképpen Norvégiában is ellenállás alakult ki. Egyik leglátványosabb tettük a norvég nehézvíz-ellátó megsemmisítése volt a vemocki Norsk Hydro Electric vállalatnál, 1943 februárjának végén.

1941 februárjában a holland népesség a szakszervezetek ellenálló vezetőivel az élén általános sztrájkba kezdett a zsidók letartóztatása és a velük szemben tanúsított kegyetlen bánásmód elleni tiltakozásul. Miután a németek 1943 szeptemberében elfoglalták Olaszországot, azt követően, hogy az olaszok feltétel nélkül megadták magukat a szövetségeseknek, a partizán ellenállók (kommunisták és nem kommunisták egyaránt, főként az ország északkeleti részén) komolyan zavarokat okoztak a német hatóságok munkájában.

A Szovjetunióban, Szlovákiában, Jugoszláviában, Görögországban és Lengyelországban partizánoknak nevezett gerillák folytattak fegyveres harcot. Szabotázsakciókban, felkelésekben vettek részt, és nyílt támadásokat és merényleteket intéztek a német megszállók, valamint szlovák és horvát szövetségeseik ellen. A (nem kommunista) lengyel Honi Hadsereg nevű földalatti szervezet 1944 augusztusában lázadt fel a német erők ellen Varsóban, mivel arra számított, hogy a küszöbön álló szovjet seregek a Visztulán keresztül betörnek majd a városközpontba. A szovjetek nem mozdultak előre, azonban a Honi Hadsereg két hónapon át harcolt Varsó romjai felett, mielőtt megadta magát a németeknek. A kommunista Néphadsereg felkelői is aktívan szabotálták és támadták a megszállókat Lengyelország német uralom alatt álló területein.

Ugyancsak 1944 augusztusában indítottak felkelést a szlovák (kommunista és nem kommunista) földalatti vezetők a nácibarát Tiso-kormány ellen. Ez volt a szlovák nemzeti felkelés. A németeknek és a fasiszta Hlinka-gárda nevű milíciának két hónapjába telt a lázadás leverése.

A feldarabolt Jugoszlávia Németország által annektált részén, Szlovéniában a helyi lakosság partizán-ellenállást folytatott, elsősorban kisebb léptékű szabotázsakciók formájában. Szerbiában egy csetnik ellenállási szervezet alakult a jugoszláv hadsereg egykori ezredese, Draža Mihailovic vezetésével. A szervezet felkelése 1941 júniusában katasztrofális vereséget szenvedett, és ezután kerülte a konfrontációt a tengelyhatalmak megszálló csapataival. A Josip Tito által vezetett, többségében kommunista partizánszervezet több nemzetiségből – szerbekből, horvátokból, bosnyákokból (szerb-horvát nyelvet beszélő muszlimok), zsidókból és szlovénekből állt. Tito partizánjai, akik elsősorban Boszniában és Szerbia észak-nyugati részein állomásoztak, hatékonyan és hosszan harcoltak a németek és az olaszok ellen, és jelentős szerepük volt a németek Jugoszláviából való 1945-ös kiűzésében.

1942 májusában cseh ejtőernyős ügynökök, akiket a britek dobtak le Csehországban a londoni csehszlovák emigráns kormány kérésére, Prágában meggyilkolták Reinhard Heydrich SS-tábornokot. Heydrich egyéb feladatai mellett Cseh- és Morvaország birodalmi protektoraként tevékenykedett Prágában. Ő volt a birodalom biztonsági főhivatalának főnöke, és ő dolgozta ki a zsidókérdés „végső megoldásának” tervét. A német SS és rendőrség tagjai megtorlásul Lidice és Ležáky falvak minden férfi lakosát lelőtték, az asszonyokat és a gyermekeket pedig elhurcolták.

A nácik áldozatainak más csoportjaiban is voltak ellenállók: 1944 májusában az SS-katonák megparancsolták a roma foglyoknak, hogy hagyják el barakkjaikat az auschwitzi cigány családi táborban (vélhetően azért, hogy a gázkamrákba vigyék őket,). A késekkel és baltákkal felfegyverkezett romák azonban megtagadták a parancsot. Az SS-katonák visszavonultak. A Jehova tanúi engedetlenséggel álltak ellen a nácizmusnak: megtagadták a német hadseregben való szolgálatot, és a koncentrációs táborok foglyaiként illegális tanulócsoportokat szerveztek.

Az erőszakmentes ellenállás további formái közé tartozott a zsidók rejtegetése, a szövetséges hatalmak tiltott rádióadásainak hallgatása, valamint a titkos, náciellenes újságok kiadása.

Alkalomadtán kapcsolatokkal nem rendelkező, egyedülálló személyek is ellenálltak. Az egyszemélyes tiltakozások egyik leglátványosabb esete Georg Elser asztalos nevéhez fűződik, aki 1939 novemberében megpróbálta meggyilkolni Hitlert egy bombával, amelyet a bürgerbräui sörpince egyik oszlopában helyezett el, a diktátor ugyanis minden évben itt tartott beszédet az 1923-as sörpuccs emlékére. Elser terve meghiúsult, amikor Hitler váratlanul a nyugati frontra távozott, és a diktátor elhagyta a csarnokot, mielőtt az időzített bomba felrobbant volna. Elsert elfogták, amikor megpróbált átkelni a svájci határon, és egy koncentrációs tábor elkülönített cellájában tartották fogva, amíg 1945 áprilisában a Gestapo titokban ki nem végezte.