A Waffen-SS formálisan 1939. december 1-én került felállításra, amikor Adolf Hitler utasítására, Gottlob Berger SS-Brigadeführer vezetésével létrehozták a Fegyveres SS Kiegészítő Hivatalt (Ergänzungsamt der Waffn-SS). Az átszervezést a haderőfejlesztés tette szükségessé: Heinrich Himmler SS-Reichsführer javaslatára a kiképzett és felfegyverzett SS-alakulatokból felállításra került az SS-Verfügungsdivision (SS-Rendelkezési Hadosztályok), amelyhez a Deutschland, a Germania és a Der Führer ezredeket rendelték.
A Waffen-SS gyökerei azonban jóval messzebbre, egészen a Nemzetiszocialista Munkáspárt megalapításáig nyúlnak vissza, amikor Hitler testőri feladatokkal ruházta fel két lojális hívét, Josef Berchtoldot és Julius Schrecket. A rá következő hónapokban a kétfős testőrkülönítmény gyarapodásnak indult, és létrejött a Stosstrupp Adolf Hitler (Adolf Hitler Rohamcsapat).
A Josef Berchtold által vezetett, 30 fős különítmény tagjait Hitler világnézeti doktrínái szerint válogatták: elvárás volt a „tiszta német vérvonal”, valamint a nemzetiszocialista ideák kritika
nélküli elfogadása és gyakorlása. A Hitler által személyesen parancsnokolt rohamosztag rövid életűnek bizonyult, mivel az 1923. november 9-én végrehajtott sörpuccsot követően a hatóságok feloszlatták a félkatonai szervezetet.
Hitler, miután 1924 decemberében kiszabadult a landsbergi börtönből, rögvest hozzálátott a párt újjászervezéséhez, így a politikai mozgalom fegyveres szárnyát is rekonstruálni kívánta. A feladatot Julius Schreckre, a Stosstrupp alapítójára bízta, aki felkereste a régi harcostársakat, és hetedmagával alapította meg az Adolf Hitler Rohamosztagot, amely rövidesen új nevet kapott: Schutzstaffl.
Az SS fennállása első napjától különleges pártszervezetnek számított, a tagokat önkéntes alapon, szigorú felvételi követelmények szerint válogatták ki. A Hitler személyes testőrségeként szolgáló egység az eredeti tervek szerint földrajzilag széttagolt szervezet volt; az NSDAP vezetője azt tűzte ki célként, hogy minden nagyobb német városban működjön egy tíz főt és egy parancsnokot számláló különítmény. Ezáltal a Führer valamennyi fontos német településen rendelkezhetett egy személyéhez lojális gárdával, amely bármilyen parancsát teljesítette. Azonban a terv megvalósítása csak vontatottan haladt; a Hitler sofőrjeként szolgáló Schreck, az 5. számú SS-tagkönyv birtokosa nem tudott megbirkózni a rá rótt feladattal, így Hitler 1926-ban Josef Berchtoldot nevezte ki helyére. Ám az SS fejlesztése ezt követően sem haladt a Hitler által elvárt tempóban, így 1928-ban ismételt vezetőcserét hajtott végre, és a személyes szárnysegéddé átminősített Josef Berchtold helyébe az SA egykori tagja, a rendkívül ambiciózus Heinrich Himmler lépett.
Az SS ezt követően látványos fejlődésnek indult: 1928-ban, Himmler kinevezésekor a testület teljes létszáma alig 280 főre rúgott, 1933 elején, mindössze öt évvel később pedig immáron 52 000 fő szolgált a pártszervezetben. Ugyanebben az időben az SS ismeretsége is megnövekedett: a nemzetiszocialista mozgalom élcsapataként a Védosztag rendszeresen vonult fel a pártrendezvényeken, ellátták a biztonsági feladatokat, valamint ők adták az állami ünnepségek díszőrségét.
