Po odchodu od 10. praporu myslivců byl v roce 1922 zařazen do velitelství inspektorátu transportních oddílů (Inspektion der Kraftfahrtruppen), jemuž velel generálmajor von Tschischwitz. Náplní tohoto inspektorátu bylo jednak taktická činnost a pak také rozsáhlá administrativa. O něco později dostal nabídku nastoupit k 7. bavorskému motorizovanému transportnímu praporu v Mnichově, což po krátkém váhání přijal. Jeho velitelem byl major Oswald Lutz, vystudovaný železniční inženýr, který měl za úkol předat Guderianovi své znalosti. Velitel štábu velitele inspektorátu jej však přiměl, aby pracoval v logistice, což se vznětlivému Guderianovi nelíbilo. Za trest byl poslán zpět k 10. praporu myslivců, což způsobilo, že mu "spadl hřebínek". Zanedlouho mu bylo opět umožněno pracovat pod von Tschischwitzem a vstoupil tak do světa vědy, nevnímaje tehdejší problémy Německa (ekonomické i politické). Guderian poznal, že stávající armáda se svými zbraněmi je velmi slabá a že transportní vozidla, která měla k dispozici byla velmi zranitelná. To ho vedlo k myšlence vytvoření obrněného vozidla, protože doba těžkooděnců byla dávno pryč. I když proces, který vedl k této myšlence byl dlouhý a složitý, bylo jasné, že je to to pravé, co armáda potřebuje. Tak se dostal i k tankům, které jej tak uchvátily již v I. světové válce. Vyhledal několik německých vojáků, kteří se účastnili tankových bitev, studoval německé, francouzské i anglické vojenské materiály. Zaujal jej zejména J. F. C. Fuller, jež byl prvním, kdo dal podnět k vytvoření prvního samostatného tankového praporu, jehož články o budoucnosti obrněné mechanizované válečné síly četl se zaujetím.

Podle Versailleské smlouvy však nebylo Němcům dovoleno vyvíjet vlastní tankové jednotky a další výzbroj, a byli proto nuceni hledat mezery v této, pro Němce, potupné smlouvě. Vznikla tak Rapallská smlouva, která byl stvrzena 22. dubna 1922, a které nastolila spolupráci mezi oběma signatáři, tedy Německem a Ruskem, a znamenala vojenskou spolupráci. Za krátko byly vytvořeny tři experimentální střediska, kde byly testovány nové vynálezy a školeni noví specialisté. Byly zde vyvíjeny nejen ruské, ale i německé tanky. Součástky na německé tanky byly tajně vyráběny v Německu a pak posílány ke složení a testování do Ruska, do střediska na řece Kamě. Guderian, podporován von Tschischwitzem a Lutzem, se nadále věnoval motorizaci s jeho typickou horlivostí. Pečlivě studoval minulost a přispíval svými články, které obsahovaly jeho myšlenky ohledně dalšího vývoje motorizovaných jednotek, do vojenského týdenníku Militar-Wochenblatt. Jeho přesvědčivá a přesná vysvětlení, prokládaná historickými precedenty a nezbytnými argumenty na posluchače vždy hluboce zapůsobily. Začal se propracovávat stále výše a v roce 1924 dostal nabídku na místo instruktora taktiky a vojenské historie. Jeho nadřízeným se stal jeho starý známý von Tschischwitz, jež mu poskytl dostatek volného prostoru. V této době Guderian prožíval idylické dny, věnoval se akademické činnosti a studoval historii bitev.

V roce 1925 byla podepsána smlouva v Locarnu, což znamenalo rehabilitaci Německa a krátký mír v Evropě. O rok později bylo Německo přijato do ligy národů a nakonec v roce 1930 byla spojenecká vojska stažena z Německa. I přes konference o odzbrojení probíhal na pozadí těchto událostí vývoj obrněných sil, ať už to bylo v Británii a nebo v Rusku. V lednu 1927 byl Guderian povýšen do hodnosti majora (Major) a v říjnu byla jeho akademická činnost ukončena novým postem v Truppenamtu byl tudíž vlastně zpět v generálním štábu. Tam dostal místo v sekci transportu, což byly jen zásobovací jednotky, vybavené pouze nákladními automobily a motocykly. Tato sekce náležela k operačnímu oddělení, kde se Guderian zabýval vývojem těchto vozidel. Na tomto místě měl možnost seznámit se jak technologickými, tak i operačními problémy. Nebyl sice inženýr, ale díky své jedinečné technické vyspělosti tento nedostatek plně nahradil. Oddělení ve kterém pracoval mělo na starosti silniční přepravu jako pohyblivější rozšíření dopravy po železnici.

V době po uzavření Rapallské smlouvy bylo nutné vycvičit nový štáb. Transportní oddělení vytvořilo školu pro instruktáž důstojníků, civilních zaměstnanců a poddůstojníků, kde se lidé seznamovali s automobily. V roce 1928 se ještě přidalo taktické zaměření, kde se studovalo využití tanků a jejich spolupráci s ostatními složkami armády. Zakladatelem tohoto oddělení byl právě Guderian. V roce 1929 dostal možnost vyzkoušet si řízení tanku, odjel totiž do Švédska k tankovému praporu. Zasedl do tanku M 21 německého původu, měl možnost zhodnotit jeho klady i zápory. Na závěr svého pobytu ve Švédsku byl svědkem cvičení, při němž tanky spolupracovali s ostatními zbraněmi. Nemůže být pochyb o tom, že tato událost znamenala další zlom v jeho další kariéře. Ještě v roce 1929 vytvořil scénář pro budoucí konflikt a představil jej jak generálnímu štábu, tak v terénu. V létě 1929 pořádal divizní polní cvičení, kde byly představeny složky budoucích tankových divizí. V tomto cvičení nevystupovaly sice skutečné taky, ale jakási "obrněná vozidla", která působila ubohým dojmem a stala se terčem posměchu. Nadšence toto cvičení však jen utvrdilo v tom, že v tomto odvětví je budoucnost. V německé armádě se Guderian snažil prosazovat koncept tankových divizí tak, jak si jej představovali nejlepší teoretici, tedy vyváženou sílu tanků, obrněných vozidel, motorizované pěchoty, ženistů a dělostřelectva. Jedním z těchto teoretiků byl právě J. F. C. Fuller. Němci znali mnoho jeho děl, obsahovaly totiž velice progresivní myšlenky, které se také částečně opíraly o zkušenosti z I. světové války. Guderian však četl nejen Fullera, protože se snažil získat všechny dostupné materiály o motorizovaném vojenství, četl i další autory, jejichž díla, díky své dobré znalosti angličtiny a francouzštiny, překládal.

Guderian v tomto období zaznamenával mnoho úspěchů a ve spojení se svým novým nadřízeným, inspektorem motorového transportu Lutzem prosazoval své plány na nejvyšších místech. Navštívil také tajné testovací zařízení v Kazani, v Rusku, kde se setkal s několika ruskými důstojníky, kteří se později staly jeho smrtelnými nepřáteli. Tehdy Guderian velel Inspekci všech motorizovaných přepravních jednotek a byl učitelem taktiky na berlínské Vojenské akademii (taktika pro motorizované transportní jednotky). V lednu 1930 byl Guderian, na vlastní žádost, jmenován velitelem 3. (pruského) motorizovanému transportnímu praporu v Koblenzi (Kraftfahr - Abteilung), jež byl vybaven všemi složkami, které měly mít budoucí tankové divize. Podstatným nedostatkem této jednotky však byla absence důležitého vybavení - moderní bezdrátové vysílačky. U tankových jednotek se, po překotném vývoji radiotechniky v 20. letech, začaly vyvíjet výkonné tankové rádiové sítě. Právě tato věc se zdála Guderianovi velice důležitá - komunikace, klíč k řízení a velení. Do vývoje komunikace tak bylo vkládáno stejné úsilí jako do vývoje vlastních bojových strojů. Nové rádiové přístroje a bojové stroje byly intenzivně zkoušeny zejména u 3. motorizovaného praporu. Byla procvičována každá fáze boje, spolupráce s dělostřelectvem a letectvem. Při tomto cvičení si Guderian uvědomil důležitou věc - že v tankovém praporu velitel velí zpředu, ne zezadu. Ve 2. světové válce jej pak znalosti komunikace získané v této době učinily prvním velitelem armádních sborů, jež řídil bitvy přímo z pole, z vozidla s rádiem. Psal články o obrněném a motorizovaném vojenství a pomáhal odstranit technické problémy prvních tanků. 1. února 1931 byl pak povýšen na podplukovníka (Oberstleutnant). V říjnu 1931 se pak stal náčelníkem štábu Inspektorátu motorizovaných jednotek.

Tato doba s sebou přinášela nejen masivní rozvoj radiotechniky a motorizace, bohužel i hospodářskou krizi. Vzrůstala nezaměstnanost a země se znovu začala zmítat v mocenských bojích. NSDAP (Národně-socialistická německá dělnická  strana) a její šéf Adolf Hitler bojovali o moc s komunisty a další konflikt se pomalu rýsoval. Špičky armády, v této době ještě stále nepolitické, se však začaly stavět proti NSDAP, která pomalu uchvacovala moc ve státě (vrchní velitel generálplukovník Wilhelm Heye odmítl v roce 1927 vpustit nacisty do armády a jeho následovník generálplukovník Kurt von Hammerstein jej v tomto podpořil). Někteří, jako třeba generálplukovník Werner von Blomberg, velitel Truppenamtu, však propadli kouzlu Adolfa Hitlera. Sliboval národu zaměstnanost a blahobyt, armádě výzbroj, a tak se 30. ledna 1933 stal říským kancléřem (Der Führer und Reichskanzler). Politická pozice, kterou zastával v této neklidné době Guderian byla značně rozpolcená, on sám však chtěl pro Německo to nejlepší a zdálo se, že prostřednictvím Hitlera se tak stane. V dopisů, které poslal své ženě je patrné, že jej Hitler svými projevy uchvátil, a že v Hitlerovi viděl moderního Bismarcka, který se stane spasitelem německé říše. Jeho myšlenky byly naplněny nadějí, protože se mu Hitler rozhodl v tvorbě obrněných jednotek pomoci. V únoru 1933 byl povýšen na plukovníka (Oberst).

Nahoru