蒋介石安排黄埔军校学生组织起来，成立三民主义力行社、复兴社、共进社等组织。胡宗南参与筹建复兴社，是该组织的核心，成为蒋介石十三太保中的第一号太保
１９３２年，蒋介石召集亲信创立复兴社，亲任社长。其中有十几个核心人物，概称“十三太保”。胡宗南实际上是这个组织的幕后人物，可谓核心中的核心，当之无愧的是“十三太保”中的第一号“太保”。
蒋介石因“九一八”事变后国内外形势的逼迫与国民党内各反蒋派的联合进攻，已于１９３１年１２月１５日宣告辞职下野，回浙江奉化老家。１９３２年１月间，胡宗南的第一师驻防郑州，没有什么战事，便决定回家乡浙江探亲。路过南京时，胡宗南专门去拜会了几位黄埔同学。
胡宗南从同学口中得知，蒋介石在下野前一个多月，连续三次秘密召见十多个黄埔同学的核心人物，有贺衷寒、邓文仪、康泽、桂永清、萧赞育、周复、滕杰、郑介民、戴笠等人。这些人都是在南京中央军事机关工作的蒋介石的亲信。
蒋介石面临内忧外患，十分焦虑，他痛心地对众亲信们说：“我们的党一点力量也没有，我们的革命一定要失败……”亲信们听出了蒋介石的弦外之音，那是暗示黄埔学生赶快团结起来，协商筹建一个黄埔学生的秘密核心组织，然后去控制全国的军队，开展各种政治、军事、宣传、组织与特务的活动，从而强有力地维护蒋介石的领袖地位，维护南京中央政府。
胡宗南听了关于蒋介石讲话的介绍，深以为然。因为胡宗南这几年率兵南征北战，一直在思考着如何将黄埔军校毕业同学组织起来，建立一个坚强有力的组织，形成一个强大的军事派系，从而在中国的政治舞台上发挥更大的作用，并求得自身更快的发展。
自南京国民政府成立以来，“黄埔系”军事集团得到了迅速的发展。胡宗南与他的黄埔同学在校长与领袖蒋介石的特意维护与大力提拔下，在短短的几年时间内，官位不断上升，实力急剧膨胀，军政权力越来越大，都是才３０岁左右的年纪，便手握重兵或大权，官拜师长、旅长，军阶达中将、少将，成为国民党军中迅速崛起的一个日益强大的军事实体，在国民党军中的地位与作用日益增强，越来越不容人们忽视或小看。因此胡宗南越来越认识到结成政治团体与军事派系的极端重要性。
“黄埔系”都是黄埔军校开办以来的各届毕业生，是校长与领袖蒋介石的“天子门生”，为蒋介石特别信任与宠爱。他们跟随蒋介石征战多年，被蒋介石不断提拔为将校的高中级军官，手握军政权力与兵力，是蒋介石政权最重要的军事支柱。他们都奉蒋介石为唯一领袖，绝对忠于蒋介石，绝对服从蒋介石的任何命令，并以此为荣，成为蒋介石东征西讨、打击压制党内外一切敌对势力的工具；他们之间以同学关系，互相支持、互相依靠、互相标榜、互相提携、共存共荣，形成了一股咄咄逼人的势力。
胡宗南在黄埔系同学中，算是老资格。因为他是黄埔一期学生，又深得蒋介石的宠爱，地位显赫，又与黄埔同学有着良好关系，赢得了威信，当之无愧地是黄埔同学中首届一指的人物，可以说是黄埔系的首领。
但几年来，黄埔系虽势力大增，却一直未建立一个强有力的具体组织。过去，黄埔同学中的“孙文主义学会”与“青年军人联合会”被蒋介石勒令解散后，曾根据蒋介石的指示，成立了一个名叫“黄埔同学会”的组织，由黄埔一期的曾扩情负责。但那个组织太松散，实际上发挥不了很大作用。虽然后来又改组为“中央各军校毕业生调查处”，但由于黄埔毕业学生分化严重，情况仍没有彻底改观，该组织也形同虚设。
胡宗南等黄埔系军要、政要，在这几年国内纷繁复杂、翻云覆雨的政治斗争与军事斗争中，越来越感到将黄埔同学组织起来，建立一个坚强有力的军事核心组织的必要性。这样，可以更有力地维护蒋介石的领袖地位，可以形成黄埔学生的军事派系与集团力量，还可以保障与促进黄埔学生的个人前途发展，特别是有利于实现胡宗南等黄埔学生领袖的光辉灿烂的未来。
胡宗南与他的几个志同道合的黄埔同学早就商量过，要在黄埔同学中选择一些最忠于蒋介石、最忠于主义与团体、又最有军政才干与活动能力的人，建立一个秘密核心组织，然后再以此核心组织去联络、团结广大黄埔同学，掌握与控制国民党的军队，从而支持与维护蒋介石牢牢控制全国的党政军最高权力。
早在１９３０年年底中原大战结束，胡宗南率第一师进驻开封时，就与正在这里进行军事情报活动的戴笠协商策划，秘密成立了一个军事核心组织——“三民主义大侠团”，又名“除奸团”，参加者是清一色的黄埔出身的国民党军官，有冷欣、萧洒、陈质平、王天木、马志超等人，胡宗南与戴笠为首领，王天木为书记，马志超管总务等。其任务是维护蒋介石的领袖地位，制裁与铲除反蒋人士。这个组织因各种原因存在时间不长，活动也未展开，但却是后来成立的三民主义力行社的先驱。
现在，蒋介石也要黄埔学生亲信成立自己的组织了，胡宗南听了自然喜出望外。他听说这天晚上，曾扩情、贺衷寒、康泽等十多位黄埔同学正在南京“浣花菜馆”聚餐并讨论成立组织的问题，急忙赶去入席。大家热烈欢迎胡宗南并请他发言。胡宗南当仁不让，提出他的意见说：“同学们要团结，这一问题很急切，老是这样谈，时间已经过去很多了，要推举几个人负责筹备。”胡显得比别人更急迫与实际。大家同意了他的意见。胡宗南也就不客气地立即推举了贺衷寒、酆悌、滕杰、周复与康泽五个人负责筹备，大家均无异议。胡宗南说完就退席了。他要赶去奉化见蒋介石。
筹备建立黄埔学生组织的活动就此正式开始了。因此，后来外界传说，胡宗南是所谓复兴社的“十三太保”之一，即是最初酝酿和筹组这个组织而后又始终是中心骨干的一批人。当然“十三人”只是个概数，并不一定仅是十三人，也不能具体指出是哪十三个人，但胡宗南与贺衷寒、康泽、邓文仪、戴笠、桂永清等是其中的核心与骨干人物，却是事实。
１９３２年１月底，蒋介石回南京复职，不久担任军委会委员长。到２月中旬，胡宗南率第一师进驻苏南。就在这期间，贺衷寒、康泽等人在南京紧张活动，终于在２月底３月初，在南京中山东路励志社里召开成立大会，蒋介石亲自到会，宣告成立“三民主义力行社”。“复兴社”是力行社的外围组织。两个组织，一套班子。由会议选举、经蒋介石批准，产生了领导机构。有常务干事５人，干事１２人，还有候补干事若干人。在干事会下，设处理日常事务的书记处，有书记与助理书记，下面分设总务处、组织处、宣传处与特务处等。胡宗南被选任为１２个干事之一。
本来蒋介石不许复兴社吸收带兵官参加。黄埔学生出身的带兵官，尤其是师长以上的，非经特许也不能参加。只有胡宗南与黄杰、桂永清等极少数人是例外，胡宗南还实际上成为力行社与复兴社的领导骨干。从这里可见蒋介石对胡宗南的破格优待与特殊宠爱。当然，由于胡宗南经常统兵在外，南征北讨，不可能常在南京，更不可能常参加力行社或复兴社的日常领导工作与各种组织活动。胡宗南本人平时也不愿对外人多谈力行社或复兴社的事，甚至连其名称也不愿提。但这并不能否认胡宗南对这个组织的高度重视及其对这个组织的重大作用与影响。
复兴社的骨干分子萧作霖后来回忆与评价胡宗南时，说：胡宗南在复兴社组织中没有负实际责任，并且从不轻易与人谈到或提及复兴社这个名称，好像他是并不热衷于任何政治活动似的。其实他正是一个有极大政治野心、极热衷于政治活动的人。……在屡次深谈中，我才发觉他有意图取中原作为基地，并有意于谋取统制复兴社整个组织，他的野心是不下于蒋介石的。
十年内战期间，胡宗南升任第一军军长兼第一师师长，成为蒋介石的一张王牌，却不认亲生父亲。抗战时期，胡宗南平步青云，成为赫赫有名的“西北王”
１９３０年中原大战爆发，胡宗南升任第一师代理师长，率部与冯玉祥的军队作战。冯玉祥的部下孙良诚也不是等闲之辈，素以彪悍著称，是冯玉祥手下的五虎上将之一。中原大战中，孙良诚的军队是蒋介石的心头患，总是阻碍蒋军的推进。但是只要遇上胡宗南的军队，孙良诚总是望风而逃。这是为什么呢？原来事出有因，二人以前交过手，孙良诚所部惨败，从此孙良诚就有了心理阴影。胡宗南给蒋介石长了脸，蒋介石自然十分高兴，更加器重胡宗南。
在一次战役中，冯玉祥、阎锡山的部队一下子攻到了蒋介石的专列附近，守军以死相抗，但大势已去，蒋介石眼看就要被生擒活捉。正在此时，胡宗南部队赶到，打退了敌人，解救了蒋介石。胡宗南部队威名大涨，战功赫赫，敌人闻风丧胆。胡宗南救驾有功，蒋介石不能再让他屈居“代理”师长，于是正式任命他为第一师中将师长。
在十年内战期间，胡宗南任国民党第一师师长，成为蒋介石镇压异己、“追剿”红军的一张王牌。１９３６年，胡宗南升任蒋介石的嫡系王牌军——第一军军长兼第一师师长。
红四方面军长征途中写的宣传标语：“活捉胡宗南！”
胡宗南从一介书生到八面威风的军长，官越做越大，渐渐得意忘形，居然连生身之父也拒不相认。１９３６年，胡宗南升任第一军军长后不久，军部驻在徐州。他的父亲闻讯后，便从孝丰老家赶往徐州去看他，找到了他的司令部，门口卫兵一问是军长的老爷子驾到，急忙进去报告，胡宗南却面不改色地说道：“这个人我不认识，叫他回去。”卫兵出来回报胡父，老头子听了十分诧异，强压住火气对卫兵说：“你一定传错了，他是我的儿子，我是他的老子，他怎么会不认识我呢？你再去对他讲，叫琴斋自己出来见我。”卫兵不敢怠慢，只好再进去报告，胡宗南立刻翻脸道：“哪里来的混账老头，这样无赖，把他撵走！”随后，他又悄悄安排一名心腹副官去跟踪他父亲。等副官回来报告他父亲住在哪个旅店后，他才化装一番，换上便衣，去旅店看望老头子。
父子俩一见面，胡宗南就说：“以后你不要随便到司令部来找我，现在给你三百块钱，你快快回家去吧！”胡父气得火冒三丈，大骂儿子忘恩负义，一怒之下，老头子钱也没拿，找孝丰老乡借了点盘缠就回了老家。从此，他只当没生这个儿子，一直在孝丰“粮柜”上做小吏，直到得了病不治而死。
抗日战争爆发后，１９３７年８月，胡宗南任第十七军团军团长，参加了淞沪抗战，不久兵退河南信阳。信阳失守后，胡军撤到陕西，盘踞西安，名为扼守河防，阻止河东、山西日寇，实际上则是屯兵西北，执行蒋介石“消极抗日、积极反共”的反动方针，对陕甘宁边区实行严密封锁。１９４２年，胡宗南又被提升为第八战区副司令长官，兼第三十四集团军总司令。
第八战区司令长官为朱绍良，长官司令部驻兰州，下设两个副司令长官司令部：一为胡宗南的副长官部，设在西安；另一个为傅作义的副长官部，设在绥远。胡宗南的部队分布于陕西、甘肃两省，其势力向西远远渗入新疆、宁夏、青海。“四马”（马步芳、马步青、马鸿逵、马鸿宾）等部队虽不隶属于胡宗南，但也受其挟制。朱绍良的第八战区司令长官是徒有虚名，实际上胡宗南当时的实权已大大超过一般司令长官之上。
１９４２年，胡宗南与蒋介石
其实，蒋介石为使胡军成为嫡系部队中的反共“王牌”，便有意培养胡宗南的实力，给胡宗南以各种有利条件。当时归胡宗南指挥的正规部队约有四十多个师，连直属部队共计４５万人左右，警察、宪兵、地方团队和配属他指挥的空军还不算在内。此外，归其领导的多所军事学校和训练班，人员也不下５万人。
在干部方面，蒋介石赋予胡宗南独断的“人事权”。凡胡宗南以下，各集团军总司令的去留，大多决定于胡宗南。蒋介石对他的意见无不言听计从，所有军长、师长都由胡宗南报请任命，团长一级更是全由他直接任免。国民党中央主办的军事学校的毕业生，分配给胡宗南的人数总比分配给其他战区的多。
胡军在补给方面，更是享受优待。武器弹药等各种军事器材，蒋介石均优先供应胡军，使得胡军装备远远优于国民党一般军队。当时胡宗南所领取的经费，要占全国军事支出的四分之一，数额十分庞大。关中八百里秦川，盛产小麦、棉花，胡军粮草、军服等补给也相当充裕。
胡宗南（中）主持军事会议
在蒋介石的有意栽培之下，胡宗南在西北黄土高原上的势力逐渐壮大。他盘踞西北，气势煊赫，成为赫赫有名的“西北王”。他的部下为他吹嘘说，在洛阳掘出一块古碑，刻有“一轮古月照中华”七字，古月者，胡也，说明胡宗南有帝王之相。胡宗南兼任中央军校第七分校主任，该校校址在王曲青龙岭，传说是当年东汉光武帝刘秀东山再起之地，胡宗南便也想借此“发迹”，因而把青龙岭改为“兴隆岭”，把青龙岭下的皇埔村改为“黄埔村”，又把终南山改为“宗南山”，企图独霸西北，称雄天下。
蒋介石对胡宗南的信任非同一般，从他把蒋纬国送到胡宗南的第一军工作这件事便略知一二。蒋纬国当时刚刚从美国装甲兵学校学成回国，蒋介石有意让他在军队中接受些磨练。胡宗南觉得这是蒋介石对他的信任和重视，一点也不敢怠慢，对蒋纬国关照有加。
当时，西安大华纱厂总经理石凤翔是西北地区最大的资本家，他的千金石敬宜才华出众，又长得漂亮。胡宗南便托人牵线搭桥，促成了蒋纬国与石敬宜的姻缘，二人可谓郎才女貌。这件喜事甚得蒋介石欢心，对胡宗南愈加宠信。
胡宗南之所以能够直线上升，除了蒋介石的有意培植外，还与他同“军统”和“中统”的关系密切有关。抗战时期，胡宗南执行“消极抗日，积极反共”的反动方针
军统头子戴笠，字雨农，浙江江山人，黄埔军校六期毕业。胡宗南在刘峙部队任团长时，戴笠曾任胡宗南团部的中尉副官。戴笠在胡宗南身边待了几年，胡宗南认为他机警灵活，有“异才”，就把他推荐给蒋介石。不久，戴笠就受到蒋介石赏识，一跃而成为蒋介石手下的“十三太保”之一，负责主持“军统”。戴笠因胡宗南的推荐而得到蒋介石的重用，因此对胡宗南万分感激，凡力之所及，无不为胡帮忙。当时国民党军队中几乎所有将领，提起军统和戴笠，无不谈虎色变，即使是中央嫡系、黄埔同学，也要讨好戴笠，惟恐有所得罪。唯独胡宗南例外，自戴笠之下，所有军统分子都称其为“胡先生”，一如胡的部下，并到处为其宣扬吹嘘，扩大声势。戴笠在蒋介石面前，也是只讲胡的好话，不说胡的坏话，使胡宗南的地位越来越巩固。
１９２８年６月，胡宗南与戴笠、赵龙文在杭州
中统是以陈果夫、陈立夫为首的ＣＣ系分子为核心的特务组织，在各省、市、县党部和行政机关设有“调统室、科”或“专员”等。中统头子陈立夫直接对蒋介石负责。而陈立夫是浙江吴兴人，曾在湖州吴兴中学任教，是胡宗南的老师。陈立夫有意扶植自己的小同乡和门生飞黄腾达，掌握军权，以巩固ＣＣ系的地位。因此胡宗南在国民党军队中的一帆风顺，直线上升，与陈立夫对他的关照和支持是分不开的。
胡宗南既得蒋介石的绝对宠信，又有军统、中统两大特务系统的关照支持，再加上其本身为人圆滑，颇得一些国民党元老及军界中资深人物的好评，因而在国民党军界中的地位越来越高。
胡宗南当上战区副司令长官的第三年，即１９４４年４月，蒋介石重划战区，任命陈诚为第一战区司令长官，胡宗南改任第一战区副司令长官。胡宗南一向只服从蒋介石一人指挥，对别人概不买账，这次重划战区，不但未晋升司令长官，反而要受陈诚节制，心中十分恼火。他深知陈诚和朱绍良不同，朱绍良是挂名司令长官，可以任自己独断专行，而陈诚则是蒋介石手下的实权派大红人，来了就要掌实权。于是，他秘密召开军师长会议，交待所属军队：陈诚的一切命令、电令和调动令，都必须经胡宗南本人同意方能执行。而他本人则不等陈诚到西安上任，就给蒋介石拍了个电报，称身体不好，上华山养病去了。
陈诚、胡宗南都是蒋介石特别培植起来的心腹干将，当时他俩和戴笠并称蒋介石的“三鼎甲”。１９３１年，陈诚与宋美龄的干女儿——谭延闿的二小姐谭祥结婚后，和蒋介石结成了翁婿关系，更受蒋介石的宠信，而一身兼任数职，掌握军政大权。胡宗南和戴笠关系密切，对陈诚都有意见，就联合汤恩伯、贺衷寒、邓文仪等黄埔系人员，内外起哄，迫使蒋介石把陈诚的政治部部长和三青团中央书记长两个全国性的要职让给张治中，陈诚在国民党内的地位受到了一次不小的打击，气得胃病发作，对胡宗南等黄袍（黄埔）加身的人极为恼火。
当蒋介石在重庆划战区时，陈诚请求担任第一战区司令长官，并点名让胡宗南当其助手，陈诚本想趁此机会压一压黄埔系将领的气焰，不想到西安后，胡宗南的部队根本指挥不动，特别是胡宗南亲任过司令的三十四集团军，更是针插不入，水泼不进。气得陈诚跑到蒋介石面前告状，蒋介石却以一句“胡宗南还是忠于党国的”搪塞过去。
正当胡宗南在华山小病大养时，日寇土肥原部集中了五六个主力师团，共１２万人，向中原发动大规模进攻。中原守军蒋鼎文、汤恩伯部队迅速溃败，郑州、偃师、洛阳、渑池相继失陷，潼关告急，西安震动，胡宗南生怕老巢被端掉，慌忙下山，亲自到华阴指挥。他调集自己的精锐部队三十四集团军和第一军，在陕州虢略镇和豫西等地阻击日军。几个师团分别在灵宝和时家山打了几次胜仗，日军因战线过长，兵力分散而主动溃退。
１９４５年９月，胡宗南在郑州接受日军投降
对此，胡宗南大肆宣扬，吹嘘自己的部队挽救了豫西和中原危局，并大张声势地为参战营以上指挥官记功晋级，传令嘉奖。胡宗南本人也因此更受蒋介石宠信。这一役，胡宗南出兵不多，损失不大，因时机凑巧，占了个大便宜，不仅贬低了汤恩伯等人的威风，抬高了自己的身份，更重要的是蒋介石因此而改派陈诚为军政部长，将胡宗南晋升为第一战区司令长官。这样一来，胡宗南更是春风得意。
１９４５年９月，胡宗南受命担任郑州地区受降长官，并接收豫北、豫西的日本军队。１８日，他协同参谋长范汉杰等人，乘小型飞机到达郑州，主持受降典礼及签字受降令仪式。
典礼完毕，胡宗南发表讲话，他指出：“郑州、洛阳、开封、新乡的日军，到今天才接受命令，开始缴械，本战区当面任务，得以顺利完成，甚为愉快。回想八年以来，赖我们最高领袖蒋委员长英明的领导，卓越的指挥，坚定的意志，唤起全国军民共同奋斗，出兵、出粮、出力、出钱、流血、流汗，支战，拥护国策，和我们同志同胞八年的血战，及能换得友邦的同情与援助，尤其美国朋友的密切合作，极大的援助之下，乃能得到最大的胜利。这一胜利，一洗中国历史的耻辱，一洗中国地理上的污点，一洗中国人民愤恨与不平的心理，我们临此胜利与光辉的一天，我们对于我们的领袖以及抗战的军民以及我们的友邦，尤其美国朋友，应致以崇高的敬意。今天我们遥祝领袖万岁！并祝各位胜利！”讲毕，又举行其他活动，受降仪式结束。