1927年2月6日，国民革命军第1军教导师改称第20师

　　1927年2月6日下午4时，广州国民政府军事委员会召开会议，通过国民革命军第1军教导师归广州市卫戍司令指挥案，教导师改称第20师，直辖于军事委员会，归广州卫戍司令指挥节制；教导师第2团、第3团奉命开赴东莞，第1团仍驻虎门太平、沙角，暂不移动。

　　名为“教导师”，却非源自黄埔军校教导团

　　虽然其前身被称为“教导师”，但20师的士兵却并非像国民革命军第1军第1师、第2师一样，源自黄埔军校教导团。1925年10月4日，从四川率部进入广东的建国联军总司令熊克武，被蒋介石、汪精卫等以广州国民政府名义宣布“勾结陈炯明通敌叛国、图谋颠覆广州国民政府”的罪状而逮捕，其部众建国联军和国民革命军发生战斗，除一部逃出广东外，一部分士兵接受改编，其番号被定为国民革命军第1军教导1团（另一种说法：其番号是“黄埔军校教导第1团”），团长为黄埔1期生、四川人李杲。不久，建国联军的另一部队接受改编，组成教导3团，调李杲任3团团长，所遗教导1团团长由黄埔军校战术主任教官张元祜接任。接着，国民政府军事委员会又把前身为建国粤军第2师新编团（团长叶剑英）的中国国民党党军第1支队（司令叶剑英）改编为教导2团（团长叶剑英）。1925年12月20日，第二次东征即将结束之际，以上教导1、2、3团三支部队被合编为国民革命军第1军教导师（一说为“黄埔军校教导师”）。后又有部分隶属于虎门要塞部队、东江剿匪司令部、东江海军警备队等的士兵加入。1926年1月4日，该教导师由王柏龄出任师长，并隶属于第1军（军长由黄埔军校校长蒋介石兼）。20日，蒋介石不再兼任第1军军长（仍兼任国民政府军事委员会委员、广州市卫戍司令），遗缺由何应钦接任。2月6日，该教导师改番号为第20师（师长王柏龄）。时隔一个月，钱大钧接替王柏龄任20师师长。

　　1926年，国民党军第1军由广东出师北伐后，国民政府为加强广东的后方防守力量，将20师主力留在广东，仅令其部分部队跟随北伐军在福建、浙江等地作战。1927年9月，20师接收大批投诚的北洋军，扩编组成第32军，钱大钧任军长。1928年该部离粤驻江苏，担任北伐军的后方警卫；国民革命军编遣会议后，该军缩编为第3师，钱大钧任师长。此后至抗战爆发，在陈继承（黄埔军校战术教官）、李玉堂（黄埔1期生）两任师长的指挥下，第3师先后参加了粤桂战争、中原大战、讨伐石友三、平息“闽变”、镇压两广“六一事变”、“围剿”红军等战斗，但在军事作战中一般担任偏师，战绩也乏善可陈。

　　抗战中以善于防守、敢打硬仗著称

　　1937年抗战全面爆发后，第3师先后编入第8军和第10军，8年间先后参加淞沪会战、徐州会战、武汉会战、三次长沙会战和1944年的长衡会战等对日作战，以善于防守、敢打硬仗著称于世，受到蒋介石的多次嘉奖。

　　1937年7月抗日战争全面爆发，第3师奉调上海参战。1938年4月，第3师调往徐州战场，被配置在砀山、商丘、兰封一线担负警戒任务。其间，多次担当掩护主力部队撤退任务，与日军进行多次激烈的阵地阻击战。武汉会战开始后，已经编入第8军的第3师在师长赵锡田（黄埔4期生）指挥下于鸦雀山阵地阻击日军。第8军名为三师制甲种军，但只有第3师有战斗力，而其他配属部队多为暂编师、新编师或预备师。鸦雀山战斗后，第3师因损失过重，不支后撤，在武宁地区继续担负阻击日军的任务。1939年2月，日军对南昌发起进攻，第3师在“棺材山”阵地英勇抵抗，苦战3天3夜，在友军配合下歼灭日军第6师团第47联队，但为此也付出了巨大代价：牺牲3个营长、50多个连排长，为国捐躯官兵共达3000多人，其中的一个团的生还者仅5人，全师幸存者总数不足一个团。此战结束后，上级特赠送第8军“泰山军”锦旗一面，“泰山军”之名由此而来。此后第8军军长李玉堂指挥第3师等部队一面补充兵员、加以整训，一面与日军对峙，达一年之久。第一次长沙会战时，第8军一度配合战区主力投入反攻。

　　1940年4月，第8军被合并入第10军，“泰山军”之名也随之被带到了第10军，第3师也因此进入了“最辉煌时期”。1941年9月，第二次长沙会战开始后，第10军防守的福临铺、金井阵地被先后突破，第3师损失惨重。被迫收缩防线后，3师利用地理优势阻击日军4昼夜，终于坚持到援军赶至将日军击退。1942年1月1日，日军第三次猛攻长沙，遭到第10军官兵奋勇抗击，周庆祥（黄埔4期生，接任赵锡田任第3师师长）等该军3个师长均亲临第一线督战。第3师第7团团长张振国在无兵增援的情况下，亲自率领仅有的两名机枪手冲上最前沿，用机枪打退了日军多次进攻。蒋介石得知第10军的英勇表现后很感动，特意给第10军发了一份电报以示鼓励：“我第10军全体官兵，两日来坚守阵地，奋勇歼敌，致堪嘉慰。此次长沙会战之成败，全视我第10军之能否长期固守长沙，以待友军围歼敌人，此种光荣重大任务，全国军民均瞩目于我第10军之能否完成，亦即我第10军全体官兵成功成仁之良机。”1月4日，日军不支，撤围而去，中国军队取得了闻名中外的第三次长沙大捷。第10军3个师均荣获“飞虎旗”，第10军由此成为中央军中第一支荣获“飞虎旗”的部队，军长李玉堂荣获青天白日勋章，3位师长获四等宝鼎勋章。

　　1944年常德战役后，第3师随同第10军参加长衡会战，守衡阳47天，予日军以重创，创造出抗战中中国军队守城的最长纪录。但第10军在外无援军、内无粮弹的艰难情况下，几乎伤亡殆尽，据统计：该军伤亡率已近75％，其中主力部队预备第10师伤亡90％，第3师伤亡70％，且中下级军官几乎全部伤亡，每一次战斗均要连升数个营长、连长。一次战斗中，第3师第8团在半日之内连升5个营长，但5人半日之内均先后壮烈殉国。第3师师长周庆祥曾要求军长方先觉立即派援军前来支援。不久，方先觉带着两个卫士出现在了第3师师部，对正在焦急等待的周庆祥说：“援军就是我们3个人。”到衡阳沦陷时，第3师还在战斗的官兵仅剩70余人，另有副师长何竹本（黄埔6期生）率300人冲出重围。

　　敢于抗命的“天子门生”

　　这支部队自成立伊始，由于其官长基本由黄埔军校教官、学生出身者担任，又起家自国军第1军，对蒋介石个人有着强烈的向心意识，而对于黄埔系以外将领担任该师指挥有着很大排斥情绪。早在1928年，该师第一任师长钱大钧调离、毛炳文前来接任时，第3师内部便普遍表示不满，理由是毛并非黄埔出身，因此无权指挥黄埔生。蒋介石见状，顺势指使军委会将毛炳文调离，任命黄埔军校战术教官出身的第3师副师长陈继承接任师长，众官兵立即表示赞成。

　　抗战时期的第二次长沙会战后，第9战区司令长官薛岳认为李玉堂（时任第10军军长）对于金井失陷有不可推卸的责任，对其予以撤职处分并调他到战区长官部任职。李玉堂认为薛岳对他不公，既不办理交接手续、也不到新岗位赴任，索性直接离开部队回家“休息”去了。李玉堂走后，作为其老部下的第3师官兵立即强烈抗议，第10军其他各级军官也基本为黄埔军校出身，自然随声附和。他们纷纷联名上诉告状说：第10军在第二次长沙会战中是有功的部队，就算不嘉奖，但也不能把他们的军长撤职。而被任命为第10军军长的第71军副军长钟彬（黄埔1期），也认为老同学李玉堂是“无过受罚”，因此以“部队调防、事务繁忙”为由，拒绝接任，第10军一时间成了一支没有军长的队伍。1941年12月，日军集结重兵发动第三次长沙会战，而负责长沙警备任务的第10军还没有军长。于是，第9战区司令长官薛岳只好屈尊恳请仍住长沙市内的李玉堂复出，谁知李玉堂根本不理。最后薛岳求到蒋介石，直到蒋介石亲自与李玉堂通电话后，李玉堂才决定重新统领第10军。根据曾经在第10军服务的蒋鸿熙回忆，这通电话的内容如下——蒋：“你是第10军军长李玉堂吗?”李：“报告委座，是的。”蒋：“你是黄埔1期学生吗?”李：“报告校长，是的。”蒋：“那好了，那么长沙交给你了。”随后电话挂断，李玉堂立即复出指挥第10军。

　　1944年常德保卫战中，第10军在军长方先觉（黄埔3期生，接任李玉堂任10军军长）的率领下前往增援，但遭日军埋伏，伤亡很大。战区长官部要撤方先觉的职，却遭到了第10军官兵的一致反对，他们联名拒绝新军长到任，战区长官部为了避免该军第二次出现没有军长的尴尬情况，只好不了了之。

　　解放战争中被三次歼灭

　　从1927年八一南昌起义到1949年中华人民共和国成立，由钱大钧一手创立的这支部队，便不断和共产党领导的红军、解放军交手，但屡战屡败，其中三次竟被打得几乎全军覆没。

　　1927年9月，刚刚扩编为32军的这支部队，就在钱大钧的指挥下，同共产党领导的八一南昌起义军在江西省会昌县展开了一场激战，结果被歼灭5000余人、被俘900余人，送给八一南昌起义军在其南下途中“唯一一场胜利”。

　　1934年9月1日至3日，在位于福建西部长汀县东南的温坊(现名文坊)，参加“剿共”的第3师，被朱德指挥下的红军消灭了大半。此次失败让蒋介石勃然大怒，亲自下令枪毙了3师8旅旅长许永相（黄埔1期生）。

　　抗战末期，第10军在重庆重建，由第27集团军副总司令李玉堂任军长（不久由赵锡田接任），第3师师长依旧是周庆祥。抗战胜利后，该军又被缩编成整编第3师。解放战争爆发后，整编第3师奉命参加了阻击中原解放军突围的作战，1946年9月，该师在师长赵锡田的带领下开往山东，参加定陶战役。

　　解放军晋冀鲁豫野战军各部对国民党3师坚决阻击，并采取诱敌深入的计策，逐步将第3师引入包围圈。9月5日夜，解放军各纵队向赵锡田发起攻击，战至6日上午，王近山、陈锡联、杨勇、陈再道等解放军纵队发起总攻，整编第3师绝大部分被解放军晋冀鲁豫野战军围歼，师长赵锡田被俘，仅有第3旅旅长何竹本带500人逃脱。经过教育，赵锡田和被俘虏的3000余名整3师官兵全部释放回家。

　　此次被歼后，国民党又于1947年2月在豫北重建整编第3师，由李楚瀛任师长。下辖第3旅、第20旅。1947年下半年，解放军在全国范围内由战略防御转入战略进攻。解放军华东野战军和陈赓所部分别沿平汉、陇海铁路展开大规模破击战，将新组建的国民党整编第3师牵制在河南省西平县境。12月24日，第3师被解放军包围在祝王寨、金刚寺一带。12月25日下午7时，祝王寨、金刚寺战役打响。经一天一夜的激战，第3师被歼灭，两个旅长均被击毙，副师长、参谋长连同属下8300人被俘。

　　1948年1月，第3师在湖北第三次被重建，由陈诚“土木系”的覃道善任师长，还将原来属于18军的王牌部队“威武团”“英雄团”等部队调入该师，以增加战斗力。1948年10月，国民党当局又把第3师扩编为第10军；原属于第3师的何竹本部置换给18军。在淮海战役第二阶段中，第10军和第18军被解放军围歼于安徽宿县双堆集地区，刚刚晋升为军长的覃道善及其主要将领被俘，第18军也几乎被全歼。值得一提的是，本次战役中何竹本竟第三次率残部成功脱逃。

　　然而，最终消灭这支屡败屡建番号的部队的却不是解放军。1949年2月，国民党当局在浙江江山重建第10军，归第12兵团司令官胡琏指挥。然而，12兵团也已被解放军歼灭大部，兵源枯竭，结果刚重建不久的第10军就被胡琏以整军为借口，全员被补进了18军，这样，第10军或第3师的番号也就于1949年5月消失了。