和防御中有效地执行各种战斗任务，因此在未来战争的陆地交战中，装甲兵的作用是别的兵种无法替代的。
新中国成立了，需要建设更强大的武装力量来保卫国家和维护世界和平，在新中国的国防力量之中，装甲兵是不可缺少，又是迫不及待需要建设的。
选谁来组建新中国的装甲兵部队呢？毛泽东把他的目光移到了许光达的名字上。早在延安时期，毛泽东对许光达就有良好的印象：上过黄埔军校，学的专业是炮兵；到苏联啃过黑面包，主要进修的也是炮兵和坦克兵，这样的“出身”在中国人民解放军将领中并不多见。另外，许光达勤奋好学，这也是毛泽东颇为喜欢的。
一天，彭德怀邀请许光达一家共进午餐，并同游北海。游览中，彭德怀对许光达说：
“战争结束了，军队要成为国防军，要变单一兵种为多兵种，海军、空军要建立起来。陆军里要建立装甲兵、工程兵、防化兵，还要加强炮兵，这些都需要人去搞。你是不是去搞装甲兵？后半辈子为军队现代化出点力。”
人用其才，才能尽其力。彭德怀的建议正合许光达的心愿，许光达岂有不愿之理？他欣然接受了这个任务。他对彭德怀说：“军委让我搞装甲兵，我后半辈子定把心血用在装甲兵上。”
1950年6月，中央军委正式任命许光达为装甲兵司令员。
新中国的装甲兵，从小到大，从弱到强，这其中凝聚了许光达的多少心血！许光达当上装甲兵司令后，创办学校，培养人才，建立基地，锻炼部队，为中国人民解放军的机械化、现代化建设作出了杰出的贡献。把许光达称为中国人民解放军的“装甲兵之父”，实不为过。
万事开头难。许光达受命组建新中国的装甲兵总部机关时，手下只有十几个人，没有办公地点，住在北京前门外的一家小旅馆里。当时，整个中国人民解放军部队里坦克数量很少，并且都是从国民党军队手中缴获来的，技术人员也大都是国民党军队的留用人员。在这种情况下，如何把装甲兵部队迅速搞起来呢？这是摆在许光达面前的一项艰巨工作。
他没有畏难，他把各军区的坦克部队的领导找来，彻夜长谈，反复研究，从中找出两个急待解决的关键性问题：一是整编现有的坦克部队，实行全军统一编制；二是立即着手培训干部。
创业是艰难的。虽说四个野战军各有一支装备陈旧、车辆极少的坦克大队，但要建成一支统一的、能适应现代战争需要的新兵种，困难确实太多，甚至难到连个领导机关都没有。正是在这种基础上，许光达开始了他的创业历程。
首先，经中央军委批准，许光达把原各军区的坦克大队集中起来，整编为3个战车师，并陆续新组建3个坦克团，许光达满怀信心地展开了工作。1950年9月，在许光达的筹措和努力下，装甲兵司令部领导机关成立。10月，许光达在给中央军委代总参谋长聂荣臻的报告中，提出计划在三年内建立一支拥有1000辆坦克的摩托装甲部队。
具体地说，就是要组建11个坦克旅，每个军区建立坦克兵司令部，建立3个中心修理基地（工厂），3个中心仓库，1个坦克学校，1个坦克训练基地。
许光达亲自下到部队搞调查研究，查阅大量的苏军资料，并组织研究制定了坦克师、独立坦克团及独立坦克营三种编制表。经过一段时间的努力，逐步建立和健全了装甲兵司令部领导机关。与此同时，许光达报经中央军委批准，把原有的坦克和从苏联新引进的部分坦克和自行火炮，重新编组了3个坦克师，2个机械化师和40多个步兵师属坦克自行火炮团，从而初步形成了装甲兵部队体系。
1950年10月中旬，中国人民志愿军赴朝参战。1951年1月，许光达亲自组织坦克部队加入到抗美援朝的战争行列中。他对作战部队的战场集结、作战使用以及技术保障等等作了充分的考虑和同密的布置。1951年4月，为了解和研究装甲部队的作战使用及战场技术保障情况，许光达又亲自奔赴朝鲜战场，进行实地考察，使得新中国弱小的装甲兵部队在朝鲜战场上得到锻炼和考验。
创办学校，培养人才，是许光达在装甲兵部队建设中的一项主要工作。1951年9月1日，在许光达的努力下，第一战车学校正式成立，两年后这所学校改称为第一坦克学校，校址在天津。建校之时，从校址的选定，设备的购置，教师的配备，到课程的设置，无不凝结着许光达的心血和汗水。
1952年5月，许光达又以步兵第184师师直机关、坦克第521团等部合编，在北京设立了第二战车学校。学校下辖4个学员大队，1个教练大队。全校共有工作人员1000多人。尔后，许光达又筹备组建了第三、第四、第五坦克学校。1952年9月1日，在第一战车学校成立1周年之际，许光达到校讲话，充分肯定了学校的成绩，同时特别指出培养出的学员要达到“思想意识健康，服从组织，遵守纪律；勇敢，顽强，艰苦朴素，有朝气，有学识，有技术，工作称职。”
许光达给当时的坦克学校制订了校风规则：
勇敢顽强的战斗作风；
雷厉风行的工作作风；
艰苦朴素的生活作风；
虚心钻研的学习作风。
多年来，装甲兵诸多学校始终以许光达制订的这4条为办学方针。
1955年9月，许光达被授予大将军衔。由于他在革命战争中的功绩，他还被授予一级八一勋章、一级独立自由勋章、一级解放勋氧1959年9月，许光达又被任命为中华人民共和国国防部副部长。仍主管装甲兵部队的工作。
装甲兵是一个技术性很强的兵种，而当时我军干部的技术知识和经验都很缺乏。许光达敏锐地意识到了这个问题，他向部队提出了一个重要的口号：
“没有技术就没有装甲部队。”
这个口号抓住了我军装甲兵建设的核心。许光达不仅号召装甲兵的所有干部都要学习掌握坦克技术，而且身体力行，亲自带头学习坦克技术知识和操作技能。他曾在一篇文章中深刻地指出：我国的装甲兵部队和其他兄弟兵种比较起来，还很年轻，无论在学术理论和实践经验方面都还很差，必须继续认真学习世界其他国家的一切有用经验，结合我军的历史经验和我国的具体情况，研究探索人民装甲兵的建设和使用，进一步提高各级军官的作战指挥能力和技术水平，以适应未来战争的需要。
许光达深知，武器装备现代化是军队现代化的重要标志，如果不能研制、生产出性能先进的坦克，装甲兵的现代化就是一句空话。因此，为了改善坦克部队的武器装备，他在中央提出的以自力更生为主、积极引进国外先进技术的方针指导下，一方面积极组建装甲兵科学技术研究机构，大力开展新技术的研究工作，同时抓紧筹建各种类型的坦克制造厂。正是由于许光达的远见卓识和积极努力，后来中苏关系恶化，苏联撤走专家并封锁了所有技术和原材料供应之后，中国很快自行设计和制造出了59式坦克、轻型坦克、水陆坦克、装甲输送车等以及配套车辆。
装甲兵的建设，成了许光达醉心的一项事业。我军装甲兵的《车场勤务条令》《驾驶教范》《射击教程》《内务条令》等一系列规章制度的制订，都包含着许光达的心血！许光达总是对身边的人说：“世上无难事，只怕有心人。”他提出了“没有技术就没有坦克部队”、“为掌握坦克技术而斗争”的口号，自己更是身体力行地走在前面。
在坦克训练基地，人们经常能够看到下基层来视察工作的许光达钻进像蒸笼一样的苏式坦克里学习驾驶坦克。有人劝他说：“你是司令员，那么大年岁了，还钻到坦克里干嘛？”
许光达笑着回答：“装甲兵司令员，不会驾驶坦克，能当司令员吗？学习驾驶坦克，可以更清楚地了解各种坦克的构造、性能和威力，这样才能有话说。否则，外行领导内行，人家不会真心服你，你也就做不好工作，那样我怎么向党交差呀？”
苏式坦克笨重的操纵杆，拉起来有几十斤重，年轻人都感到吃力，更何况许光达已是50开外的人了。但是，许光达并不是做做样子，他是真学真练，就这样，他终于完全学会了驾驶坦克。
许光达能够亲自驾驶坦克了，于是他要求装甲兵的指挥员一律要上车，学会驾驶坦克。在他的带动下，所有装甲兵部队的领导干部无一不是合格的坦克驾驶员。
1958年夏天，许光达到南方视察。随行人员告诉他，试制的国产坦克正在这里作高温条件下的破坏性试验，以便取得需要的数据。听到这个消息，他高兴极了，兴冲冲地赶到了试验现场，看着、摸着坦克，许光达就像母亲看到了自己的亲生婴儿，脸上满是笑容。多么不容易呀，现在终于有了自己生产的坦克！
许光达想登上坦克亲自驾驶，试验员和陪同人员都极力劝阻，这怎么行？南方的夏天，气温高达摄氏三十七八度，人在车外都感到酷热难忍，许光达那么大年龄怎么能受得了坦克舱内的高温啊？更何况，这是试制坦克，性能不稳定，而且现在又是做破坏性试验，具有很大的危险性。司令员出了事，谁负得起这个责？陪同人员极力劝许光达不要试，要试等以后新车定型后再试。
许光达却轻松地说：“没关系，我这个司令员亲自摸一下国产新坦克的性能，取得第一手资料，对定型新车不是也有点帮助吗？没什么可担心的。一会儿，你们当中谁有兴趣，也可以试试。好不好？”
许光达钻进了坦克。
坦克发动了，发出震耳欲聋的轰鸣，随即隆隆朝前方冲去……
许光达驾驶着坦克，亲身体验了国产坦克的各种性能，掌握了第一手资料。当他脸色发白、挥汗如雨地钻出驾驶舱时，兴奋地喊叫起来。而其他人那一直悬吊的心，这才放了下来。
1959年10月1日，当许光达站在天安门城