李建成见李世民收罗四方英才延入幕府，也加以效仿。有一位太原人名叫王皀，从小失去父母，志量深沉。开皇末他做了奉礼郎，后来受到汉王杨谅起兵造反一事的牵连，便逃亡到南山深处，躲藏了十几年。李渊入关后，王皀在李纲的推荐下做了世子府谘议参军。李建成立为太子后，王皀又被任为太子中舍人，不久转任太子中允。他忠心耿耿，计谋多端，不仅不像李纲那般老套而且嗦，反而积极主动地帮太子谋划，想方设法压制秦王李世民的势力。李建成对他非常器重，将他引为谋主，大小事情都向他咨询。
原李密的记室魏征，在黎阳被窦建德攻陷时同李世一道做了夏军的俘虏，窦建德任他为起居舍人。窦建德失败后，魏征又从？州与裴矩一道西入关中。李建成很久便听说了魏征的大名，于是请他做了太子洗马，对他十分尊敬。魏征受恩感激，尽心竭力侍奉太子，他见李世民功业鼎盛，也经常劝李建成早作防范。
本年夏秋，当得知窦建德的旧部纷纷反叛后，李建成便向曾在窦建德军中呆过一年多的魏征请教平叛大计。魏征向李建成讲述了窦建德的事迹：如何为人仁慈，如何深得士卒之心，士卒又如何乐于为他效命。李建成听了，怦然心动，颇想效法窦建德的作为。魏征又为李建成分析道，自从窦建德失败后，大局本来已定，只是由于朝廷对窦建德旧部采取了过分严厉的政策，才将他们逼反。刘黑闼第二次卷土重来的事实说明，靠杀戮和严刑峻法是解决不了问题的，只有赦免造反者、安抚人心，才是使叛乱彻底平息之道。这一点朝廷没有意识到，秦王李世民也认识不到。
“先生的见解真是卓越超凡，可惜与先生这么晚才相聚！”李建成诚恳地对魏征说，“我今日能得到先生辅佐，真是天意啊！”
魏征十分感动，便劝李建成按照这一方略，亲自领军东征，谋求建功立业。过去，按惯例，遇到解决不了的危情，总由秦王李世民出场，一举将敌人平定。李世民似乎总是拖到最后才出场，这样他每一次出征，都引起天下震动。
“殿下您只是凭着年岁最大，才占据首位的，过去您较少率军出战，功业自然不多；你对人仁爱，却没能让全国人都知道。”魏征对李建成说，“而秦王却功盖天下，中外归心，这样下去，殿下您很不安全啊！而今刘黑闼率领的不过是残兵败将，精锐主力不超过一万，加上资粮匮乏，如果大军前去攻击，必定势如摧枯拉朽，不需要打几次仗，便可将刘黑闼消灭！殿下您最好亲自出征，来建立功业，树立名望，乘势又可以培植实力，结交山东豪杰。”
李建成被说服了，便向父皇请求带兵东征。李渊为太子的进取精神所打动，爽快地答应了。
武德五年冬十一月七日，太子李建成率军前往河北前线。过去那些属于李世民权限内的，现在一律归李建成掌管；李建成还被授予了临场决断、不必请示的特权。
李建成率军出征后，李渊还在为窦建德旧部一再反叛的事大生闷气。他对李世民说，你当初就不该把那五万夏军俘虏全放走，而应该像曹操和白起那样，将他们在一夜之间全部坑杀！李渊进而设想，干脆下诏太子李建成，要他在取胜之后，将山东十五岁以上的男子全部坑杀，将幼弱男子和妇女全部驱赶过来填充关中！说出这些想法时，李渊的眼神狂乱，声调高低不平，长期反复的战争令他心烦意乱，失去了往日的沉静。
随着时间的演进，李渊已不是当年那位日理万机的勤政皇帝，他越来越依赖于大臣处理具体事物，而将更多的时间花在内宫。对于许多军国大计，他已没有精力去进行详尽研究，往往在匆忙间作出决断，失误渐渐增多，有时甚至让人感到不着边际。他已不是起兵之初那位追求尽可能少杀人、以宽恕别人收买民心作为统御方略的仁慈皇帝，不知是否是因为残酷的战争使人心智发生了变异，他曾下令如同薛举、薛仁杲屠杀唐军俘虏一样反过来对西秦军实施大屠杀（幸被李世民、李密劝阻），曾在刘武周大军南进最危急的时刻冤杀了太原起义的功臣刘文静。在他身上越来越多地浮现出隋文帝的影子——用人之力，却不愿报人以德。那位在蒲坂救了他一命的刘世让，当时曾受到他厚重的赏赐，他封刘世让为弘农郡公，赐田百亩，钱百万，任命他代理并州总管。当李世民率军在河南与王世充和窦建德作战时，突厥多次南侵太原，都被刘世让率军击退。突厥人使了反间计，声称刘世让和可汗暗中勾结，李渊一怒之下，竟下诏将救命恩人刘世让斩杀，将他的妻儿没籍为奴！将军李仲文在保卫西河时战功赫赫，李世民撤离时，他作为并州总管留守太原，也因为同刘世让一样的原因，被李渊召回长安斩杀。而那位袭杀李密的功臣盛彦师，落于徐圆朗之手，而徐圆朗不杀；后来他逃回来后，李渊却怀疑他未尽臣子之节，找了个理由，将他诛杀。
对于李渊屠杀山东男子的意见，李世民反复劝谏，认为这样做只会激起更大的反叛，也有违于上天好生之德，万万不可施行，才说服父皇放弃这一近乎疯狂的设想。
当太子李建成和齐王李元吉率唐军逼近时，刘黑闼正在围攻魏州，他率军抵抗，双方两次列成阵势，都没有交战而撤回。不久，燕王李艺又带本部兵马前来与李建成会师，唐军军力大增。
魏征向李建成建议道：“上次击破刘黑闼时，他的将领都被悬赏捉拿，有的判了死罪，他们的妻子儿女还要被投入监狱；所以前一段齐王来时，虽然宣布了诏书，赦免所有胁从者的罪行，但他们仍不敢相信。而今我们应该将手中的囚犯和俘虏全部释放，向他们解说清楚，好好抚慰，再放他们走，那么我们只需坐在这里，便可以看到刘黑闼的队伍渐渐地散掉。”
李建成按照这一意见做了。不久，刘黑闼的粮食吃完，部下接二连三地逃亡，有的还绑着上司前来投降。刘黑闼担心魏州城中的军队与唐军勾结，对他实施前后夹击，便在一日夜间秘密撤退，将队伍驻扎在运河以南的馆陶。由于在运河上还没搭好桥，队伍暂时停在南岸。
十二月二十五日，太子和齐王率大军追到，刘黑闼令王小胡背水列阵，自己亲自督促搭桥，一旦，桥搭成，他便率先过桥，他的队伍见了，霎时全盘崩溃，纷纷丢下兵器来降。唐军过桥追击刘黑闼，才过了一千多名骑兵，桥就垮了。刘黑闼仅仅带着几百名骑兵逃走。
李建成派骑将刘弘基追击刘黑闼，刘黑闼为追兵所迫，马不停蹄地奔逃，一直得不到休息。武德六年春正月三日，刘黑闼逃到饶阳，身边才剩下一百多人，个个饿得头昏眼花。刘黑闼所任命的饶州刺史诸葛德威出城迎接，力邀他入城休息，刘黑闼不肯答应，诸葛德威流着眼泪一再请求，刘黑闼才勉强接受，但只敢走到城墙旁边的市场中间暂时歇息一下。诸葛德威立即送来了饭食，众人刚吃了一半，便被诸葛德威派兵抓了起来。原来诸葛德威早已暗中投降了唐国。刘黑闼被押送到李建成那里，和他的弟弟刘十善一道在？州被斩首示众。刘黑闼在临刑前叹息道：“我本来在家中为菜除草，被高雅贤那帮人害成这个样子！”
至此，刘黑闼发动的叛乱全被平定。
在军中，李建成按照魏征的指点，大施财物笼络人心，秦王李世民的老部下秦琼、程咬金等人不为所动。然而在吸引新附的山东豪杰方面，李建成大有斩获。有一位将军名叫薛万彻，很有用兵才干，他是隋朝左御卫大将军薛世雄的儿子。薛世雄在与窦建德交战时因惨败而气病死去，薛万彻便和哥哥薛万均一道逃到幽州投奔罗艺，兄弟俩因为武略出众，受到了罗艺的厚待。后来罗艺归附了大唐，改名为李艺，被封为燕王。薛万均也被封为上柱国、永安郡公，薛万彻被封为车骑将军、武安县公。不久窦建德率十万大军来攻范阳，薛万均和薛万彻兄弟率精骑百人，乘窦建德率军渡河之际发动突袭，城中李艺也率军杀出，两下夹击，大败窦建德。第二年，窦建德又率二十万大军来攻幽州，这次夏军攻势凶悍，已经翻上了城堞，但薛万均与薛万彻却率敢死队上百人从地道里钻出，对夏军的后背发动突袭，窦建德的二十万大军再次溃逃。上次李世民平定刘黑闼的叛军时，与李艺会师后，他见了薛万均，非常欣赏，封他为秦王府右二护军，对他厚加礼遇，却在无意中冷落了薛万彻。这次李建成见了薛万彻，便用心拉拢，薛万彻于是投靠了李建成。李艺也与李建成渐渐亲近起来。在魏征的调教下，李建成展示了仁慈宽厚的风度，令他声名雀起。
李世民本以为凭着李建成的才能是解决不了刘黑闼的，最后必定还要请自己亲自出马。没想到李建成居然这么快便歼灭了刘黑闼，而且是一劳永逸。这令他感到十分吃惊。当李建成率军还朝后，他才知道原来是魏征做的谋主，心里颇感失落。
李世民又听秦琼等人说，李艺因为投了李建成，以为从此有了大靠山，加上认为自己功高位重，变得日益骄横。这次东征中，李世民的几名老部下到李艺军营里串门，李艺因极小的事由便将他们痛打了一顿。李建成对此仅仅批评了几句便完事。
李世民十分生气，便将事情向父皇李渊讲述了。李渊大怒，将李艺抓进监狱，很久才将他放了出来，但仍像过去那样对他很好。从此李艺对秦王表面顺从，但内心里恨得要死。
刘黑闼被彻底消灭后，中国的统一犹如数里之外的船舶，业已清晰可见。自从隋末中国陷入大动乱以来，四海之内群雄并起，老百姓饱受战争之苦，终于在大唐政权的治下，通过多次战争，削平群雄，使中原恢复了和平。这场统一战争的主持人当然是皇帝李渊，战争的实际指挥者