轻易放过？不过汪广洋的错处可不好找，此公小心谨慎，对于大小政务从不擅专，简直就是“尸位素餐”这个成语的最好体现。然而就在胡惟庸郁闷没招的时候，朱元璋却替他解决了这个难办的问题。
朱元璋也实在忍受不了汪广洋的碌碌无为，叫你压制杨宪，你反而被赶出京师，叫你主持政务，你把活儿都推给胡惟庸，我还用你干什么？——洪武六年（1373年）正月，朱元璋以“无所建白”的理由罢免了汪广洋右丞相的职务，让他去遥远的广东行省当参政，转而让胡惟庸以中书左丞的职务把中书省的工作全都名正言顺地抓起来。这回汪广洋以为真正离开权力中心，可以保全性命了，但朱元璋并不准备让他如此逍遥，过了没多久，就又把他召回朝廷，让他做了左御史大夫。让这么懦弱的人当监察部门的最高负责人，对于炙手可热的胡惟庸来说，正是皇帝对他信重的表现。果然，汪广洋在左御史大夫任上和他以前在中书省毫无区别，一无建树，丝毫没有影响到胡惟庸的相权。
且说汪广洋被派往广东后没过多久，胡惟庸的侄女与李善长的侄子就商定婚姻，结为了夫妻，这样一来，胡、李二人就变成了间接的儿女亲家。有了这层亲戚关系，胡惟庸俨然已成了李善长在朝堂上的代言人，支使起李老大人在朝的旧部来如臂使指，顺手顺心。大概也因为这层姻亲关系，使得胡惟庸和朱元璋的关系也更加密切，洪武六年七月，胡惟庸升为中书右丞相，实至名归地主持中书省的政务。此时的中书省，自从李善长退休以后，左丞相的位置一直空缺着，而徐达虽然一直兼着右丞相的头衔，但他为人谨慎，加上常年带兵在外，政务方面是一点也不可肯沾，就这样，胡惟庸这个新的右丞相就变成了独相。
死了杨宪，走了汪广洋，又和李善长结了亲家，胡惟庸可谓是志得意满。随着权势的增大，此公日益纵横跋扈，对于胆敢挑战他权威的人是一个也不放过。
胡惟庸第一个要对付的人，就是已经退休在家的刘基。朱元璋和刘基论相的对话，本来应该是极为机密的，但不知怎么回事，竟然弄到举朝皆知的地步——日后等到胡惟庸案发后，才有人想到可能是皇帝派检校故意传出的消息——别说刘基本就是淮西派的对头，单只这次论相，就足以使胡惟庸对刘基深恶痛绝了。
刘基自从洪武四年告老还乡以后，就一直安养在老家浙江青田，他深知检校无处不在，而朱元璋猜忌之心更从无休止，为了证明自己完全放弃朝廷之事，他从来不见当地官员。有一次，青田知县以布衣身份去见他，和他相谈甚欢，分别之时说自己是青田知县，对先生仰慕已久才来拜会，刘基一听马上下跪，口称小民，并从此再不见客，其幽居如是——可饶是他这么小心谨慎，但却仍没办法跳出混浊世事。
浙江和福建交界处有一个叫谈洋的地方，这地方离刘基的家乡不远，他不愿意这里不服王化，一向被盐枭所占据，就向朱元璋奏请设立巡检司进行管辖。盐枭不服，聚众作乱，刘基派大儿子刘琏将写清这件事情原委的奏章带到京师，没有经过中书省，而是直接送到了朱元璋的手里。刘基是聪明人，他知道胡惟庸和自己一向不对付，如果通过正常渠道，朱元璋很有可能看不到这份奏章——中书省有权在皇帝之前先拆看大臣的奏章，如果落到胡惟庸手里，这份文件肯定会被截留在中书省内。刘琏此时还没有功名，只是一介平头百姓，他只身来到南京城，怎么能把奏章交到皇帝的手里呢？大概是刘基过去认识的检校从中帮的忙吧。
然而胡惟庸马上知道了这件事——也不知哪位检校的功劳。绕过中书省直接向皇帝上书，这件事对于新官上任的中书执掌人来说，实在是太丢脸了，于是新仇旧怨一齐涌上胡惟庸的心头。胡惟庸立刻指使刑部尚书吴云上书弹劾刘基：“刘基曾经说谈洋这个地方有王气，他看中了，想死后把墓建在这里，当地百姓不肯让地，这才请求朝廷设立巡检司驱逐百姓，好拿到这块好地方。”——说看中一个地方有王气而把墓建在那里，这是封建时代对一个臣子最大的诬陷方法之一，王气只能皇帝本人有，做臣子的图谋这个就是要造反啊。古人迷信得很，祖宗坟地建在哪里是会影响子孙后代的大事，而王气这种东西来无影去无踪，却是诛心之论——你刘基不是以能掐会算出名吗？我们就用你拿手的法宝来坑你，况且这种玄而又玄的东西你还真不好辩解。
朱元璋不愧为一代雄主，他虽然也敬天祭天，但并非一个绝对迷信的人，当年李善长之所以能得到他的信重，不是因为说自己的老家和汉高祖刘邦的老家离得近所以有王者之气，而是李善长利用刘邦的故事激励了自己的缘故。因此朱元璋看到奏章后并没有如胡惟庸所愿的那样按造反罪逮捕于刘基，当然，这种事情也不可能完全无视，于是象征性地处以了夺俸的处罚。但刘基在老家却坐不住了，他不顾老病之躯，千里迢迢赶到南京城，向朱元璋当面谢罪。
这一下羊入虎口。
刘基进京之后就病倒了，这一病经年，而胡惟庸并没有忘记他，也不会就此放过他。据说胡惟庸曾派医生到刘基那里去看病，刘基吃了医生开的药，“有物积腹中如拳石”，反而导致病势加重。到洪武八年三月的时候，这位能掐会算的刘伯温先生已经到了油尽灯枯的地步，朱元璋派人护送他返乡，当年四月，他就死在了自己的家乡。
这一番争斗，朱元璋只在一旁看着，胡惟庸上蹿下跳的表演在他眼里和小丑没什么两样。此时的朱元璋，心里已经渐渐有了改组中书省、废除宰相制度的想法，但如此大动作非得有人祭血才行。胡惟庸做中书右丞相以后，收受贿赂、任意处分官员、截留奏章都是有的，但靠这些把柄来定他的罪，分量还嫌不够。
虽然也有人弹劾胡惟庸，但朱元璋不但不去追究，反而将这样的官员交给胡惟庸自己处理——朱元璋亲点的状元吴伯宗时任礼部员外郎，举朝逢迎胡惟庸的时候，他头脑十分清醒，始终不肯阿附，不仅如此，还向朱元璋上疏告发胡惟庸的种种不法行为。胡惟庸一怒之下把他贬了官，差点没把他整死。
到了洪武九年（1376年）的时候，胡惟庸在右丞相的位置上已经坐了三年。而朱元璋仿佛是为了让他更好地专权似的，这一年，中央政府撤消了中书省编制中的平章政事和参知政事这两个职位——平章政事就是副宰相，虽说多年空缺，位置此前可一直没有废除。同时，在地方上废除了元朝实行的行中书省制度，改由承宣布政使司担任地方行政长官，直接向中书省负责。本来在中书省的编制中，左、右丞相最高，其下分别为平章政事，左、右丞和参知政事，如今废除了平章政事和参知政事的职位，中书省只剩下了左、右丞相和左、右丞的编制，其下虽然增设了几个和地方布政使司相联系的位置，但不过是辅助丞相而已。这一来，胡惟庸在中书省，进而在整个大明朝，都可以说是获得了真正一言九鼎的权力。
仿佛是故意拉拢淮西派官僚似的，朱元璋也并没有忘记已经退休的首功之臣李善长——他把自己的女儿临安公主嫁给了李善长的儿子李祺，两人从此结成儿女亲家。为了给儿子办喜事，李善长喜洋洋地来到了南京城，这时候，沉寂多年的汪广洋突然跳了出来。
要说汪广洋此人在明朝初年担任地方官时还是颇有政绩的，对他的评价也不低——“廉明持重”。但不知怎么回事，每当他在中央任职时，就完全看不出当地方官时的智慧，从最早被杨宪排挤，到后来受胡惟庸的气，他都没有任何反击的意思，一直都老老实实的任人宰割。他这个左御史大夫，本来有着监察百官的权利，但他这几年似乎完全忘了自己还有这种权利似的，由得胡惟庸结纳百官、专横跋扈。但泥人也有土性子，到了洪武九年，临安公主和李祺完婚后，汪广洋突然发飙，他联合御史大夫陈宁上疏进言：“李善长恃宠而骄，十分放肆，陛下前些日子生病，有近十天没有临朝视事，他却不问候一下陛下的病情。驸马都尉李祺有六天不上朝，把他召到大殿，他也不肯谢罪，这是对陛下的大不敬。”——竟然直接把矛头对向了胡惟庸的总后台，朝中人人皆知的皇帝的大功臣、韩国公李善长。
真不知道汪广洋是怎么想的，按说这些年胡惟庸贪赃枉法的事情其实不少，他身为御史大夫，又和胡惟庸不对付，应该握有不少过硬的证据，找好时机一举将胡惟庸赶下台才是正事。结果他竟然以皇帝生病时李善长没有问候、驸马六天不上朝这种鸡毛蒜皮的小事跳过胡惟庸，直接去挑战李善长！或者，他是在用这种小事试探朱元璋对于李善长的态度吧。
其实朱元璋等这样的奏章很久了，奏章的形式是对的——弹劾功臣，但内容却实在不足以论罪——里边都是些鸡毛蒜皮的小事，如果因为这种事降罪于亲家，那也实在太说不过去了。不过在朱元璋眼里，好歹这回汪广洋总算是开窍了。
于是，李善长被扣去年薪一千八百石以示惩戒。不过，没几天又给他兼上“总中书省大都督府御史台、同议军国大事、督圜丘工”的差使，这几项的薪水加起来，比起被扣掉的年薪只多不少，更何况所谓“总中书省大都督府御史台、同议军国大事”，虽然不是宰相，但将国朝三大中枢机关一网打尽，党政军一手抓，根本就是荣宠到了极点……这一下任谁也看得出来，皇帝对于李善长的信重没有丝毫褪色，那些本来想跟着汪广洋后边跃跃欲试的人们立刻就沉默下来。
当然也不能凉了敢于告发功臣不法行径的汪广洋的心，转过年来的洪武十年（1377年），汪广洋再次进入中书省，升任中书右丞相。然而这次升官才真正寒了汪广