当时气焰很盛的闲学潮的学生，也表示着一种即使挨打也满不在乎的气度，的确使当时但观皮相的洋商和上海市民，仿佛都在想大上海何幸而得如此一位现代化的民主市长。”
1949年12月15日，尚未复“总统”职的蒋介石便以台岛最高行政长官的身份任命吴国桢为台湾省主席。对此，吴氏大惑不解。因为陈诚掌管台湾省市的大印不足一年，没有功劳亦有苦劳，且在吴上任省主席位不久前，陈诚曾约谈吴氏，邀吴屈就台湾省主席秘书长一职，遭吴婉谢。吴对蒋说：“陈诚将军不是做得很好吗？最好由俞大维担任”。蒋则毫不隐讳地回答：“你很恰当，我要你今后全力争取美援。”
由于一切以争取美援为中心，故而有“民主先生”之称的吴国侦，当然成为台湾省主席的“最佳”人选。
吴国桢任台湾省主席职的第3个月，蒋介石宣布复“总统”职，同时任命陈诚为“行政院长”。吴国桢认为：陈诚“为了他把省主席的位置让给我，一直耿耿于怀，老是卡着我，所以我向蒋先生报告，请求辞职”。蒋对吴的辞职不予批准，并对吴说：“辞修和你斗，你就和他斗，我支持你”。
听了蒋的发誓后，吴飘飘然了。他又认为，“钧座惨受大陆失败之教训，已锐意改革，故敢冒死犯险，竭智尽忠，以图报效”
吴国桢既然如此受宠，为何又遭蒋介石的排斥呢？据吴国桢自己称：是蒋先生为了经国的缘故。这的确是吴氏被逐原因之一。
吴国帧与蒋经国的矛盾始自上海。当然，吴氏与小蒋之间完全不同的背景、思想与训练，也是使双方裂痕扩大的原因。
早在1948年8月，蒋经国奉父命以督导员身份赴上海“打老虎”。当时经国手持尚方宝剑，雄心勃勃，想在上海一显身手。他当时手法严峻而急切，但效果不佳，演变成“只拍苍蝇”不打“老虎”的局面。时任上海市长的吴国桢除了不同意蒋经国的做法之外，市长权力被架空，也使吴颇为不悦。蒋经国与吴的矛盾就此发端。
蒋氏父子退守台湾后，一切问题的核心，就是再也不能丢失台湾，否则死无葬身之处。故此，蒋经国又奉父命独揽了整个台湾岛的安全、情报与特务系统大权。蒋经国就任“国防部总政治部主任”一职，虽然职位不很高，但这只是蒋在台面上的官衔而已，他可以在“总统府资料组”中发号施令。只要戴上红帽子，想抓谁就抓谁，想杀谁就杀谁。躲在幕后行使“法律”以外的特权，指挥手下狠狠打击异已和政敌。
吴国桢任职台湾省主席期间，最不能容忍的就是蒋经国所豢养的特务打手的横行和猖狂。当时吴对老蒋说：非改革不可，任何机构不通过保安司令部，禁止随意抓人，逮捕后14天，一定要释放，或起诉。由于吴国桢的主张与蒋经国的做法形同水火，故小蒋与吴的矛盾进一步激化。
吴与蒋经国之间的矛盾还有经费问题。国民党退守台湾岛，“中央”及地方的一切开支均由省府开销。而省府的经济来源，无非靠征收田赋。应付这样大的开销，难免捉襟见肘。吴身为省府主席，自然要压缩开支。他当时曾和蒋介石约法三章：
（1）省府负担“中央”的军费，但要点名发饷，杜绝吃空饷的流弊；
（2）严惩走私；
（3）防止商人逃税。
吴国桢还向蒋介石进言说：“国民党党费应不用国家经费而向党员筹募，且应鼓励反对党之成立，才能奠定两党制度”。对于蒋经国领导的许多不在编机关、特务组织预算外的经费要求与请托，吴住往予以婉拒。吴后来告诉蒋的另一反对派雷震说：“我只是采用消极行动，不发给经费，所以蒋经国恨死我了”。
江南对吴国侦此举评论说：
“假使换一个主席，如俞鸿钧、严家涂之流，奉遇事请示、凡事‘推事’为座右铭，经国越权乐得装聋作哑，不闻不问，好官我自为之。那么，何止冲突不会升级，连上海时代的误会，都可以消于形”。“公正地说，吴意气用事的成份很大”。“否则不至于发展到形同水火的阶段”。
吴国桢恢遭蒋排斥也有他恃宠而骄，过高估计了蒋介石对他信任的成份在内。他后来竟天真地向蒋介石进言：
“如钧座厚爱经国兄，则不应使其主持特务，盖无论其是否仗势越权，必将成为人民仇恨的焦点。”
蒋介石当然听不进这种逆耳忠言，甚至由此产生了除掉吴国帧的念头。1953年10月30日，蒋介石为过65寿诞，邀吴国桢夫妇到台北郊外草山吃晚饭，并留宿。翌日，吴氏夫妇返归时，竟找不到来时开车的司机了。无奈，只得由蒋氏另派一名司机开车下山。适逢吴妻腹泻，开车不久就停车到路旁一百姓家寻方便之所。待吴氏夫妇回到汽车旁时，发现司机脸都吓白了。原来这辆汽车的四个轮子中有三个车轮的固定螺栓都早已被人拧掉了，如果不是吴夫人闹肚子，汽车飞速下山，到拐弯处时必定车轮飞脱，吴氏夫妇也必将死于“车祸”。
吴国恢死里逃生之后，方始明白蒋介石因为美台关系业已修好，要“卸磨杀驴”为蒋经国扫除仕途障碍了。鉴于此，吴国桢决定离台赴美定居。1953年4月，吴国桢向蒋介石请辞台湾省主席一职，5月，吴国恢夫妇接到美国邀请，欲赴美留居，蒋氏父子曾想阻止，但宋美龄积极从中周旋，最终放行。但是，吴国桢年近80的老父和尚在读书的次子吴修却不准同行，这等于是留下了“人质”。
吴国桢赴美后，一直谨言慎行，其公开对蒋氏父子的发难，乃在王世杰免职案发后，据潘公展说：
当去年十月初王世杰先生免职案发生时，因为案情真相迄未公布，以致由台湾、香港不断传来谣言，后来且有牵涉到吴国桢的。我于十二月四日在《华美日报》发表《政风》一文，就说政府如果以澄清政风为急务，则对于案情真相宜有一调查报告发布，‘必如是而后廉洁之士有所保障，贪墨之徒有所戒慎’。‘否则徒使问心无愧者横遭传说之诬毁，而暮夜芭直，蝇营狗苟者，转得逍遥于法外’。更于同月十五日论根绝贪污之道，有‘法办今日渎职之官，即所以杜异日五史之重演。惩治已发之贪污，即所以根绝未来之腐劣’等语。可是王案内情的是非曲直始终未为一般人所知，而谣言也愈来愈离奇。于是《美洲日报》遂于一月十三、十四两日也根据所闻的传说，接连发表两篇社论，提出若干疑问。一月二十五日的《民气日报》也有长篇社论《幼吴国桢从速回台湾》。吴氏对《美洲日报》和《民气日报》，都先后有信去声明辟谣，而其一月二十七日致《民气日报》函中，则透露几句肺腑的话，那便是：
“桢之爱国，不敢后人。板又何敢从个人一人或一家着想？然而古语有云：事有可行，有不可行。又云：合则留，不合则去。又云：忠臣去国，不洁其名。板恳请贵报勿逼桢大甚，使桢不得不言所不愿言之言也。”潘公展推断，是‘谣言’、‘逼出’，他原先不愿说的话，颇合逻辑。至于‘政府彻查，未得要领，自拟辟谣启事，又遭台报拒绝’的说法，校对事实，也不尽可靠。”
吴的启事，完成于一九五四年一月十五日，抵达台北的日期，大约为二十日左右，收件人是时任国民党秘书长的张其。广告内容如下：“桢远在国外，忽闻道路谣传，谓帧苟取巨额外汇，并云前‘总统’府秘书长王世杰之去职与此有关等语，查桢此次来美，曾经由‘行政院’陈院长批准，以私人所有台币向台湾银行购买美金五千元，作为旅费，此外并未由政府或政府中之任何人员批准拨给分文公款，桢亦未有此项请求，与王氏更从未谈过去美费用问题，恢闻此谣传后，已于一月二日以党员身分函请张其秘书长转呈总裁请份政府彻底查明，公布真相。至桢在美生活，除夏间遵医嘱曾赴美国西部高山地带休养医治气喘外，自十月起即在依利诺州艾凡思顿城公寓旅舍居住，房屋两间另一小厨房，内子执炊，桢自洗碗，以旅费不敷，遂接受各方请求演讲，已接受者约二十余处，每次讲费约四百五十元美金，一面借以维持生活，一面亦以国民一分子资格为国宣传，以演讲关系曾赴纽约四次，旅馆费用，间由请演讲者供给，曾在所谓最华丽之华都饭店演讲两次，广播一次，但从未寓居该处，此间本国侨胞及美国友好均深知悉，勿庸置辩。查桢为国服务二十余年，平生自爱，未曾贪污，在此国难当头之际，若尚存心混水摸鱼盗取公带，实将自觉不侪于人类，惟以道路阻隔，深恐以讹传讹，故特启事周知，如桢个人有任何劣迹，敬请国人检举，政府查办。”
吴国桢的这一声明，对蒋氏父子并无攻击，刊出来原也无妨。但张其却将这份启事交给在台的吴父，吴父奔走数日，竟无一家报纸敢于刊登。后来，启事转到蒋介石处，始于2月7日刊出。吴的启事见报后，由于吴国桢在美国发表了“不同政见”，台湾方面以张道藩和陶希圣为主，开始隔海“骂战”。直至美国政界人士出面干预，这场隔海骂战才告平息。
排挤吴国桢后，蒋介石便改任蒋经国为“国家安全会议”副秘书长，当起了特务头子。1956年，台湾当局成立“国民退除役官兵就业辅导委员会”，严家涂任主任，蒋经国副之，但主持实际工作。1957年又任命蒋经国为主任。蒋经国在这个“辅导会”当主任一干就是8年，为他赢得了较好的政声，改变了他“特务头子”的不良形象，为日后升迁奠定了“民意”基础。
1963年11月，国民党九届一中全会后，陈诚揣度老蒋心理，坚辞所兼“行政院长”一职，以便“提携新进”。蒋介石遂任命“政治新秀”严家涂为“行政院长”。严家涂明知自己是个过渡性角色，只是在为“太子接班”作陪衬而