又奏准太后与皇帝，派出前任驻美公使、现任尚书衔、总理各国事务大臣、户部左侍郎张荫桓，与前任台湾巡抚，现任头品顶戴、署湖南巡抚邵友濂，充任全权大臣，到日本去求和。恭亲王也没料到，日本政府于这两人到达神户之时（光绪二十一年正月初六）挑剔他们的全权证书。
原来证书上有这么一句话：“惟愿大皇帝接待，俾该使臣得以尽职”，伊藤博文与陆奥宗光以日本全权大臣的资格，认为这句话只是客气话，缺乏“便宜行事”字样，拒绝与张、邵二人开谈。清廷在（光绪二十一年）正月十八日内定改派李鸿章为全权大臣，同时下旨开复李鸿章的一切处分（包括拔去三眼花翎、褫去黄马褂，革职留任）。
次日，正月十九日，光绪下旨调云贵总督王文韶接署李鸿章的直隶总督与北洋大臣之职。
二十四日，清廷托美使田贝电询日本政府，就李鸿章出任全权大臣一节是否同意。这电报发出后，田贝接到日本政府在二十三日发来的电报，说中国若改派全权大臣，必须赋以“割地及将来交际的缔约全权”。
二十五日，日本续来一电，询问“李鸿章是否能照二十三日（2月17日）的原电行事？”
在二十八日、二十九日、二月初一这三天，李鸿章天天向光绪请训，天天与翁同龢辩论。最后，光绪准许李鸿章答应对日本割地。（翁同龢认为只可赔款，不可割地。）
二月初二，清廷托美使告以李鸿章有执行“来电所述任务之权”。于是，日本表示同意李鸿章担任“中国头等全权大臣”，欢迎他到日本马关与伊藤博文及陆奥宗光会谈。
李鸿章于光绪二十一年二月初九出京。八天以后，带了儿子李经方及其他随员罗丰禄、马建忠、伍廷芳等一百三十余人，乘坐原属招商局的“德商”轮船礼裕号与公义号从天津启程，于二月二十三日到达日本马关。
次日，他与伊藤博文在春帆楼相见。一别十年，两人均不胜今昔之感。
李鸿章向伊藤博文提出用英文写好的要求停战的文书，伊藤应允于二十五日正式答复。
二十五日，两人作第二次的会谈。伊藤提出停战的条件，限三天答复：（一）大沽、天津、山海关三处所有城池堡垒交由日本军队占领，三处所有军需（械弹物资）交开本军队暂管。（二）天津山海关间铁路交由日本军务官管理。（三）停战期限内日本军事费用由中国担负。（四）停战日期及两军防地、划界等细目，俟中国同意上述各项后再议。
李鸿章在这次会谈以后，打电报向清廷请示。清廷的复电是不必再谈停战，直接谈议和的条款。
二月二十八日（3月24日），李与伊藤作第三次会淡。李向伊藤提出节略，表示不再谈停战，直接谈议和，请伊藤说明日方的要求。伊藤说：“议和的条款已经准备好，明天会谈时交给你。”
当天会谈以后，李鸿章从春帆楼出来乘轿子回他的行馆，中途遇到一位日本刺客，向他放了一响手枪，枪弹进入左边颧骨，埋在里面不曾出来。李鸿章昏倒。刺客当场被捕，事后由警察问出姓名是小山丰太郎，由法院判了无期徒刑。
李鸿章被抬进行馆，由随员之中的中国医生及日本政府与明治天皇派来的医生会同医治，所好尚无生命危险。
伊藤博文与陆奥宗光均赶来行馆慰问、道歉，日本皇后也派了两名女看护来侍候他。
他向日方提出照会，要求次日会谈照常进行，由儿子李经方代表出席，向日方收取议和的条款。
日方在次日由陆奥宗光亲来行馆，面交“覆照”，说“淡和条款因此意外事件而有更动，已奏请天皇定夺，须稍缓数日始能向贵方提出。”
三月初三，陆奥又来行馆面交停战条件：（一）停战地区限奉天、直隶、山东三省，台湾、澎湖除外。（二）停战期限是二十天，到三月二十七日（4月21 日）为止。
二月初五，李鸿章与伊藤、陆奥在停战条约上签字。签字以后，李鸿章照会日方要求开出和平条件，定期在行馆会谈。
初七，陆奥将和谈的程序作成节略，面交李鸿章。内容是“先由日方提出条款，然后望大清帝国钦差头等全权大臣在三日或四日以内回复，或将约内各款全行承允，或将某款更行商酌为要。”
李鸿章在当天复了一个照会，说准于接到条款四日后回音。于是陆奥立刻就把条款送来行馆，限李鸿章于四日以内答复。 这些条款数目不多，只有十一条，内容却很厉害。
首先，是关于朝鲜的规定，要中国承认朝鲜的独立自主。其次，是关于割地，要中国把台湾、澎湖与所谓辽东半岛割给日本。再其次，是赔款三万万两。
此外，要中国与日本另订新约，以中国与列强之间的条约为依据。换句话说，要中国给予日本以种种片面的特权，如领事裁判权、协定关税、最惠国条款，等等；又要中国助开北京、江陵、沙市、长沙、湘潭、重庆、梧州、杭州等地方为商埠，准日本派驻领事。其实，倒不如把整个中国各城各县一律开为商埠，倒可以一劳永逸，免得日本再费事打仗。这真是人小心大，其实把中国都送给日本吞，也未必吞得了。
伊藤博文等人而且也想出一种妙法，叫中国准日本人到中国开没工厂，就地制造洋货。那时候日本人会制的洋货极少，机器更谈不上，全靠向西洋各国买，却也扮出一副“假洋人”的面孔，欺负同文同种的乡下叔叔。
十一条条款之中最小气的一款，莫如要求减低子口税：从百分之二点五，减为百分之二。
另有一款，要中国开放内江、内河，让日本轮船可以由宜昌开往重庆，由汉口开往湘潭，由广州开往梧州，由上海开往苏州、杭州。
最装模做样的一款，是要求中国“速濬黄埔江沙滩”，以便日本的大商船来往无阻。别国的大商船比日本多也并末如此不客气。伊藤博文故弄狡狯，无非是藉此摆出假洋人的面扎，以讨好真洋人而已。
此人在英国并未好好念书，比我们的严复差多了。回国以后溷迹花丛，交了一些坏朋友，专干坏事，结果掌了大权，以损人利己为国际间来往的秘诀，结果给日本造下无穷的后患。
十一条款包含有日本得在奉天（沈阳）与威海卫驻兵的一条，以驻到换约以后三个月为期限，驻兵的军费要中国负担。 四天以后，李鸿章给伊藤博文一个说帖，算是初步答复。这说帖写得十分婉转，不像是统帅口气，而很像是文弱书生对流氓讲理、求饶。
李鸿章说：“中日系紧邻之国，史册、文字、艺事、商务一一相同，何必结此仇衅？。。。。。。日本如恃其一时兵力任情需索，则中国臣民势必尝胆卧薪力筹报复。东方两国同室操戈不相援助，适来外人之攘夺耳。”
这一段话句句有理，而且不幸言中。
可惜，这样的大道理，不是伊藤博文与陆奥宗光所能听得进的。他们在三月十二日又送了一个照会来。
这照会说：“我们不和你们谈理论，只谈条文。你们接受那一条，反对那一条，或是要修改那一条，怎样修改法，不妨一一说来。”
李鸿章向清廷报告。清廷的军机大臣之中，翁同龢最反对割地。此老主张一贯，不愧为政治家。那力主割地的孙毓汶与他比起来，可谓一薰一菇。翁是状元，孙是榜眼，两人出身相差无几。然而翁以大臣自期自励，孙则夤缘于庆亲王之门自暴自弃。
这时候在名义上重新主持总理衙门的恭亲王奕訢，事实上已不能管事。在总理衙门当家的，是庆亲王奕劻。此人贪财，误了海军，因此也急于支持李鸿章的割地求和政策。
于是，总理衙门就有了电报复给李鸿章：“让地应以一处为断，赔费应以万万为断”。撰拟这封电报的小公务员定是文书老手，把话说得外硬内软，原则接受数字仍可以添。所谓“断”，也决不是真断。
李鸿章根据这个复电，向日本提出第二次“说帖”：辽阳等州县与台湾全岛，日本兵力未到，不便割让，旅顺大连应还中国。（换句话说，除了旅顺、大连以外，凡是日本兵力已到的地方可以割让。）
赔款呢，应按照日本实际上所花掉的数目计算，扣除日本所获得的船、械、军需。
增加商埠，以重庆一地为限。内江、内河的航行权，也限于宜昌、重庆一段。
赔款清偿以前的驻兵地点，以威海卫一地为限，奉天不能驻日本兵。驻屯军的军费应由日本负担。
日本人在内地开设日本工厂，不可以。日本货物进口，把子口税减为百分之二，办不到。
李鸿章的这一封“说帖”，可谓对日本人的“满天要价”“就地还钱”。西洋人之所以称赞他为“中国大外交家”，可能是由于十分佩服他的这种本领。然而，伊藤博文告诉他的儿子李经方：“贵使臣应考虑今天两国所处的形势，日本是战胜国而中国是战败国！”
李经方此时已于李鸿章被刺以后，受任为（第二个）全权钦差大臣，协助李鸿章办理对日交涉。经方会说英语、日语，太太是日本人，本可以作李鸿章的得力助手，但也正因为太太是日本人，中国朝野颇有些人怀疑他是否忠贞。他在日本有存款，确是事实。存款究有多少，难考。李鸿章本人也颇有钱，藏有不少股票，甚至被政敌目为中国首富。他在节操上远不如曾国藩。 伊藤博文进一步警告李经方：日本的武人颇想打到北京再
说，是他自己伊藤博文竭力在主和。 于是，双方又换了一次文。
李鸿章所提出的是，台湾不能割，澎湖可以割，奉天所割以安东县、宽甸县、凤凰厅、岫岩州四处为限。赔款定为一万万两。朝鲜可以由中、日双方共同承认它自主。另订商约可以，但最惠国待遇应该是相互的，而不是片面的。
日方提出最后的条件：割地必须包括台湾、澎湖，奉天可以少割一点。赔款可以由三万万减为二万万，限期内不付利息，限期外要付利息。奉天可以不驻兵，仅驻兵�