出洋大臣的人选，奕劻与袁世凯通过德律风密议过。宗室人选，开始是想派载振，但奕劻怕言路上攻击他们父子揽权，因此作罢，改派康熙的六世孙、镇国公载泽。军机大臣中想派的是瞿鸿禨，他兼外务部大臣，出洋考察理所当然。出国考察总要半年以上，奕劻的如意算盘是借机把他排挤出军机，但瞿鸿禨以年老请辞，因此改派军机大臣中最年轻的徐世昌，他是二十几天前王文韶年老罢军机后入军机上学习行走。户部右侍郎戴鸿慈则是代替户部尚书张百熙；湖南巡抚端方是极力提倡宪政的地方督抚的代表，商部右丞绍英也是京官中力倡宪政者。
出洋的经费，户部最初议筹五十万两，但此数招致“甚啬”的指责，袁世凯建议八十万两。袁世凯既然这么积极，外务部、户部干脆致电“望先迅筹巨款，以资提倡”。袁世凯当仁不让，发电给湖广总督张之洞、两江总督周馥，倡议各筹十万两。在三人倡率下，大部分省份也都伸出援手，十几天后八十万两便有了着落。
同时，袁世凯幕府起草的与张之洞、周馥、盛京将军赵尔巽、署两广总督岑春煊、湖南巡抚端方联衔的《请立停科举推广学校并妥筹办法折》，很顺利得到朝廷旨准，“著即自丙午（公元1906年）科之始，所有乡会试一律停止，各省岁科考试，亦即停止”。朝廷担心的激烈反对并未出现，让慈禧、光绪都很欣慰。这得益于袁世凯为埋头举业的士子们妥筹了出路。年壮者一律入新式学校，而将来通过学校考试毕业后，可授予举人、进士的出身；年老者则入速成师范学堂，毕业后执教，一方面保证了新式学堂的传统经义教育并未缺失，另一方面也为老士子们谋一饭碗。一个延续了上千年、牵涉到千百万读书人的古老制度就此终结，没有冲突、没有对抗，出人意料地顺利完成了科举到学校的转型，各报章都纷纷盛赞，《申报》甚至认为，如果戊戌年由张之洞、袁世凯这样有行政经验的人来推行变法，或许就会成功了。
朝廷随后成立学部，管学大臣、户部尚书张百熙任尚书，而追随袁世凯不到一年的直隶学校司督办严修出任侍郎，成了红顶子大员。
直隶、湖广、两江认筹的三十万两银子先期解到，出洋五大臣及随员如期起程。
1905年9月24日上午，北京前门车站岗哨密布、戒备森严。今天是五大臣出洋的日子，他们及随员十二人将乘火车到天津，然后由天津乘船南下上海，再由上海出洋赴欧美。铁路局预备的专列一共五节，前面两节供十二名随员乘坐，第三节是五大臣的包厢，第四节是仆人护卫，第五节是行李车。
上午十点左右，五大臣及其随从登上了火车。此时，一个穿戴秃顶红缨官服的年轻仆从也挤出人群上了火车，怀里还抱着个蓝包袱。上车后他应当与众仆从一样乘坐第四节车厢，但他却急匆匆往第三节即五大臣包厢里挤。在两节车厢之间的过道上，卫兵拦住了他，并询问道：“你是跟哪位大人的？”
“泽爷！”他操着南方口音回答。
卫兵再问：“泽爷的长随我都熟悉，怎么从来没见过你。”
“我是新进府的。”说罢他就要硬闯。
卫兵则伸手拦阻。这个仆从往包袱里伸手，像要摸什么东西。正在这时，机车与车厢挂节，咣当一声，车身猛地一退，年轻仆从抱着包袱碰在门框上，只听轰的一声巨响，三、四节车厢相接处被掀去了车顶。挡在过道的卫兵和抱包袱的仆从当即被炸弹炸死。五大臣有人受伤，车厢内一片混乱。最年轻的出洋大臣载泽一摸脖子，摸出一手血，他慌乱地问身边的徐世昌道：“菊人，我脑袋还在不在？”
徐世昌镇定地回道：“国公放心，脑袋还在。您手上的不是您的血。”
五大臣中绍英受伤最重，右股被一块弹皮炸伤，端方、戴鸿慈受了轻伤，徐世昌仅官帽和袍带被弹片刺破。载泽并未被炸弹炸着，却在慌乱躲藏中擦破了头皮。刺客本人当场毙命，五大臣的仆从及护卫有四人被炸死。
五大臣仓皇逃回各自府中，京城戒严，慈禧令步兵统领、顺天府尹限期破案。京城工巡总局管理事务大臣肃亲王善耆在京城也组建了巡警，此时也参与到案件的调查中，但调查了三天却茫无头绪。慈禧十分不满，令袁世凯从天津巡警中抽调人马进京帮忙破案。此事自然交给赵秉钧，袁世凯对他说：“这可是真正钦点的大案，是个好机会，也是个关口，你要是破了案，我保你换顶戴；你要破不了，你这几年办巡警就是浪得虚名，以后再保你，太后说一句，这个赵某人连个案子也破不了，袁世凯还有脸保他升官？你懂不懂？”
赵秉钧回道：“按理说，天下没有破不了的案子，只有功夫到不到。凶手已经被当场炸死，只有撒出人手去捞线索。我得请宫保允准，把‘杨梆子’的侦探大队全带去。”
杨梆子原名杨以俭，山东人，十几岁时跑到天津在盐商王锡瑛家里打更，得外号“杨梆子”。后来老龙头火车站通车，王锡瑛把他推荐到站上卖票。他为人机警，有见人一面过目不忘的本事。火车站的小偷，他打眼一看就能从人群中认出来，以致有人在车站丢了东西，就请他帮忙与小偷沟通讨回。赵秉钧听说车站有这样一个奇人，就把他招到了侦探队。当时天津正被一个叫张立三的飞贼闹得鸡犬不宁，此人会飞檐走壁，来去无影，从无人识其真面目。赵秉钧对他说：“你要是抓住了张立三，我立马升你为侦探队长。”
杨以俭调阅卷宗，发现张立三也算得上侠盗，除了偷盗金银首饰，从不为非作歹。他分析认为，张立三偷了金银首饰，必定要到当铺去兑现银，因此必与当铺有勾结。所以他从当铺下手，软磨硬泡，威胁加利诱，终于迫使几家当铺答应与他合作。结果有一天张立三前来销赃时被抓个正着。
杨以俭欣赏张立三的一身功夫，便道：“你有此本领，何不到巡警队里来帮我办点正事，总比做贼强。”
张立三身上没有命案，赵秉钧同意招抚，成了杨以俭的得力助手。
赵秉钧带着杨以俭及他的侦探队到了京城，先到步军统领衙门停尸房去看凶犯尸体，胸口已经炸烂，幸好脸面还完整。问问近几天来的破案办法，在赵秉钧看来简直是无头苍蝇，唯一靠点谱的是请客栈老板来辨认，是否是自己的住客。但老板怕担责任，就是在自己店里住过，恐怕也会拒不承认。他和杨以俭商量办法，决定把凶犯拍了面部照片，到客栈、妓院等处请人帮着认。既然凶犯是南方口音，必定在京城住过，这种不要命的差使肯定不会住在亲友家里惹祸，住处必定是客栈或妓院。
杨以俭把他侦探队的人放出去，这些人最大的特点就是善于与街面上的混混打交道，请他们帮忙，结果第四天就有了结果。有一位姓马的侦探在前门外西顺城街口请一个小女孩辨认，小女孩说：“这是吴叔叔。”
马侦探大喜过望，连忙给小女孩买了一把糖葫芦，带他去了见过“吴叔叔”的客栈。小女孩把他们引到不远处的桐城会馆，找到一个中年男人道：“爹爹，这些人找吴叔叔。”
中年男人是桐城会馆执事吴士禄。
赵秉钧立即亲自审讯吴士禄，吴士禄知道瞒也无用，将他所知道的和盘端出。照片上的人的确在会馆住过，叫吴越，是安徽桐城人，著名学者吴汝伦的侄子。事发前他到会馆来，说是有事公干。等出事后吴士禄到步军统领衙门停尸房认尸，一眼就认出了他。但怕受到牵连，因此没有承认。回来后立即搜检吴越的住处，发现了他留下的《意见书》。吴士禄以为人已经炸死，侥幸期望官府会不了了之，没想到会因自己小女儿一句话而泄露。同时他又供出，吴越应该还有个同伙，事发前一天晚上，两人谈至深夜。第二天一早，两人告别时说过事后天津见。
赵秉钧问同伙姓什么，哪里人，吴士禄只听吴越介绍说叫张榕，具体哪里人不知道，听口音应该是辽宁一带。
赵秉钧和杨以德立即带侦探回到天津，密查辽宁口音、二十岁左右的男子，结果第二天半夜就在侯家后的妓院中将隐蔽在那里的张榕抓获。张榕是辽宁抚顺人，家资巨富，曾在北京俄文馆学习，认识了吴越。据他说，吴越参加了革命党组织的“北方暗杀团”，到北京本来是打算刺杀铁良，正遇到朝廷要派五大臣出洋，因此改为暗杀五大臣。张榕配合吴越于当天潜入前门外火车站，但因为人潮涌动，两人被挤散了。事发后按照约定他逃到天津躲藏，等着吴越前来会合。他也听到过刺杀五大臣“凶犯”被炸死的消息，但不能确信，又怕回家连累家人，因此一直躲藏在天津妓院中。
赵秉钧将案情向袁世凯汇报，同时将吴越所遗《意见书》呈上。吴越为什么要暗杀五大臣，《意见书》给出了答案。《意见书》中说，“予西观欧洲，东观日本，见其革命之先，未有不由于暗杀而布其种子者。”“暗杀虽个人而可为，革命非群力即不效。今日之时代，非革命之时代，实暗杀之时代也。暗杀为因，革命为果。”“我同志诸君，苟持此暗杀主义以实行之，满族虽众，而杀那拉、铁良、载沣、奕劻诸人，亦足以儆其余。满奴虽多，而杀张之洞、岑春煊诸人，亦足以惧其后。杀一儆百，杀十儆千……”
在袁世凯看来，五大臣考察政治，是为了大清能够借鉴欧美日本的先进政体，举国都是抱以很大希望，吴越刺杀他们实在没有理由。《意见书》中也给出了答案。原来，吴越开始也深信康梁的君主立宪为救中国之途，但后来受到革命党的影响，“于是思想又一变，而主义随之，乃知前此康梁之说几误我矣。此辈皆为半睡半醒之满洲走狗”。“立宪主义徒堕落我皇汉民族之人格，侮辱我皇汉民族之思想。吾辈今日非极力排斥此等谬说，则吾族无良、死心塌地归附彼族者必日加多。敢以区区之心，贡献于我汉四万万同胞，必能协心并力，抱持唯一排满主义之团，建立汉族新国，则某虽死犹生。”
吴越的暗杀名单，竟然包括慈禧、载沣等人，此事非同小可，袁世凯立即进京面见奕劻，奕劻听了之后叹道：“怪不得自去年以来连发暗杀事件，原来是革命党的预谋。”
去年广西巡抚王之春在上海遭遇暗杀，躲过一劫，凶手万福华被捕；今年春，铁良回京前在河南彰德遇刺，长随替他挡了枪子。
袁世凯分析道：“王爷，吴越这一案有两件事情值得我们留意。一是康梁和革命党不是一回事。从前我们认为，康梁就是革命党，革命党也就是康梁余孽。如今看来，两者不是一回事。康梁支持君主立宪，还是希望维护大清的帝制。而革命党的目标就是推翻朝廷。他们手段分两步，第一步就是自去年开始的暗杀活动，通过暗杀让人人自危。第二步则是推行革命，也就是组织叛军，直接与朝廷对阵。”
“对对，如此看来，康梁还不算丧心病狂。”
“第二件值得留意的是，推行宪政是与革命党争夺民心的办法。革命党就是怕朝廷推行宪政，他们失去了蛊惑民心的借口，所以才暗杀五大臣。所以，大臣出国考察政治不但不能退缩，反而应当尽快成行。”