“我走了，自然会派新的统领来，常胜军的未来，自然有人来考虑。”戈登觉得这种指责没有道理。
“上校没明白李抚台的意思。”丁日昌接着附和，“大人的意思，常胜军只有上校统带得最好，无论军纪还是战斗力，再也无人可比。上校这样甩手走掉，不是太不负责任？”
“那李大人的意思，是要挽留我继续统带常胜军？”戈登对中国人话中有话的机巧无从体会，所以得出这样的结论。
“不不不，”丁日昌怕弄巧成拙，如果恭维得戈登不再辞职，反而坏了李鸿章的大事，所以急忙接口说，“大人的意思是，如果将军要辞职，那么最好把常胜军一并裁撤。”
“为什么？”戈登耸耸肩，典型的英国人动作。
“如果派新的统领来，肯定没有上校的手段，再出现白齐文那样的事件，对中英两国都是丢面子的事情。对上校来说，那将直接损害您的荣誉。您如今功成身退，回到家乡，您的美名将会传遍中外。可是，如果您走后常胜军出了问题，人家肯定要说是您带坏了队伍。上校您说，这是不是对您荣誉的极大损害？”马格里又是一番分析。
“有道理。中国的战事很快就要结束了，淮军的战斗力已经今非昔比，裁撤常胜军应该不会影响大局。我会写一份报告，请大英驻上海领事交给驻华公使。”戈登赞同道。
“李抚台的意思，炮队是常胜军的精华，希望留下来，继续发挥他们的作用。洋枪队里，也要挑千把能征善战的士兵留下来。”丁日昌见事情如此顺利，十分高兴。
“好的，对这一点我非常赞同，希望常胜军的炮队能继续为李大人效力。不过，要裁撤常胜军，需把欠饷一次补齐，对军官们也应当有所奖励。”戈登趁机又替常胜军讨赏。
同治三年四月初七，李鸿章就戈登回国并裁撤常胜军之事上奏朝廷——
权授江苏总兵戈登带队协剿，自前月二十二日攻破南门城垣未得爬入，弁勇伤亡多人，日夜与臣商筹布置挖壕筑墙，安炮搭桥，虚衷和气，誓必合力歼除此寇，其忠勇勤劳允堪嘉尚。常州既克，苏省军事稍定，便欲辞退回国。因常胜军洋枪队近来老勇大半逃亡，逐渐新募，打仗不甚得力，欲将枪队调回昆山妥为遣散，以节靡费，暂留炮队六百人，并外国大小炸炮交臣处，派员接管，其所用外国弁目陆续资遣，志趣甚属公正。
昨总税务司赫德来常，业与臣议有眉目，除饬海关道赶紧筹借银两预备运用，并派臣营务处委员直隶州知州丁日昌同戈登前往昆山会同李恒嵩等妥筹办理。俟办结后再行缕陈外，查戈登奋勇，勤能立志，为中国助剿贼匪修立声名，自正月至今，诸事俱受商量，谨遵臣处调度，并与臣部将郭松林、刘铭传、刘士奇、王永胜、杨鼎勋等和好无间，彼嘱赫德与臣言在中国办事，只求得一体面。
去年蒙大皇帝赏银一万两，断不敢领，或匀给该营洋弁遣散经费等语。此次协攻常州，殊为出力，可否赏加提督衔？并由臣访制表功旗帜并外国金宝星式样传旨颁给，俾其回国后藉示荣宠，伏乞圣鉴训示，谨奏。
朝廷也是巴不得常胜军立即裁撤，因此李鸿章的奏章很快有了结果，寄给他的上谕说——
戈登带队协剿，现在常州攻克，该洋人不言进攻金陵，竟肯先行遣散，免将来许多枝节，实不可失之机会，该抚自应乘势利导，妥为遣散。如戈登将所部布置妥协，洋弁均皆回国，则是戈登真心要好，始终如一，仅止颁给旗帜、宝星，不独无以酬其劳，且恐无以足其欲，即着李鸿章饬令丁日昌、李恒嵩等与戈登妥为办理，一俟办理就绪，即将如何再行嘉奖戈登之处迅速奏闻。
朝廷的意思，只要戈登和常胜军能利利索索地打发掉，就是多花点银子也无妨。朝廷有这样的态度，李鸿章办起来就容易多了。不过，此事还是生出了波折。英国驻沪领事巴夏礼和海关总税务司赫德都担心一下子裁撤了常胜军，将来无人保卫上海。结果戈登又开始犹豫不定，按他的意愿，当然是见好就收，现在就风风光光地回国，但他不能不考虑驻沪领事的意见。
丁日昌和马格里见事情又起波澜，连忙想办法，两人决定还是从戈登身上做文章，由他来告诉驻沪领事常胜军已经今非昔比——今天的常胜军已经没有多少战斗力。而海关总税务司赫德比巴夏礼更了解中国，先做通了他的工作，让他也去影响巴夏礼。
马格里又劝道：“巴夏礼领事主要是担心你走了无人守上海，你应该明白地告诉他，常胜军的战斗力已经大不如前，而淮军的战斗力已经超过常胜军，到时候李巡抚将派几千淮军来守上海，比常胜军更为可靠。”
戈登听取了两人的意见，亲自写一封信，详细报告常胜军的实际情况。丁日昌又特意把赫德请到昆山来，请戈登当面向他介绍常胜军的情况。赫德是中国通，他知道大清已经不需要常胜军，如果不见好就收，将来常胜军会自取其辱，所以他很痛快地答应去劝说巴夏礼。
巴夏礼最终向驻华公使报告，建议裁撤常胜军。李鸿章立即命令新任海关道应保时筹借六万两银子及十几万洋元立即送到昆山。戈登告诉丁日昌，常胜军兵勇最容易听信外国兵头的话，外国兵头一鼓动，他们就会肆行无忌，因此应当先裁撤这些外国兵头，限三日内出城，然后再遣散中国兵勇，按路途之远近，年分之深浅，打仗之受伤与否，给予盘费，驱令出城，不准逗留生事。
丁日昌觉得很有道理，就按戈登的建议，首先遣散外国弁目一百余名，除月饷外，按名酌给赏恤盘费自七十五元至四千元不等。两千余名勇丁除月饷外，给予自两元至一百元不等的赏恤银。还有海生轮船、炮船、枪船及通事、书识等辅助人员分别给赏，共花费十二万八千多洋元，补清饷银六万余两。然后炮队六百名兵勇全部留下，洋枪队挑选三百名留下，全部换上淮军号衣，交由原常胜军中方统领李恒嵩管带。
丁日昌和马格里办完这件事情后，到苏州向李鸿章交差。李鸿章很高兴，说道：“今天我请你们两位吃饭，吃家乡的红酱面！”
戈登离开上海前一天前来向李鸿章告别。他告诉李鸿章，他是真心希望中国能够强大，所以，根据他在中国的观察，对当政者有十条建议供参考，他已经通过驻英公使转交总理衙门，还特意抄了一份请李鸿章参阅。俗话说“当局者迷，旁观者清”，李鸿章对戈登的建议很感兴趣，接过来一条条细阅，果然颇有道理——
一、中国与外国议约，当在中国开议；
二、与外国议约，须多用文字，少用口头之约；
三、中国之都城一日不迁离北京，则一日不可与人开衅。因都城距海口太近，无能阻挡，此为孤注险招；
五、所购船炮，甚为失计。应以购船炮之款，尽购新式枪，俟陆军练成劲旅，再购船炮；
六、中国有不能战而好言战者，皆当斩；
七、应多方帮助华商出洋，径向制造厂购货；
八、总税司宜驻上海，专管税务，不令僭越他事。若与外国公使议事，不宜令局外之洋人干预；
九、当责成出使大臣，承办外洋军火，如与各国公使谈论，有不谐之处，当令出使大臣，在外商办；
十、亟宜设税务学堂，令华人习学关税事宜，以备代替外人。薪水宜照外人例优给。
此十条或有偏颇之处，但在李鸿章看来，算得上耿耿之心。尤其第六条之“中国有不能战而好言战者，皆当斩”，一语道破中国之绝症所在——书生好空谈，不知外国详情，不学外国之长，却以泱泱上国自居，动辄就要向外国开战，真是空谈误国！
至于控制总税务司赫德之权，确是为中国计。戈登与赫德是同乡，他更了解赫德，知道其擅权且喜越权，所以有此建议。此后赫德果然无论外交内政，事事插手。满朝文武，只有李鸿章不喜欢与他商榷国事，也确实是因戈登临别之诫。