李陵说：“我军士气不如前，又鼓不起来，是什么原因？莫非是军中有女人么？”原来，军队出发时，有些被流放到边塞的关东盗贼的妻女随军做了士兵们的妻子，大多藏匿在车中。
李陵把她们搜出来后，用剑把她们全部杀掉了。第二天再战，果然斩匈奴首三千多。他们向东南方突围，沿着故龙城道撤退，走了四五天，被大片沼泽芦苇挡住。
匈奴军在上风头纵火，李陵令将士放火烧出一块空地才得以自救。又退到一座山下，单于已在南面山头上，命自己儿子率骑兵向李陵发起攻击。
李陵的步兵在树林间与匈奴骑兵拼杀，又杀匈奴兵数千，并发连驽射单于，单于下山退走。这天李陵捕得俘虏，俘虏供出：“单于说：‘这是汉朝的精兵，久攻不能拿下，却日夜向南退走把我们引到塞边，会不会有伏兵呢？’而许多当户和君长都说：‘以单于亲率数万骑兵攻打汉朝几千人，却不能把他们消灭，那以后将无法再调兵遣将，也使汉朝越发轻视匈奴。务必在山谷间再度猛攻，还有四五十里才到平地，即使不能破敌，返回也来得及。’”
正巧，李陵军中有一个叫管敢的军侯，因被校尉凌辱而逃出，投降了匈奴。他对单于说：“李陵军无后援，并且箭矢已尽，只有李陵将军麾下和成安侯韩延年手下各800人排在阵式前列，分别以黄白二色做旗帜，派精兵射杀旗手即可破阵了。”
单于得到管敢，特别高兴，命骑兵合力攻打汉军，边打边喊：“李陵、韩延年快降！”接着挡住去路猛烈攻打李陵。李陵处在山谷底，匈奴军在山坡上从四面射箭，矢如雨下。汉军坚持南行，未等冲到鞮汗山，一天之中50万支箭已全部射光，便丢弃战车而去。
当时，李陵还剩士兵三千多，赤手空拳的就斩断车轮辐条当武器，军吏们也只有短刀。又被一座大山所阻，只能折入狭谷，单于切断了他们的退路，在险要处放下垒石，很多士卒被砸死，不能前进。
黄昏后，李陵换上便衣独步出营，拦住左右说：“不要跟着我，让我一个人去干掉单于！”过了很久，李陵才回来，叹息说：“兵败如此，唯求一死！”
军吏说：“将军威震匈奴，陛下不会让您死，以后可想别的办法回去。浞野侯虽被匈奴俘获，但后来逃回去，陛下仍以礼相待，何况对将军您呢！”
李陵说：“你别说了，我不战死，不为壮士。”于是他要部下把旌旗都砍断，把珍宝埋藏在地下，又扼腕道，“再有几十支箭，我们足以逃跑了，可现在无武器再战，天一亮就只有束手待擒了。不如各作鸟兽散，还可能有逃回去报告陛下的人。”
他令将士们每人拿上二升干粮，一大块冰，约定在边塞遮虏鄣会合。准备夜半时分击鼓突围，但鼓没有响。李陵与韩延年一同上马，十多名壮士和他们一道冲出。匈奴数千骑兵紧追，韩延年战死，李陵长叹：“我无脸面去见陛下呀！”于是下马投降了。
他的部下四散逃命，逃回塞内的仅四百余人。李陵兵败之处离边塞只有百余里，边塞把情况报告了朝廷，汉武帝认为李陵已战死，就把他母亲和妻子叫来，要相面的人来看，却说她们脸无死丧之色。后来得知李陵已降匈奴，汉武帝大怒，责问陈步乐，陈步乐自杀了。
文武百官都骂李陵，汉武帝以李陵之事问太史令司马迁，司马迁则说：
李陵服侍母亲孝顺，对士卒讲信义，常奋不顾身以赴国家危难。他长期以来养成了国士之风。今天他一次战败，那些为保全身家性命的臣下便攻其一点而不计其余，实在令人痛心！况且李陵提兵不满5000人，深入匈奴腹地，搏杀数万之师，敌人被打死打伤无数而自救不暇，又召集能射箭的百姓来一起围攻。他转战千里，矢尽道穷，战士们赤手空拳，顶着敌人的箭雨仍殊死搏斗奋勇杀敌，得到部下以死效命，就是古代名将也不过如此。他虽身陷重围而战败，但他杀死杀伤敌人的战绩足以传扬天下。他之所以不死，是想立功赎罪以报效朝廷。
很久以后，汉武帝悔悟到李陵是无救援所致，说：“李陵出塞之时，本来诏令强弩都尉接应，只因受了这奸诈老将奏书的影响改变了诏令，才使得李陵全军覆没。”
于是，汉武帝派使者慰问赏赐了李陵的残部。李陵在匈奴一年后，汉武帝派因杅将军公孙敖带兵深入匈奴境内接李陵。
公孙敖无功而返，对汉武帝说：“听俘虏讲，李陵在帮单于练兵以对付汉军，所以我们接不到他。”汉武帝听到后，便将李陵家处以族刑，他母亲、兄弟和妻子都被诛杀。陇西一带士人都以李陵不能死节而累及家室为耻。
此后，有汉使到匈奴，李陵愤愤质问使者：“我为汉将，率5000人横行匈奴，因无救援而败，我哪里对不起大汉而诛杀我全家？”从此，他死心塌地投入了匈奴的怀抱。李陵的投降，使且鞮侯单于兴奋异常，为了笼络李陵，他把女儿嫁给了李陵，并立他为右校王，身居显位，每逢国有大事，单于都找他商议。
苏武见到李陵一副匈奴显贵的装束，大为吃惊。李陵为苏武摆酒设宴，席间详细地讲述了自己的遭遇，又趁机对苏武说：“单于知道你是我的老友，特让我前来劝告。你被幽禁在这荒远之地，返回汉朝已是不可能的了。你在这里受尽了苦难，可有谁知道你的信义节操呢？”
为了让苏武彻底放弃归汉的念头，李陵又说：“你的兄长苏嘉为奉车都尉，因扶车辇下台阶，不小心碰折了车辕，被弹劾为大不敬罪，自杀而死；你的弟弟苏贤为骑都尉，受皇上命追拿畏罪逃亡的宦官未果，惧怕皇上问罪，服毒自杀；你的老母已经去世，妻子听说也已改嫁。”
苏武多年未闻家音，听了这些不禁老泪横流，泣不成声。李陵又深为同情地接着说：“唉！人生苦短，犹如朝霞，你何必这样与自己过不去呢？现在皇上年事已高，反复无常，大臣们无罪被诛的，已有数十家之多。做臣子的安危不保，你这样做又是何苦呢？”
苏武擦了擦脸上的泪水，郑重地说道：“我父子本无功德，蒙皇上圣恩，官为将军，爵至封侯，我常想肝脑涂地去报答圣上。而今幸有这个机会，即使刀斩鼎烹，我也在所不辞。臣子对君主就同儿子对父亲，儿子为父亲而死，是毫无怨言的，少卿就不必再劝我了。”
李陵在苏武那里每天都摆宴设酒，闲述往事。又过三五天，李陵乘着酒兴又对苏武说：“子卿何妨就听我一句呢？”
苏武说：“为大汉朝，我愿意肝脑涂地。请不要再说了。一定要逼我投降，我马上死在你面前！”
李陵见苏武生活艰苦，于心不忍。过了一段时间，让自己的匈奴妻子出面，送给苏武几十头牛羊，又为苏武找了一个匈奴女子为妻。苏武考虑到自己的儿子生死不知，怕绝了后嗣，就接受了李陵的美意。苏武有了个匈奴妻子，减少了许多寂寞。不久得了一子，苏武在心理上又得到了一些安慰。
后来汉武帝病死，李陵又来到北海，将这一消息告知了苏武。苏武向南放声痛哭，直哭得吐出血来。他为不能直接向汉武帝复命而悲痛，旦夕哭祭。
汉昭帝继位后数年，匈奴与汉和亲，在汉使的一再要求下，匈奴答应放还苏武。李陵摆酒为苏武庆贺。李陵百感交集，对苏武说道：“今足下归国，我又是高兴又是悲伤。你坚守汉节，扬名于匈奴，显功于汉室，即使是古书所载、丹青所画的那些圣贤也不过如此，你将流芳千古。
我李陵亲人被族诛，世人厌弃我，我还有什么可值得顾恋的呢？罢了！
罢了！你我以后就是异域之人，此番便永别了！”
李陵说到这里，已经是泪如雨下，他离开座位，起舞作歌：径万里兮度沙漠，为君将兮奋匈奴。
路穷绝兮矢刃摧，士众灭兮名已隤。
老母已死，虽欲报恩将安归？
李陵的悲歌，唱出了一个孤独求败者的内心痛苦。
苏武被囚禁在匈奴19年，直到昭帝始元六年（前81年）春天，才在汉使的坚决要求下，回到长安。苏武出使匈奴时，正当年富力强；归汉时，头发胡须已一片雪白。在19年的漫长岁月里，他献出的是一颗对祖国无比坚贞的心。
对待匈奴，汉武帝集中了全国的经济力量和军事力量，组织并指挥了反击匈奴的战争，是完全符合汉朝人民的利益和要求的。匈奴经过屡次打击，力量已大为削弱。
太初三年（前102年）以后，匈奴虽然还有几次侵入汉朝，但已不是汉朝的大患了。对匈奴的战争，打击和抑制了自秦末、汉初以来匈奴对中原人民几十年的残杀掠夺，保护了人民的生命财产，也保证了汉朝社会经济和文化的发展。作为这次战争的最高决策者、组织者和指挥者，汉武帝建立了伟大的功勋。