此时的汉军只有三千人了，在没了强弩劲箭的优势之下，他们只能拿起短刀、车辐与匈奴兵肉搏，而他们身在峡谷，被匈奴前后堵住，再无退路！
站着的越来越少，倒下的越来越多，身边尽是狰狞死尸发出的恶臭，耳边尽是痛苦无告的呻吟。夕阳西下，李陵对着天边那一抹凄艳的血色，长叹说：“兵败，死矣！”已有了末路悲意。军吏劝道：“将军威震匈奴，天命不遂，后求道径还归，如浞野侯为虏所得，后亡还，天子客遇之，况于将军乎！”浞野侯就是赵破奴，他曾被匈奴人俘虏，后来逃回汉朝，受到武帝礼遇。军吏提到赵破奴，其实是要李陵投降。李陵知道他的意思，说：“公止！吾不死，非壮士也。”
于是李陵“斩尽旌旗”，又将随身珍宝都埋了，慨叹说：“要是仍有几十支箭，我就可以脱身。现在无兵可以再战，明天我们只有受缚一途。所以大家四散逃了吧，各凭天命，定有能够逃出重围的人将我们的经历报告给天子。”
阴云蔽月，李陵与成安侯韩延年领着十几个人突出重围，后面跟着数千匈奴追兵。韩延年战死。李陵仰天长叹：“无面目报陛下。”遂降。
之后，武帝后悔没有及时救援李陵，说：“李陵出塞时，就应让强弩都尉去迎接。在朝廷下诏，才让老将路博德心生奸诈，使李陵军覆没。”于是派使者慰劳赏赐李陵军中逃回的士兵。
武帝误听讹传，诛灭李陵三族
李陵在匈奴待了一年多后，武帝派因杅将军公孙敖带兵深入匈奴境内，迎接李陵。公孙敖之军无功而还，说：“捕获俘虏，说李陵教单于练兵来防备汉军，所以我没有战功。”武帝误听信李陵替匈奴练兵的讹传，夷其三族。
道听途说，不辩真伪，枉杀李陵全家老小，致使李陵彻底与汉朝断绝关系。
其后，汉遣使者出使匈奴，李陵对使者说：“吾为汉将步卒五千人横行匈奴，以亡救而败，何负于汉而诛吾家？”使者说：“汉闻李少卿教匈奴为兵。”李陵说：“乃李绪，非我也。”
陵曰：“归易耳，丈夫不能再辱！”
李陵与苏武交谈中有“我李陵虽然无能和胆怯，假如汉廷姑且宽恕我的罪过，不杀我的老母，使我能实现在奇耻大辱下积蓄已久的志愿，这就同曹沫在柯邑订盟可能差不多，这是以前所一直不能忘记的！逮捕杀戮我的全家，成为当世的奇耻大辱，我还再顾念什么呢”的表白。
这段话表明了李陵暂时委曲求全，以图东山再起，再报汉室的心迹。
此情可待成追忆？只是当时已惘然。
汉昭帝即位后，向来与李陵友好的大将军霍光、左将军上官桀辅政，派李陵的老朋友任立政等三人出使匈奴，借机劝李陵归汉。使节在酒席上抚摸佩刀上的环(寓意“还”)，触碰李陵的脚，大声说“汉朝已经大赦，中原安乐，主上年少，辅政的是霍光和上官桀！”李陵表示“吾已胡服矣！”(我已经是异国人了)而且以“大丈夫不能第二次受辱”的回应。
痛哉！休对故人思故国！