明年春，大将军青出定襄……斩首数千级而还。月余，悉复出定襄，斩首虏万余人。苏建、赵信并军三千余骑，独逢单于兵，与战一日余，汉兵且尽。
——《汉书·卫青霍去病传》
元朔五年（前124年）秋，就在卫青率兵奇袭右贤王本部数月之后，一万多名匈奴骑兵再度侵入代郡，杀死都尉朱英，掳掠百姓一千余人。
汉武帝接到奏报后大怒，立即决定对匈奴的这次入侵展开反击。
在卫青奇袭右贤王本部之后，向北逃遁的右贤王正在忙着收拢残兵舔舐伤口，已经基本丧失了持续作战的能力。而在右贤王北逃之后，伊稚斜单于所在的单于庭侧翼便暴露了出来。
汉武帝自然不会放过这个千载难逢的机会，在与卫青等人商议之后，决定直接出兵攻打伊稚斜单于的本部兵马，作为对其频繁出兵南下劫掠的惩罚。
元朔六年（前123年）二月，为了一战将伊稚斜单于打痛、打怕，使其不敢再轻易南下劫掠，汉武帝征调十余万骑兵，交由大将军卫青统率，命其自定襄郡北上，直捣匈奴单于本部，同时以太仆公孙贺为左将军，翕侯赵信为前将军，卫尉苏建为右将军，郎中令李广为后将军，右内史李沮为强弩将军分统各军，皆隶属于大将军卫青指挥。
卫青率领大军出塞后一路北上，沿途派出大量侦骑寻找匈奴军队，然而汉军深入匈奴腹地数百里，却连匈奴主力的影子都没有找到。
正所谓“兵马未动，粮草先行”，自古以来行军打仗，粮草都是重中之重，不过为了应对匈奴来去如风的作战方式，卫青为了保持军队的机动力，并未配备后勤部队，只由士兵们各自随身携带了数日干粮。因此，当寻找匈奴主力数日未果后，卫青只得赶在军粮消耗殆尽之前，率领军队回撤。
不过，让卫青怎么也没有想到的是，自己派遣了大量侦骑苦寻数日，都没有找到的匈奴主力，却在自己率军返回的途中遭遇了。双方一场大战，汉军虽然斩敌数千，但己方损失却也不小，卫青只得率军退回定襄、云中休整。
同年四月，经过短暂休整后，卫青率六将军再次出定襄北上，寻找匈奴主力作战。
众所周知，在广袤的草原上想要寻找敌军，历来都不是件容易的事情，为了避免重蹈覆辙，卫青这次在亲率主力北上寻敌的同时，又命各将分别统率千余兵马，以主力军队为中心，向左右两翼扩大搜索范围，避免大军空耗钱粮，寻敌不得。
然而，与第一次一样，卫青率领主力一路北上，却连匈奴军队的半个影子都没有见到，左右两翼率军寻敌的公孙贺、李广等人也没有任何匈奴人的消息。
不愿再度空手而归的卫青，想起了当初自己直捣龙城的那一战，心想“既然寻敌不得，不如直捣虎穴”，遂率领主力向着单于王庭杀奔而去。
匈奴王庭不同于中原王朝的都城，有着城高墙阔的城墙保护，有屯驻于京城内外的军队驻守，即便遭遇外敌也有一定的防御能力。匈奴虽然也有自己的城市和政治中心，例如头曼城、龙城，但那些城池大多是匈奴单于举行大型政治活动或祭祀的地方。
由于匈奴逐水草而居的游牧习惯，为了迁徙方便，其所谓的王庭只有一个大致的范围，而无固定的驻地，更像是个庞大的部落，只是这个部落的规模相较于其他匈奴各部要庞大许多而已。
匈奴单于麾下虽然拥有着匈奴各部中最为强大的军队，但由于其平时放牧为民，战时应征出战的生活生产方式，其主力军队大多是由部落中的牧民所组成，因此一旦主力外出作战，整个单于庭的防御力便会迅速下降。
虽然早年卫青也曾攻破龙城，但作为匈奴祭祀之地的龙城，在不举行祭祀之时，留守该地的匈奴军队和部落实际上并不算太多。正因如此，卫青虽然成功攻破了龙城，取得了一场大胜，但也仅仅只有七百人的斩获，“龙城之战”的象征意义要远大于实际意义。