有一次，光禄大夫义渠安国巡视各羌人部落，羌人中一个部落叫先零，这支部落的首领对义渠安国说希望可以渡过湟水（西宁河），在汉人不耕种的地方放牧。义渠安国向汉宣帝报告，赵充国弹劾他，但是羌人已经渡过湟水，地方官府管都管不住。
到了公元前63年，先零（羌人的一支）与其他羌人解除仇恨，订立盟约。汉宣帝知道后就去征求赵充国的意见。赵充国说羌人容易被制服，因为他们各个部落有各自的首领，经常相互攻打，不能统一。我担心匈奴联合羌人一起对抗汉朝，所以要趁早做好准备。一个多月后，羌人果然向匈奴借兵，准备攻打鄯善、敦煌。赵充国认为应该让边防部队做好准备，同时派人到各个羌人部落，不能让他们化解彼此之间的仇恨。于是朝廷派义渠安国去，他到了那里，把先零的三十多个首领召集来，杀掉了，又发兵攻打，杀了一千多人。这下羌人非常恐惧，于是开始反抗，进攻边境，杀掉汉朝官员。义渠安国被羌人打败。
赵充国
公元前61年，赵充国七十多岁了，汉宣帝觉得他太老了，就派丙吉去问他谁合适带兵出征。赵充国很自信地说：“没有比我更合适的人了。”汉宣帝问他要多少兵。赵充国说：“百闻不如一见（成语出处），打仗的事很难凭空想象。我要到金城（兰州别称）考察之后才能制定作战方案。希望陛下把事情交给我，不要担心。”
赵充国到了金城，集合一万骑兵，准备渡过黄河。他怕羌人拦截，所以在夜里先派了一些人马过河，在对岸摆开阵势。等到天亮后，才依次渡过黄河。这时羌人派了骑兵来，赵充国担心这是敌人的诱兵之计，所以下令不准出击。赵充国打仗讲究稳扎稳打，经常派出侦察兵，行军时一定做好战斗准备，驻扎时加固营垒，事先制定好作战计划然后才打仗，所以羌人占不到便宜。赵充国又派人到羌人那里讲汉朝只杀有罪的人，如果能杀掉有罪的人，还可以得到赏赐。这样来分化瓦解羌人。
这时酒泉太守辛武贤上奏说：“汉朝的马不能在北方过冬，武威、张掖、酒泉这三个地方有一万多匹战马，现在把马喂饱，然后带上三个月的粮草，分别从张掖和酒泉出发，攻打罕、开部落在鲜水（鲜水河）上游的部队。即使不能消灭他们，也可以俘获他们的牲畜、家眷。”
汉宣帝让赵充国和部下讨论这件事，赵充国认为长途奔袭很累，而且敌人得到消息后就会逃跑，如果追击深入那就危险了。先零是首先发动叛乱的，所以应该先打先零，这样可以震慑其他部落。汉宣帝又让大臣们讨论，大臣们认为先零太强不好打。汉宣帝就采纳了辛武贤的计划，任命辛武贤为破羌将军，许延寿（许广汉的弟弟，许皇后的叔叔）为强弩将军，同时又下诏给赵充国让他向西推进，跟辛武贤会合。赵充国却坚持己见，他上书给汉宣帝说先零羌准备入侵中国，罕羌却没有侵犯的行动。如果打罕羌而不去打先零羌，这不是放过有罪的，而诛杀无辜的，我认为是不妥当的。而且攻打罕、开羌，先零羌一定会去援助，这样反而坚固了他们的同盟，更加难以对付了。所以我认为一定要先讨伐先零羌。汉宣帝同意了。
赵充国于是带兵到先零羌的地方。先零羌因为长期没有受到攻击，所以放松了警惕，一看汉朝大军来了，就纷纷逃跑，想渡过湟水。赵充国命令部队不要追得太急，因为追急了他们反而会拼命。结果先零羌人落水淹死的有几百人，投降以及被斩首的有五百人，俘获马牛羊十多万头。大军到了罕羌的地方，赵充国下令不能烧杀抢掠，罕羌因此也臣服了。
这年秋天，赵充国生病了，汉宣帝就下诏说如果病情严重就让辛武贤和许延寿出征就可以了。赵充国却打算进行屯田，他儿子赵印害怕违抗圣意，就派人劝他爹。赵充国说如果一开始就听我的话，怎么会是这样一个局面。我推荐辛武贤巡视羌人，结果丞相御史却推荐义渠安国。我向耿寿昌说要买二百万斛谷子，他却说只买一百万斛，最后只得到四十万斛，所以羌人才敢叛乱。我相信贤明的君主是会听别人的忠言的。于是就上书汉宣帝，先说自己每个月耗费的钱粮非常多，而且羌人容易用计策攻破，但不适合拿兵力硬攻。现在这一带有很多没有开垦的土地，如果留下一万人屯田可以节省一大笔费用。汉宣帝问如果按你说的做，羌人什么时候能够平定？赵充国列举了十二点屯田的好处，并向皇帝保证一年时间可以平定。汉宣帝又提出疑问，你说的一年时间从什么时候开始？如果对方知道我们撤军，会不会趁机进攻？另外大开、小开羌说：“我们向汉朝报告了先零羌的位置，汉军却不去攻打。”现在不去进攻，他们会不会跟先零联合起来？赵充国又一一做了回答。终于汉宣帝同意了赵充国的屯田计划，但同时又派辛武贤、许延寿和赵印一起出击。这样到公元前60年，羌人的问题基本解决。
赵充国寿命很长，活了八十六岁。
