武帝元鼎五年（前一一二），西羌数十万人反，和匈奴相应合，匈奴入五原（今河套），西羌围枹罕（今临夏）。翌年，武帝命将军李息讨羌，把羌人到青海和盐池，逼他们让出了湟水流域，汉朝就在那里立了许多县，隶属于陇西郡；又置護羌校尉，驻临羌县，统领羌中事务。到昭帝始元六年（前八一），又从陇西郡中分出金城郡。依今日的区域来说，这一个新立的金城郡的疆域应当东自榆中，西至湟源，南至夏河，北抵永登。湟水流域水草丰美，既宜于畜牧，又适于耕田，羌人虽一时离开，终究念念不忘。到宣帝时，派义渠安国巡行诸羌，先零羌的酋长向他请求，可否渡过湟水，到汉人没有种田的地方去畜牧。安国刚把这件事情奏闻朝廷，羌人就强渡湟水，官吏禁止不住。元康三年（前六三），先零羌又会合了诸种羌的酋长二百余人，解仇结盟，交换人质。这是有一个大举动的先兆，宣帝听得了，问老将赵充国；充国对道：