元朔年间，西汉王朝与匈奴政权间的战争形势发生了重大变化。元朔二年，在收复河南地“置朔方郡、五原郡”的同时，还将上郡的东界扩展至南流黄河以东部分，以增强纵深防御。随即，匈奴政权针对河南地对西汉展开一系列战争。
元朔四年，“夏，匈奴入代、定襄、上郡，杀略数千人”。同年，西汉分上郡东部及新收复部分河南地置西河郡，为两汉西河郡设立之始。黄苑野以为元朔四年匈奴从定襄入上郡的事件，是西汉设立西河郡的重要原因。其实元朔四年匈奴入上郡并非从定襄郡渡河突入。《汉书·匈奴传》明言：“又入代郡、定襄、上郡，各三万骑”，是知匈奴政权兵分三路，相互无涉。西汉之所以分上郡设西河郡，乃是简化边郡作战任务、缩短边郡直接防御宽度的一贯原则。
随着对匈奴战争的进行，西河郡在西汉政权的战略意义进一步上升，多次有大军从西河郡出发，出击匈奴。终西汉之世，西河郡始终是首屈一指的边境大郡，一般认为，西河郡的治所在《汉书·地理志》中所载的首县富昌，也有以为其治所在平定县。
新莽易代，北边战乱，西河郡同样被卷入其中。东汉初立，“西河太守宗育遣子奉檄降”，西河郡遂为东汉王朝所掌控。建武二十三年(47年)，“是岁，匈奴薁鞬日逐王比率部曲遣使诣西河内附”，南匈奴归附后，东汉将其安置在北疆八郡地带，西河郡也在其中，大量属县被省并。西河郡美稷县成为南匈奴单于庭所在，并于此设立使匈奴中郎将保护、监管归附的南匈奴。
之后西河郡屡经战火与动乱，远不及西汉时繁盛，据《续汉书·郡国志》载，东汉时期的西河郡“雒阳北千二百里也。十三城，户五千六百九十八，口二万八百三十八”，户数为西汉时期的4.18％，口数为西汉时期的4.13％。同样，东汉时期西河郡辖县仅十三：“离石，平定，美稷，乐街，中阳，皋狼，平周，平陆，益兰，圜阴，蔺，圜阳，广衍。”其余西汉时期所见诸县，除大城县归属朔方外，其余皆被省并。
在此之后，南匈奴内部与归附的北匈奴多次爆发战乱，特别是后期与羌乱等问题相互杂糅，西河郡屡经战火。至此，西河郡迁治所至南流黄河以东的离石，直至东汉王朝灭亡。
西汉西河郡的边界与地域构成
在对汉代西河郡地域内考古遗存进行搜集考订前，首先需对其边界做一大致考订。因为西汉时期西河郡涵盖的范围大于东汉时期西河郡的范围，故讨论汉代西河郡边界时，以西河郡范围最大的西汉时期为准。
西河郡南流黄河以东的部分，周振鹤以为本为代国的王子侯国，元朔三年属上郡，元朔四年份置西河郡时归于西河郡，其说至确。其东以吕梁山、芦芽山与太原郡为界，东南约在今山西省中阳、孝义之间。
西河郡南流黄河以西的部分，较为复杂。比如西河郡的西边界线，存在多种不同看法，如谭其骧所主编的《中国历史地图集》，在年内部版中的相关部分，西河郡西北边界从贺兰山自然延伸至狼山，而在年新版则将其西北边界向内画出一个大大的弯曲。其依据当是王文楚所撰专文。
史念海对此提出不同意见，认为西汉中后期，西河郡西北边界在黄河西北，李新峰通过对李陵一役的作战计划的研究证明，汉武帝以后的西河郡的西部边境，处在绝漠道路的南端，位于紧邻朔方郡南边的黄河西部地区，其南是北地郡。
张文平通过考订西汉眩雷塞在今北流黄河之西的乌兰布拉格障城，进而否定了王说。周运中撰专文讨论这一问题，赞同张文平对眩雷塞位置的考订。李鑫鑫则认为，乌兰布拉格障城离朔方郡三封县及鸡鹿塞过近，眩雷塞应在其西南的狼山西南余脉中。
需要注意的是，石昇烜指出，居延汉简中的“塞”当指城墙亭障所构成的“防区”，简牍中“甲渠塞”、“殄北塞”等称呼，指的是甲渠候、殄北候管辖的防区。故而，西河郡西部眩雷塞应当是指以乌兰布拉格障城为中心的哈鲁乃山南麓列燧，应当就是眩雷塞的整体管辖范围，西河郡的西北边界自然也到达了今所见哈鲁乃山南麓-亚玛雷克列燧一线。
西河郡东北面与五原郡的边界推定，重要参考地标为西都县。西都县，西汉初年张家山汉简记载曾属上郡，王莽时更名为“五原亭”，此次更名数量较多：“郡县以亭为名者三百六十，以应符命文也。”其中的规则据马孟龙指出，如果某县的名称和该县所属郡的名称一样，便在县名后面增加一“亭”字用来区分，“凡莽改郡县同名者，其县例有亭字”，王莽把西都县更名为五原亭，其时西都县属五原郡，故要增“亭”字以作区别，可见西都县地近五原郡。
五原郡属县武都县，西汉初年张家山汉简中记载，武都县亦曾属上郡，可见两者相距应不会太远。吴荣曾考订武都县在前城城址，故而马孟龙推定西都县在郝家圪台城址，史党社则根据桥头峁城址所出两方“西都”印文的戳印板瓦，推定其为西都县。但无论哪种说法，西河郡的北部与五原郡的分界线，都应大致以今黄甫川支流十里长川为界；向西大致以秦汉榆溪塞长城一线延伸，与朔方郡相接。
西河郡与朔方郡的边界，马孟龙认为应当在今库布齐沙漠一带，其实，西汉朔方郡南缘的推定，可以依赖于一处固定标识物，盐池。《汉书·地理志》载：“朔方，金连盐泽、青盐泽皆在南。”
目前一般将盐海子视作《汉书·地理志》“朔方郡”条目中所提到的青盐泽。从地理角度分析，朔方郡南部属县应沿河及汇入黄河的孔兑分布，盐海子以南正是分界线，故西河郡与朔方郡当以此为界；西河郡与朔方郡在北流黄河以西部分之间，当是以乌兰布和沙漠北部基本无潜水区为界，其北为朔方郡以屠申泽为中心的屯田区，以南则是西河郡西出塞道眩雷塞。
西河郡西南部与北地郡的分界线大致在今吉兰泰盐池以西的沙漠地带，哈鲁乃山南麓-亚玛雷克列燧止点与贺兰山西麓列燧起点相距53.9千米，之间为乌兰布和沙漠。北地郡属县“廉，卑移山在西北，莽曰西河亭”，新莽时一度属西河郡，廉县在贺兰山东南，故西河郡南部与北地郡北部应以贺兰山北端为界。
西河郡在鄂尔多斯高原上与北地郡、上郡间的界线较难划分，阮浩波、王乃昂等在探寻毛乌素沙地的汉代城址分布规律时发现，两汉时期毛乌素沙地古城在空间上趋于凝聚分布，可以明显看出毛乌素沙地古城遗址在空间分布上呈现出西疏东密的特征，形成明显的“空间组群”的格局。
汉代城址的分布多以河流水系为主，向周边散布，张文平指出，分布于同一区域内的西汉县城，相互之间的直线距离，一般均在10千米以上，以20~30千米居多，最大一般不超过40千米，这为探讨汉代该地区的行政区划带来重要启示。西河郡所在的D区域与北地郡、上郡间的界线，当大致以都思兔河流域为界线。
神木大保当城址为上郡最靠东北的城址，西河郡与上郡东北的界线，当大致以无定河北侧支流与秃尾河间分水岭为界线。其与上郡在西南侧的分界，经马孟龙考订，在无定河南岸五龙山以东的南塔镇响水乡一线，无定河以北的分界为今横山县白界乡至榆林市区一线。西河郡的南界，在今陕西宜川以北。
以上就是对西汉时期西河郡地域范围的大致划定，为下文讨论城址、墓葬、长城以及出土文字资料的选取原则做一地域范围上的限定。
从西汉时期西河郡的地域构成上来分析，黄河以西的西河郡地域由两部分构成：
其一，西河郡东部地区，来自于秦昭襄王长城-榆溪塞长城之内的部分。西汉建立初期，匈奴“悉复收秦所使蒙恬所夺匈奴地者，与汉关故河南塞，至朝那、肤施”。即秦昭襄王长城，以及其北端点顺着东西向分水岭向西，到达哈什拉川的源头地带，顺哈什拉川向北，新民堡长城的东端点在哈什拉川西岸，沿东西向的新民堡长城向西，与当时黄河的南河岸连接起来。
西汉初期所辖有秦昭襄王长城-哈什拉川-榆溪塞长城连线以内的地区。西河郡辖县见于张家山汉简的有8个，此时属上郡的有“圜阳、平陆、饶、平周、西都、中阳、广衍”，属云中的有“博陵”，均在于该线以东。
其二，西河郡西部地区，秦昭襄王长城-榆溪塞长城连线之外部分，既包含了秦昭襄王长城-榆溪塞长城连线之外的黄河西侧诸支流如皇甫川、窟野河、秃尾河及无定河北侧部分支流流域，也包括了鄂尔多斯高原西部的内流区。这一区域诸多遗存，应多是在收复河南地后陆续兴修的。在自然地理上，鄂托克-四十里梁分水岭的西侧、白于山的北侧这一广大地区，除都思兔河流域外均属于鄂尔多斯内流区。
以此为界，鄂尔多斯高原大致上呈现出东西迥异的态势，在全新世大暖期，农牧交错带也未能越过该线以西。东部外流区以农业为主；西部内流区以畜牧业为主，而西部内流区全部在秦昭襄王长城-榆溪塞长城连线之外的西河郡西部。
因此，对于汉代西河郡范围内的考古遗存，也将按照东西两个部分进行分类，在差异化下寻求其共性。