东晋十六国时期，前凉、前秦、后凉、西凉均置有西海郡。北魏时，今额济纳旗西河木仁高勒河东属凉州辖区，河西嘎顺诺尔以西归敦煌镇镇戍区域。北魏和平五年（），设置西海镇，镇戍额济纳地区。隋大业八年（），置大同城（今旗吉日嘎郎图苏木乌兰格日勒嘎查），隶属张掖郡。唐朝“宁寇军”治所大同城（今旗吉日嘎郎图苏木乌兰格日勒嘎查），统领居延区域军政事务。唐总章二年（），今旗境属陇右道肃州。唐垂拱元年（）以后，突厥占领漠北，安北都护府迁驻同城（今旗吉日嘎郎图苏木乌兰格日勒嘎查）。唐开元二十九年（），今旗境东部属甘州，西部属肃州和瓜州，隶属河西节度使。

宋辽时，今旗境为西夏（党项）政权统辖。西夏天授礼法延祚七年（），在居延设黑水镇燕军司，筑黑城（今旗吉日嘎郎图苏木哈日浩特古城遗址），为保护河西走廊北境的屏障（有记载“黑山威福军”治在黑城，而“黑水镇燕军司”治在黑水，今旗木仁高勒河西）。元朝时设置亦集乃路，治所亦集乃城（今旗原西夏黑城故址），亦集乃路总管府统领军政事务。明朝时，今旗境为蒙古（当时称鞑靼）统辖地。