黑水城始建于公元11世紀(jì)初，是西夏王朝設(shè)在北部邊境的一座重要的軍事城堡。盡管城市規(guī)模較小，但因它是河西走廓通往漠北的必經(jīng)之路和交通樞紐，所以戰(zhàn)略地位極為重要。
在西夏建國以前，黑水城一帶就已有大量居民在這里耕耘牧獵、繁衍生息。西夏建國后，為防東面遼國和漠北蒙古的侵入，曾先后調(diào)集兩個(gè)統(tǒng)軍司來駐守黑水城及整個(gè)居延地區(qū)，并將大批人口遷到黑水城一帶定居。讓他們?cè)诋?dāng)?shù)赝蛪ㄔ焯铩⑸a(chǎn)糧食，以滿足大批軍民的生活需要。到西夏鼎盛時(shí)期時(shí)，黑水城逐漸變成一座經(jīng)濟(jì)、文化都較為發(fā)達(dá)的繁榮城市。官署、民居、店鋪、驛站、佛教寺院以及印制佛經(jīng)、制作工具的各種作坊布滿了城區(qū)，一派繁榮昌盛。這種情況大約持續(xù)了近200年之久!
公元l226年，成吉思汗率大軍征伐西夏，首先攻克了黑水城，并由此南下，直取西夏的國都中興府，次年，西夏滅亡。元朝建立后，黑水城依然沿用。當(dāng)時(shí)這一地區(qū)劃歸甘肅行省稱“亦集乃路”，元朝在這里設(shè)置了亦集乃路總管府，管轄這一地區(qū)及西寧、山丹兩州。由于黑水城是漠北通往內(nèi)地的重要交通樞紐，元朝統(tǒng)治者不僅派遣了大量軍隊(duì)來黑水城駐防，還從各地遷來許多漢族和蒙古族人，來這里與當(dāng)?shù)厝斯蚕虬l(fā)展農(nóng)牧業(yè)生產(chǎn)。當(dāng)時(shí)，各族人民利用額濟(jì)納河的水利資源開渠造田，經(jīng)過數(shù)十年的奮斗，先后屯田近萬畝。
元朝時(shí)期，漢族和蒙古族人不斷遷入，黑水城經(jīng)濟(jì)發(fā)展、人口增加，原來的城池已不能滿足需要，于是統(tǒng)治者對(duì)城市進(jìn)行了擴(kuò)建改造。擴(kuò)建后的黑水城，東西寬450米，南北長380米，是原來城市面積的3倍。城區(qū)內(nèi)分布有街市、官署、驛站、學(xué)府、寺院等區(qū)域和百姓、官員、兵卒的往宅區(qū)；有直通城門的東、西大街和南北街巷組成的整齊街道。街道兩側(cè)，布滿了各種店鋪，有飯館、酒店、客棧、錢莊、雜貨店、衣帛行、馬具作坊等，并有馬市、柴市及交換農(nóng)牧產(chǎn)品的互市場所。
元朝時(shí)的黑水城，不僅城內(nèi)十分繁榮，而且在城外也有百姓集中的居民區(qū)和繁華熱鬧的街市。當(dāng)時(shí)，居住在黑水城帶的固定人口約有七八千人之多!
傳說過去黑水城是西夏都城，最后一位君主號(hào)稱黑將軍。他英武蓋世，所向無敵，在與漢族爭霸中原時(shí)，出師不利，退守孤城。中原大軍久攻不克，見城外額濟(jì)納河流貫其間，便以沙袋塞其上流，斷絕城中水源。守城者于城內(nèi)掘井，至極深而滴水未見。黑將軍被迫全力出戰(zhàn)，未戰(zhàn)前，以所存白金八十余車連同其他珍寶傾入井中，又親手殺死自己的妻小，以免落入敵手，然后率士卒出戰(zhàn)，終因寡不敵眾戰(zhàn)敗身亡。
中原軍隊(duì)攻陷黑水城后，大肆搜尋而未能得見寶藏。關(guān)于這段歷史還有另外一種說法：黑將軍戰(zhàn)敗后并沒有死，而是向東南方向撤退。在距今內(nèi)蒙古自治區(qū)阿拉善左旗巴音浩特不遠(yuǎn)的地方，曾留下了他的盔甲和戰(zhàn)袍。這一有傳奇色彩的故事與歷史事實(shí)相去甚遠(yuǎn)，但其中藏寶的傳說卻吸引著不少人。俄國的科茲洛夫就是著迷于神秘的黑水城的人物。
1909年，科茲洛夫率領(lǐng)了一支全副武裝的探險(xiǎn)隊(duì)打著考察野生動(dòng)物的旗號(hào)前往黑城。翻過蒙古高原，闖入了陌生的巴丹吉林沙漠。科茲洛夫的遠(yuǎn)征隊(duì)驅(qū)趕著駱駝行進(jìn)在茫茫沙海中，半個(gè)多月過去了，饑餓、干渴、疲勞、疾病、蒙古向?qū)У奶与x，曾使得這支遠(yuǎn)征隊(duì)瀕臨死亡的邊緣，但他們最終找到了夢幻般的黑水城，看著黑水城的殘?jiān)珨嗤?、氣勢依舊的城墻，科茲洛夫后來說：“我永遠(yuǎn)不會(huì)忘記那一刻欣喜若狂的心情”
傳說中的寶物在異國人的瘋狂發(fā)掘下最終現(xiàn)身，留紿中國考古史一個(gè)巨大的創(chuàng)傷，無數(shù)陶器、鐵器、織品、雕塑品和繪畫等珍貴文物從此流落異邦。這批珍貴的文物用40頭駱駝偷運(yùn)到圣彼得堡，在俄國公開展出后，轟動(dòng)了全世界。在這眾多的珍寶中，尤以黑水城文獻(xiàn)最引人注目。黑水城文獻(xiàn)是西夏人記錄的歷史資料，由于西夏的滅亡和主體民族黨項(xiàng)族的消失而被歷史湮沒。在20世紀(jì)以前甚至找不到一本西夏文著作，黑水域文獻(xiàn)就顯得十分稀缺珍貴。
科茲洛夫從黑城盜掘的文獻(xiàn)有舉世聞名的西夏文刊本和寫本達(dá)8000余種。還有大量的漢文、藏文、回鶻文、蒙古文、渡斯文等書籍和經(jīng)卷，這些文物文獻(xiàn)數(shù)量繁大，版本大都完整，是研究西復(fù)王朝甚至于和西夏王朝同時(shí)的宋、遼、金王朝，還有元朝歷史的“無價(jià)之寶”，據(jù)說，俄羅斯有關(guān)學(xué)者整整花了半個(gè)世紀(jì)才提出了這批文獻(xiàn)的完整目錄，由此可以看出這批文獻(xiàn)數(shù)量之浩繁。這一發(fā)現(xiàn)被公認(rèn)為是繼殷墟甲骨、敦煌遺書之后的中國第三大考古文獻(xiàn)發(fā)現(xiàn)。