内蒙古图书馆是内蒙古历史上建立最早的公共图书馆，它的历史可以上溯到清光绪三十四年（1908年）11月归化城副都统三多在旧城小东街文昌庙内创办的“归化城图书馆”。当时馆内有房屋10间，设有阅览室，并附设阅报所，藏书多为线装旧籍，除少量科学图书、书画外，“共计经史子集一万四千四百余卷”。1911年，随着清王朝的覆灭，该馆被关闭封存。 1925年夏，绥远特别行政区都统李鸣钟将封存已达14年的归化城图书馆重新开放，改名为“绥远区立图书馆”。后因绥远改区为省，该馆改名为“绥远省立图书馆”。截至1936年上半年，馆藏图书41215册。日寇侵占期间，绥远省立图书馆的藏书被伪蒙疆政府接收，成为蒙古文化馆下设的图书组。以后，蒙古文化馆改为蒙古文化研究所，并于1942年迁往张家口。1945年日本投降时，由于战乱，原蒙古文化研究所的藏书已损失大半。1947年4月，绥远省政府将残余图书运回归绥，于11月4日恢复省立图书馆。1949年8月，省立图书馆迁入原省立民立教育馆旧址（今工人文化宫后面），成为绥远省社会教育推行委员会管辖下的图书部。

绥远省和平解放后，1950年5月，奉绥远省文教厅指示，在原绥远省社会教育推行委员会下辖图书部的基础上筹建省图书馆。先在工人文化宫后的小院开办了一个图书室，该室未被正式命名，也未对外挂牌。同年10月，该室迁至新城鼓楼，正式命名为“绥远省人民图书馆”。1954年5月1日，绥远省建制撤销，图书馆遂改为现称—内蒙古图书馆。1957年5月1日，庆祝内蒙古自治区成立十周年之际，在呼和浩特市人民公园内落成的新馆开馆。内蒙古自治区主席乌兰夫亲自剪彩，李先念主席代表党中央和中央政府参加了开馆仪式，并题词留念。新馆馆舍建筑面积2830平方米，设计藏书容量30万册。

迁入新馆后，图书馆进入了一个全面发展的新时期。藏书由建国初期的30000余册增加到140余万册，远远超出了馆舍原设计藏书容量。1986年，为适应图书事业的发展要求，内蒙古政府决定新建内蒙古图书馆，新馆工程作为内蒙古自治区成立五十周年大庆的献礼项目。新馆地址就是现在内蒙古图书馆位置，总占地面积28000多平方米，总建筑面积20000多平方米，设计藏书容量300万册。馆名由原国家副主席乌兰夫题写。

1998年5月28日，新馆正式开馆接待读者。新馆有7个外借服务窗口、近2000个阅览席位，除向读者提供完善的文献借阅、参考咨询服务外，还增设了具有时代特点的高标准多功能厅、电子阅览、盲人阅览、民族地方文献查阅服务等20多个不同类型的阅览室。

内蒙古图书馆的藏书，不仅像一般公共图书馆一样具有综合性和广泛性，而且具有明显的民族特色和地区特点。从1953年开始，内蒙古图书馆就开始注意蒙古文等少数民族语言文字图书的收藏工作。目前，在该馆140多万册的藏书总量中，蒙古文新书70000多册（含基里尔蒙古文图书6300册），蒙古文古籍近8000册，藏文古籍近1500册，满文古籍3400册。

收藏的蒙古文古籍中80%为抄本，有蒙古史名著《蒙古源流》、《黄史》、《白史》和《青史》，蒙古文金字《金刚经》尤为珍贵，清代康熙年间的蒙古文刻本《丹珠尔》、《甘珠尔》，其印工装潢极为精致。蒙文古旧文献中，文学作品占了半数以上，珍贵者当推蒙古族近代现实主义作家尹湛纳希的《泣红亭》（稿本）、《一层楼》（抄本）和《红楼梦》（蒙译稿本）。蒙文部还藏有《三国演义》、《隋唐演义》、《英烈传》、《济公传》、《聊斋志异》等小说的蒙译本数十种。汉文珍本有明代的铜活字印本《太平御览》（一千卷）、《皇明北虏考》（一卷）。在加强民族语言文献收藏工作的同时，还注意了地方文献的收藏。在国内现存的90多种内蒙古地方志中，内蒙古图书馆收藏了80多种，《绥远通志稿》的3个稿本均珍藏于此。

图书馆新馆开放6年来，共接待读者240多万人次。藏书除古籍等少数珍贵文献外，其余采用大范围开架借阅的服务模式。图书流通数量、到馆读者人数、借阅证件发放数量、开放的规模和时间达历史最好水平。根据内蒙古民族地区特点和馆藏民族文献的特殊性，馆内还专门设有蒙古文经卷特藏库和地方文献阅览室。

内蒙古图书馆始终重视科技创新工作。1986年，内蒙古图书馆与内蒙古计算机中心联合开发了“蒙古文图书目录管理系统”，迈出了图书馆蒙古文文献管理和服务自动化的第一步，填补了自治区图书馆民族地方文献利用现代化技术的空白。1995年，研制了“蒙古文书目机读目录数据库”，是我国少数民族语言文字文献信息处理方面的突破，填补了我国蒙古文书目数据库方面的空白，该成果获文化部1995年度科学技术成果二等奖。“蒙古文数字图书馆支撑技术”项目在2002年通过了自治区科技厅成果鉴定。自主研发的《蒙古文通用著者号码表》填补了少数民族文字处理同类书区分的国内空白，在国内外居于领先地位。另外，还编纂、出版了全国首家省级《地方汉文考述古籍联合目录》、《建国前内蒙古地方报刊考录》、《建国前内蒙古地方志》等一批学术书籍。在2002年国家启动的“全国文化信息资源共享工程”项目中，内蒙古图书馆作为“全国文化信息资源共享工程”内蒙古分中心，将于2005年9月正式落成。该中心建成后，将对我区具有民族、地方特色的文化资源进行数字化建设，实现资源共享。

内蒙古图书馆除阵地服务外，还分别开设了内蒙古图书馆学府花园分馆、都市花庭图书室、新桥小学图书室等20多个馆外图书流通点，拓展了服务领域，最大限度地发挥了图书馆的教育职能。2000年，为填补首府没有少年儿童图书馆的空白，内蒙古图书馆开设了“内蒙古少年儿童图书馆”，从而使服务人群覆盖了所有年龄段，充分体现了图书馆的公益性。

内蒙古图书馆在近百年的发展历程中，已逐步成为一座具有民族特色和地方特点、自治区最大的、功能设备最齐全的公共图书馆，它始终把为读者服务、满足读者的需求放在首位，使其在自治区两个文明建设中发挥了应有的作用。