塞尔维亚国家图书馆成立于1832年，最初作为书籍的特别存放处而创建，是塞尔维亚最古老的文化机构。该图书馆后来成为教育部下属的图书馆，并将许多图书馆、公共和国家机构聚集起来，同时收购了几家私人图书馆。随着时间的推移，这些图书馆发展成塞尔维亚国家图书馆。

        根据亲王1853年的命令，国家图书馆管理员的职业被引入，其级别为高中教授。国家图书馆的名字由杜拉·达尼奇创立，他定义了国家采购政策的理念，并开始编纂当前的国别书目。

        第一次世界大战给图书馆带来了很多不幸。轰炸摧毁了一部分馆藏，为了安全起见，剩下的藏品被转移到贝尔格莱德、尼什和科索夫斯卡米特罗维察的几个不同地方。部分藏品流失到了索非亚，在战争结束后被归还。许多图书馆资料、手稿、书籍和报纸在这个过程消失了。

       1941年4月6日，塞尔维亚国家图书馆在第二次世界大战轰炸贝尔格莱德期间被夷为平地。当时，大部分馆藏、目录和库存被摧毁。馆藏的重建始于战争期间，并在战争结束后得到加强。

        根据1965年颁布的《塞尔维亚图书馆法》，国家图书馆作为塞尔维亚的中央图书馆，被赋予了特殊的地位和重要的职能。1973年4月6日，时值国家图书馆被轰炸破坏的32周年纪念日，新图书馆大楼庄严地开启了它的大门，这座建筑至今仍在那里。1996年，图书馆建立了本地计算机图书馆网络，可进行互联网访问，并制作了塞尔维亚国家图书馆的第一个网站演示。

        自2000年以来，图书馆继续迈出稳健的步伐。其中之一是向世界开放，国际合作中心为此得到了更多的重视。科学信息中心奠定了塞尔维亚图书馆联盟共同采购的根基，这为访问庞大的外国电子数据库和期刊提供了便利。