始建于1996年，现位于庐阳区蒙城路22号，馆舍面积7768平方米，内设图书外借处、图书阅览室等多个对外开放部门，汽车图书馆1辆，外设14所分馆。服务对象主要为全市少年儿童及其家长、中小学教师、少儿工作者。图书馆馆藏丰富，门类齐全。拥有中文、原版英文、港台、盲文等图书期刊60万余册，数字资源约30TB。年接待读者40多万人次、书刊外借45万多册次，各类电子资源访问20多万次，网站访问20多万次，开展各类读者活动400余场，参与人数近12万人次。合肥市少儿图书馆始终坚持“读者第一，服务至上”的办馆宗旨，不断创新服务方式，积极提升服务质量，各项工作得到了读者、社会、业界、政府的高度赞誉，先后荣获合肥市卫生先进单位，安徽省科普教育基地，合肥市第十二届、第十三届、第十四届、第十五、第十六届文明单位，安徽省第九届、第十届、第十一届、第十二届文明单位，全国全民阅读示范基地等荣誉称号。图书馆纸质图书馆藏量60万余册，每年新购纸质图书约5万册，每年征订报刊约600种。拥有原版英文图书近万册，光盘数千部，电子文献约14万种，还拥有电子漫画馆、连环画阅读馆、中少快乐阅读平台、电子期刊阅览室、少儿科普动画、多纳智慧魔方、贝贝国学、哪吒看书、云图数字有声图书馆、妙趣手工坊等各类电子资源约30TB。2024年4月23日，合肥市少年儿童图书馆过渡馆正式对读者开放。