「全國公私立大學校院圖書館館長聯席會」自民國78年由交大及清大召集館長聚會討論各館相關問題開始，各校圖書館館長深切體會經營大學圖書館有獨特及共通問題需要共同研商解決之道，藉由互相切磋觀摩及意見溝通，提昇大學圖書館行政品質，進而順利達成協助大學校院研究教學的任務。

自民國78年至今，共舉辦25次館長聯席會議，為圖書館館長執行業務提供非常有建設性的建議，並促成各館館際合作的機會。自民國81年起，由於會議的必要性及其議決事項絕大部分達到預期效益，因此吸引更多圖書館陸續加入，包含技術學院與師範學院的圖書館，逐漸變成例行性的年會，至今參與的圖書館已達175個。聯席會議每年輪流在各大學校院圖書館舉辦，會中就當前大學院校圖書館的經營、行政協調及發展趨勢等主題，共同研討解決之道。

近年來，大學校院圖書館館長聯席會議在教育部的指導及大力協助下，逐步解決各項圖書館業務的問題。目前聯席會議每年召開一次，主辦單位亦每年更動，每屆會中討論議決事項，皆由次屆舉辦聯席會議之圖書館義務追蹤後續執行情況，多年來雖然成效顯著，但對於承辦館而言，於自己圖書館館務繁重之際，需另行勻支人力籌辦次屆聯席會議及追蹤落實上一年度議決事項的重擔。

因此，民國96年6月1日95學年度館長聯席會議討論通過，於館長聯席會議推舉成員設置常設小組，由96學年度主辦會議單位中興大學圖書館館長詹麗萍為首屆小組召集人；當日會上並得到高教司何司長同意每年補助經費，以因應該小組的營運。民國97年5月16日96學年度館長聯席會議決議將會議名稱改為「全國大專校院圖書館館長聯席會」，擴大邀請專科學校與會；會中教育部亦同意在每年陳報教育部常設小組工作成效條件下，將大專校院圖書館館長聯席會議常設小組列為常態性計畫並補助經費。