- 1925年 4月25日在上海召開成立大會，6月2日在北京舉行成立儀式，總事務所設在北京。
- 宗旨是：「研究圖書館學術，發展圖書館事業，並謀圖書館之協助」。前期設董事部和執行部，第一任董事部部長為梁啓超，書記為袁同禮；執行部部長為戴志騫，副部長杜定友、何日章。1937年董事部更名監事會。執行部改名為理事會,袁同禮任理事長(1937～1944)。 該協會設有分類、編目、索引、出版、圖書館教育、圖書館建築等專門委員會。協會會員有機構會員、個人會員、贊助會員和名譽會員。
- 協會曾先後於1929年(南京)、1933年(北平)、1936年(青島)、1938年(重慶)、1942年(重慶)和1945年(重慶)召開了6次年會。編輯出版有《圖書館學季刊》(1926～1937)、《中華圖書館協會會報》( 1925～1948)兩種刊物，並出版了目錄學叢書等圖書、關於中國圖書館概況的報告以及圖書館學專題論文集等。該協會曾對全國、各省、重要城市和中學圖書館的發展情況以及書店、新書、期刊、善本、雕版印刷文獻的版片等進行過調查。
- 1925年與國立東南大學、中華職業教育社等合辦了一期暑期學校，培養圖書館專業人員。它是國際圖書館協會和機構聯合會 (IFLA) 的發起單位之一，曾派人參加了該會1927年的發起大會，1929年和1936年兩次參加了國際圖書館及目錄學會議，並派代表赴英、美等國參加圖書館協會年會。中華圖書館協會還曾組織過國際圖書交換工作。
- 1949年中華人民共和國建立前夕，中華圖書館協會無形解散。