آیت ‌الله‌ العظمی بروجردی عنایت خاصی به کتابخانه مسجد اعظم داشتند و با وجود مشغله‌ زیاد و کمبود وقت، چندین بار، قبل از افتتاح از آن بازدید کردند و از نزدیک دستورات لازم را به متصدیان کار دادند و اشتیاق زیادی داشتند که کتابخانه هر چه زودتر افتتاح شود.

 پس از انجام مقدمات کار مقرر گردید كتابخانه در روز نیمه شعبان 1380ه.ق به دست مؤسس معظم افتتاح گردد. دعوتنامه ها توزیع گردید و همه جهات کار آماده شد.

روز نیمه شعبان علما، فضلا و عموم مردم برای افتتاح کتابخانه جمع شده بودند که صبح همان روز حادثه‌ای برای آیت الله بروجردی پیش آمد و منجر به دررفتگی پای چپ و شكستگی استخوان شست پا گردید. بخاطر این حادثه، معظم‌له نتوانستند در مراسم حاضر شوند و افتتاح كتابخانه به بعد موکول گردید.   
آیت الله بروجردی بعد از یک ماه در پانزده رمضان مصادف با میلاد کریم اهل بیت حضرت امام حسن مجتبی علیه السلام، برای اقامه نماز جماعت به مسجد اعظم مشرف شدند.        
با گذشتن ماه مبارک رمضان و بهبودی حال معظمله دوباره زمزمه افتتاح کتابخانه مطرح شد و مکرر از محضر ایشان تقاضا میشد روزی را برای افتتاح کتابخانه تعیین نمایند. بالاخره مقرر گردید کتابخانه در روز جمعه هفتم شوال افتتاح گردد.           
کارهای مقدماتی از جمله توزیع دعوت‌‌نامه ها انجام شد و چون مصادف با ایام نوروز بود و جمع زیادی از زوار در قم بودند برای پذیرایی پیشبینی های لازم صورت گرفت و افتتاح کتابخانه به طور رسمی از طریق اعلامیه ای به اطلاع عموم رسید. شب هفتم شعبان حجت الاسلام‌والمسلمین آقای فلسفی در مسجد اعظم بعد از نماز در منبر موضوع افتتاح کتابخانه را به مردم بشارت داد و از مردم دعوت کرد در مراسم افتتاح کتابخانه شرکت کنند.

صبح روز جمعه در حالى‏كه همه منتظر تشریف فرمایى مؤسس معظم بودند، خبر می رسد آیت ‌الله بروجردی به عارضه قلبى دچار شده است و مراسم برگزار نمی شود. چند روز بعد آیت الله فقید در اثر این عارضه رحلت می کنند.  به این صورت متأسفانه ایشان موفق به افتتاح کتابخانه نمی شوند.

پانزده روز پس از ارتحال آیت الله بروجردی در تاریخ 27 شوال 1380 ه‌.ق مطابق با 25 فروردین1340، کتابخانه با حضور حجت الاسلام‌والمسلمین سید محمد حسن بروجردی در فضائی معنوی و حزن‌آلود به طور رسمی افتتاح می شود.