北京老年醫院是由北京胸科醫院轉建而來，北京胸科醫院是由成立于1949年中共中央華北局干部療養院沿革而來。隨著新世紀的到來，我國已快速步入老齡社會。據北京市老年病治療研究中心調查結果顯示：北京市老年人口到2000年已經增至188萬，其中，有超過1/4需要住院的老年人，因無床位或住院費太貴不能住院，66.3%的老年人，因看病手續繁瑣而自己買藥吃。據預測，到2025年以后，北京市60歲以上的老年人，將占全市人口的30%左右，人數將超過400萬。老年人絕對數量的迅速增長，給老年人的醫療衛生、保健服務工作提出艱巨的任務。為了滿足老年人醫療保健的需要，北京市政府、市衛生局決定建一所市級老年醫院，于2001年10月25日，即“重陽節”的時候，北京胸科醫院正式加掛北京老年醫院院牌。這是2001年市政府為群眾辦的60件實事之一，是北京市“十五”規劃項目，受到市長、市衛生局領導的高度重視。

北京老年醫院在2003年春季抗擊“非典”的戰斗中，是全市第一批收治“非典”定點醫院。市政府、市衛生局果斷決策，醫院臨危受命，幾天之內由一所初建規模的老年醫院緊急轉為“非典”專收醫院，成為首都抗擊“非典”的主戰場。在3個月的時間內，共收治“非典”患者453名，是北京市收治“非典”患者最早、最多、最重、工作壓力最大的醫院之一。胸科醫院的醫護人員在艱難困苦的條件下，以大無畏的精神，決戰在沒有硝煙的戰場上，舍生忘死，默默無聞，無私奉獻，全力搶救“非典”患者，為首都抗擊“非典”做出了巨大的貢獻。先后獲得《全國五一勞動獎狀》、《首都五一勞動獎狀》、《全國防治非典型肺炎工作先進基層黨組織》、《首都防治非典型肺炎工作先進基層黨組織》、《全國衛生系統抗擊非典先進集體》等9項殊榮。