北京老年医院是由北京胸科医院转建而来，北京胸科医院是由成立于1949年中共中央华北局干部疗养院沿革而来。随着新世纪的到来，我国已快速步入老龄社会。据北京市老年病治疗研究中心调查结果显示：北京市老年人口到2000年已经增至188万，其中，有超过1/4需要住院的老年人，因无床位或住院费太贵不能住院，66.3%的老年人，因看病手续繁琐而自己买药吃。据预测，到2025年以后，北京市60岁以上的老年人，将占全市人口的30%左右，人数将超过400万。老年人绝对数量的迅速增长，给老年人的医疗卫生、保健服务工作提出艰巨的任务。为了满足老年人医疗保健的需要，北京市政府、市卫生局决定建一所市级老年医院，于2001年10月25日，即“重阳节”的时候，北京胸科医院正式加挂北京老年医院院牌。这是2001年市政府为群众办的60件实事之一，是北京市“十五”规划项目，受到市长、市卫生局领导的高度重视。
北京老年医院在2003年春季抗击“非典”的战斗中，是全市第一批收治“非典”定点医院。市政府、市卫生局果断决策，医院临危受命，几天之内由一所初建规模的老年医院紧急转为“非典”专收医院，成为首都抗击“非典”的主战场。在3个月的时间内，共收治“非典”患者453名，是北京市收治“非典”患者最早、最多、最重、工作压力最大的医院之一。胸科医院的医护人员在艰难困苦的条件下，以大无畏的精神，决战在没有硝烟的战场上，舍生忘死，默默无闻，无私奉献，全力抢救“非典”患者，为首都抗击“非典”做出了巨大的贡献。先后获得《全国五一劳动奖状》、《首都五一劳动奖状》、《全国防治非典型肺炎工作先进基层党组织》、《首都防治非典型肺炎工作先进基层党组织》、《全国卫生系统抗击非典先进集体》等9项殊荣。