升阳观原名吕祖庙，因供奉神话人物八仙之一的吕洞宾而建。明末，济南知府樊时英曾重修吕祖庙。清康熙十八年（公元1679年），在吕祖庙西院又修建了一座大殿，名为升阳观。此后，吕祖庙渐渐被人们称为升阳观。 升阳观历经800多年的风雨，多次重修，原来的升阳观是座由东西厢房及正殿组成的四合院，正殿为三开间一殿一卷棚硬山结构，造型稳重而富有变化。但“文革”时期破坏严重，到现在，原先的院落已被各种现代建筑挤得只剩下六七百平方米了，现为济南市重点文物保护单位。