老子過函谷關，遇關令尹喜，留下《道德經》一本， 并說：“子行道千日後，于成都青羊肆尋吾”。三年後，尹喜如約而至，隻見老子在青羊肆顯現法相，端坐蓮台，講經說道。從那以後，青羊宮便成為神仙聚會、老君傳道的聖地。
青羊宮内有尊獨角青羊，傳說是南宋宰相賈似道家裡的薰爐，後流落民間。清朝雍正年間，大學士張鵬翮，号信陽子，是四川遂甯人，在北京當官，他在古玩市場看到它，覺得很合适成都青羊宮，于是買來送給青羊宮。獨角青羊似羊非羊，融十二生肖的特征與一體，很是奇特，非常具有想象力。龍角、鼠耳、雞眼、牛鼻、馬嘴、羊須、猴頸、兔背、狗腹、虎爪、豬臀，蛇尾。十二個部位單看都不是羊，組合在一起就是羊。
人們說隻要摸羊肚、羊頭，就不會頭痛、肚痛，于是青羊被摸得透亮如金。