白塔山以“白塔”而得名。白塔寺在山巅，相传为纪念元代以为去蒙古谒见成吉思汗而病故于兰州的西藏著名喇嘛而建。据载，元太祖成吉思汗在统一大元帝国的疆域时，曾致书西藏喇嘛教的萨迦派法王。法王即派一著名喇嘛去觐见成吉思汗，该喇嘛途经兰州时不幸病逝，于是元朝下令修塔纪念。元代所修白塔今已不存。