公元397年，河西鲜卑贵族秃发乌孤称西平王，都西平（今青海西宁）后迁乐都（分属青海），史称南凉，领有今日甘肃西部和青海一部分。其弟利鹿孤登泣后，国力强盛，一度雄据西陲，虎台就是那时所筑。公元414年南凉为西秦所灭。现在登上虎台，西宁风光历历在目。
据《西宁府新志》记载，“虎台西去县治五里，有台九层，高九丈八尺”，“相传为凉王所筑，秃发傉檀子名虎台，或是其所筑，或曰将台，极盛时曾陈兵十万检阅”。
是东晋十六国时期南凉王在西宁建都时的重要遗迹，至今已有１６００多年的历史。１９５７年它被确定为省级重点文物保护单位，在我省的文化历史上有着十分突出和重要的地位。目前，尽管保护力度在不断加大，但仍有个别人在虎台下搭建违章建筑，使该遗址遭到了一些破坏。