相传在两千年前的西汉时代，汉武大帝派骠骑大将军霍去病率领二十万人马出征匈奴。
大军从长安一路向西出发，浩浩荡荡，经过若干天的艰苦行军，在一天日暮黄昏，大军来到了一座光秃秃的山前。也就是今日我们熟知的兰州的皋兰山麓。这时，全军上下已是人困马乏，又饥又渴，战士们即需要休整。而前面的路，又崎岖不平，十分难走。霍去病便命令三军在山下扎营，支锅做饭，准备让将士们好好休息一宿，明日一早，趁凉赶路。
大营很快扎好了，但是当霍去病正和众将在军帐中议事，突然一小卒来报这里没有水来做饭。霍去病便命令各营派人四处找水。天色渐渐暗了，出去找水的人先后回来了好几波，一个个愁眉苦脸，都是没有找到水。
这可怎么办呢？霍去病和几个将领站在山坡上，看着静静的军营。淡淡的月光下，兵士们把地上稀疏的小草拔起来放在嘴里嚼着，用那一点点苦涩的汁液解渴。战马卧在地上，用舌头舔着已经冷下来的石头……
霍去病平时是十分爱护将士们的，这会儿，看着人马渴成这样，心里十分难受。而且，以后还得从这条路经过，难道每次都这样吗？他把脚一跺，牵过战马，要亲自出去找水。像这样干得连草都长不好的地方，哪来的水呢？将士们连忙劝阻。
性如烈火的霍去病，呼地一声拔出宝剑：“我就不信这地方没水！”说着，举起剑对着身边的石壁，“唰”地刺了过去，只见寒光一闪，宝剑在石头上磕出了几朵火花，深深地插进了石壁，只留下剑柄在外面。周围的将士们都惊呆了！霍去病气恼地哼了一声，拔出宝剑，突然一股清清的水从剑洞里流了出来，落在石头上，四处溅开，像撒下了一把晶亮的珠子。
将士们又惊又喜，纷纷涌上来，一个个用手捧起清凉的水，喝霍去病看人多水少，又接连在山上山下刺了四剑，处处都有清泉流出。将士们用这些清水洗澡去征尘，饮饱战马，煮好晚饭。全军上下，喜气洋洋。
第二天一早，霍去病又率领大军出发了。而那五处泉水，仍在不停地流着。因为有了水，后人便在山上种了树木花草，修了亭台楼阁，使这里成为风景秀丽的游览胜地。这就是现在坐落在兰州城南侧的五泉山，那五个泉的名称是：甘露泉、慧泉、蒙泉、摸子泉、日月泉。