据考证，庐山之名，早在周朝就有了。古人对千里平川上竟突兀出一座如此高耸秀美的山峰，山上又有众多的瀑布溪流，曾感到迷惑不解。于是，就编了许多神话故事，来解释庐山及其泉瀑的来历。“神仙之庐”、“人去庐存”以及“赶山塞海”等传说尤其为人津津乐道。
“神仙之庐”
传说早在周初（大约公元前十六至十七世纪），也有说在周威烈王时候（即公元前四世纪），有一位匡俗先生在庐山学道求仙。据说匡俗字君孝，有的书称匡裕，字子孝，也有称为匡续。此外，还有称匡俗为庐俗。据说，匡俗在庐山寻道求仙的事迹，为朝廷所获悉。于是，周天子屡次请他出山相助，匡俗也屡次回避，潜入深山之中。后来，匡俗其人无影无踪。有人说他成仙去了。后来人们美化这件事，把匡俗求仙的地方称为“神仙之庐”，并说“庐山”这一名称，就是这样出现。因为“成仙”的人姓匡，所以又称“匡山”，或称为“匡庐”。到了宋朝，为了避宋太祖赵匡胤“匡”字的讳，而改称“康山”。
“人去庐存”
有一传说：在周武王时候，有一位方辅先生，同老子李耳一道，骑着白色驴子，入山炼丹，二人都“得道成仙”，山上只留下一座空庐。人们把这座“人去庐存”的山，称为庐山；方辅成仙，所以又称为辅山。但是老子与武王并不同时，这同样是神话故事而已。