華山山名最早出現在《山海經》和《禹貢》中，即公元前3世紀就有「華山」之名。
《水經·渭水注》
「其高五千仞，削成四方，遠而望之，又若花狀。古「花」、「華」通用，故「華山」即「花山」。
《白虎通義》
「西方為華山，少陰用事，萬物生華，故曰華山。」
華山被稱為「西嶽」與東嶽泰山並稱，最早見於《爾雅·釋山》一書。西嶽這一稱呼據說是因平王東遷，華山在東周王國之西，故稱「西嶽」。秦帝國建都咸陽，西漢帝國建都長安，都在華山之西，所以華山不再稱為「西嶽」。直到東漢建立，華山又恢復了「西嶽」之稱，並沿用至今。
華山地處黃河中游流域，與黃河一起孕育了中華民族。據歷代專家學者研究考證，古代華夏文明主要聚集在以華山為中心的方圓500千米範圍內。
《書經·禹貢篇》載華山為「軒轅黃帝會群仙之所」，後人推測應該是黃帝在此與各部落酋長會盟。此後，華山聲名日隆。《書經》、《資治通鑒》等書均記有「唐堯四巡西嶽」、「舜三巡西嶽」。《舜典》載：（舜帝）八月西巡狩，至於西嶽。
由於華山太險，所以唐代以前很少有人登臨。歷代君王祭西嶽，都是在山下西嶽廟中舉行大典。《尚書》載，華山是"軒轅皇帝會群仙之所"。《史記》載，黃帝、虞舜都曾到華山巡狩。
秦始皇首祭華山，漢唐以來，封號遞增，愈演愈烈，漢武帝敕修西嶽廟前身集靈宮；漢元延二年（前11年），漢成帝巡幸河東，涉西嶽而歸。
魏晉南北朝時，還沒有通向華山峰頂的道路。直到唐朝，隨著道教興盛，道徒開始居山建觀逐漸在北坡沿溪谷而上開鑿了一條險道，形成了"自古華山一條路"。
唐武德二年（619年），唐高祖大獵於華山；是年，唐高祖送李世民東征祭山；唐上元元年（674年），唐高宗較獵於華山下曲武原；其中尤以唐玄宗以與華山為本命，封華山神少昊為金天王為最。唐天寶九年（750年），群臣請奏封禪西嶽，唐玄宗命人開鑿華山路，設立壇場。
由於華山位於中國版圖的最中央，又稱「中華山」。中華山周邊聚居的民族又稱「中華山民族」。這一成果首先被孫中山所引用，創立「中華民國」。
