山西省西部以黄河与陕西省分界,南部以中条山和黄河与河南省为界,东部以太行山与河北省为界,北部以长城与内蒙古自治区为界。山西,因居太行山之西而得名,简称晋,又称三晋,古称河东,省会太原市。山西东依太行山,西、南依吕梁山、黄河,北依长城,与河北、河南、陕西、内蒙古等省区为界,柳宗元称之为表里山河。
在中华人民共和国的版图上,除了川藏和陕晋之间的分界线外,再也找不到完全以自然河流作为省际分界线的境况。
奔腾的黄河为关系密切的山陕两省提供了长达734.2公里近乎完美的分界线,也帮助这对兄弟规避了不少因分界线不明确而导致的辖境纷争——这种纷争在中国其他省份很是常见。