山西省自古就有人类活动的迹象，并为中华文明的发源地之一。
考古表明，远古时代，山西南部是人类初曙的起源地。运城垣曲县“世纪曙猿”化石的发现，把类人猿出现的时间向前推进了1000万年。约在180万年以前的旧石器时代早期，原始人群就在山西晋南地区繁衍生息，其中运城芮城县西侯度文化遗址发现的火烧骨，把中国范围内发现的人类用火历史向前推进了100万年；约在10—2万年以前的旧石器时代中期，在山西汾河两岸和大同、朔州一带，已经出现了比较集中的原始人群和村落。新石器时代晚期，山西南部已经成为当时诸多邦国的中心。对临汾襄汾县陶寺遗址发现和研究成果表明，这里是帝尧都城所在地，也是最早的中国所在区域。这使大致在距今4500年前后中国史前传说的尧舜禹时代由传说成为信史，中华5000年文明史由此得到证实。
民国三十八年（1949年）4月，山西全省解放。9月，成立山西省人民政府。
