山東是中華文明發祥地之一。目前發現的最早的山東人———“沂源人”，可以把山東的歷史上推到四五十萬年以前。山東境內考古發現的北辛文化、大汶口文化、龍山文化遺址，說明距今7000年至4000年間，生活在這裏的東夷族就實現了從母系氏族社會到父系氏族社會乃至階級社會的轉變，有了比較發達的農牧業和手工業。在山東發現的中國最古老的文字“大汶口陶文”和鄒平縣丁公村“龍山陶書”，把有文字記載的歷史上溯至4000多年前，近年來在山東還先後發現了中國最早的城邦“城子崖龍山古城”，中國現存最古老的長城“齊長城”，中國最早的甲骨文“桓臺縣唐山遺址甲骨文”。據專家考證，山東省還是漢唐絲綢貿易的主要供貨地，是絲綢之路的源頭。
公元前21世紀夏朝時代，山東進入奴隸制社會，東夷各部族活躍在山東地域。商朝(約公元前17世紀——前11世紀)早期的活動中心在山東西南部。商前期的五次遷都，有三次在山東境內。商朝建立後，山東仍是其統治的中心地區。春秋戰國時期(公元前770年——公元前221年)，西周實行“封邦建國”之策，兩個最大的分封國——齊國和魯國，都在今天的山東境內。齊國“通商工之業，便魚鹽之利，而人民多歸”;魯國融合周文化與東方文化，爲“禮儀之邦”。由於齊、魯兩國發達的經濟、文化和政治在中國歷史上具有重大影響，所以山東又稱"齊魯之邦"，並以"魯"作爲山東省的簡稱。獨具特色的齊魯文化，在中國傳統文化中佔有重要地位。
山東是中國古代文化的發源地之一，也是古代文化的中心。這裏曾產生過許多傑出的思想家、科學家、政治家、軍事家、文學家和藝術家。在學術思想方面，有孔子、孟子、顏子、曾子、墨子、荀子、莊子、鄭玄、仲長統等;在政治軍事方面，有管仲、晏嬰、司馬穰苴、孫武、吳起、孫臏、諸葛亮、戚繼光等;在歷史學方面，有左丘明、華嶠、崔鴻、馬驌等;在文學方面，有東方朔、孔融、王粲、徐幹、左思、鮑照、劉勰、王禹、李清照、辛棄疾、張養浩、馮惟敏、李開先、李攀龍、蒲松齡、孔尚任、王士禛等;在藝術方面有王羲之、顏真卿、李成、張擇端、高鳳翰等;在科學技術方面，有魯班、甘德、劉洪、何承天、王樸、氾勝之、賈思勰、王禎、燕肅等;在醫學方面，有扁鵲、淳于意、王叔和等。他們的思想、理論、智慧和學術成就，構成了中國傳統文化的重要內容，對中華民族文化的發展產生了廣泛而深遠的影響。
被稱爲"文聖"的中國古代偉大的思想家、教育家、政治家孔子，2500多年前就誕生在位於山東省西南部的曲阜市，他創立的儒家學說，成爲中國傳統文化的支柱，至今在世界上產生着重大影響。孔子還被譽爲世界十大思想家之首。被稱爲"兵聖"的中國古代著名軍事家孫武，也誕生在黃河三角洲一帶，他的軍事著作《孫子兵法》，至今仍然是中外軍界和商界推崇的經典。山東歷史上還出現過儒學代表人物孟子、曾子，墨派學說創始人墨子，道家代表人物莊子。齊國名相、著名經濟學家管子，戰國時期著名天文學家甘德，以《齊民要術》聞名的古代農學家賈思勰，古代科學家汜勝之，以《孫臏兵法》著名的古代軍事學家孫臏，被中國人尊爲智慧化身的三國名相諸葛亮，以《文心雕龍》聞名的文學理論家劉勰。宋代著名的豪放派詞人代表辛棄疾和婉約派詞人代表李清照，清代著名文學家、短篇小說集《聊齋志異》的作者蒲松齡，被稱爲"書聖"的東晉著名書法家王羲之，唐代著名書法家顏真卿，宋代著名畫家、《清明上河圖》的作者張擇端等一大批著名歷史人物。在當今中國的政界、軍界、經濟界、科技教育界、文化藝術界等，都活躍着一批山東籍的知名人士。
山東地區素以發達的農業和手工業著稱於世。秦漢時期，今山東地區號稱“膏壤千里”，農業經濟發達，所產糧食不斷溯黃河西上，運往關中地區。西漢時期，山東地區有人口1700餘萬，戶390萬，佔全國當時人口的`30%，人口密度居全國首位。後來雖經東漢末年與魏晉南北朝時期的戰爭破壞，但同全國其他地區相比，山東仍不失爲經濟中心。隋初，山東各州縣遍置糧倉，戶口占全國總戶數的21%。唐代開元天寶年間，每年要將山東幾百萬石粟米漕運至關中。開元年間，“海內富實，米鬥之價錢十三，青、齊間鬥才三錢。絹一匹，錢二百。”到了唐後期，雖經戰亂，但山東農業生產仍在發展，“田疇大辟，庫倉充積”。宋金元時期，山東地區承受的封建剝削尤重，並不斷遭受外來的侵擾和野蠻統治，經濟處於滯退狀態。元代山東有38萬戶，126萬人，與金代相比，戶減約75%，人口減約87%。明初，“多是無人之地”，統治者不得不採取獎勵人民墾荒的措施，到洪武二十六年(1393年)時，山東耕地面積達到7240萬餘畝，爲北宋時期的2.4倍，居全國第三位。清康熙年間又增至9000餘萬畝。
山東的冶鐵業起源很早，春秋初年，齊國已使用鐵製農具。西漢時，武帝在全國設置鐵官48處，山東就有18處。唐朝的兗州是礦冶中心，萊蕪有鐵冶13處、銅冶18處。北宋時萊蕪鐵冶規模更加擴大，與江蘇利國監同爲京東兩大鐵冶中心。明朝初年，山東年產鐵315萬餘斤，居全國第三位。山東的其他礦產也很豐富，宋時登、萊二州產金，元豐年間登州、萊州的黃金產量佔全國的90%。明初，濟南、青州、萊州三府歲採鉛32萬餘斤。清朝山東煤礦已大量開採，最著名的是嶧縣煤礦，乾嘉時期，北運京師、奉天，動輒數百萬石。
山東的紡織手工業舉世聞名。戰國時期，齊國即號稱“冠帶衣履天下”。臨淄、定陶、亢父(今濟寧)是漢代三大紡織中心。所產紡織品數量多、質量好，源源不斷地通過“絲綢之路”輸往西域等地。因此，當時山東地區是“絲綢之路”的主要源頭之一。唐代兗州的鏡花綾、青州的仙紋綾，都是馳名全國的紡織品。宋代在青州設立織錦院，專門織造高級紡織品。宋神宗時，在山東“和買”絹帛，每年達30萬匹左右。明清時期，濟南、濟寧、臨清等城市都有較發達的紡織手工業，有的地方還出現了帶有資本主義萌芽性質的手工工場。
山東人民富有革命傳統。春秋末期，就有以跖爲首的奴隸起義，“從卒九千人，橫行天下”。在漫長的封建社會中，山東人民無數次的武裝起義，沉重打擊了封建統治。著名的有新莽末年的赤眉大起義，東漢末年青州黃巾起義，隋末王薄領導的長白山起義及竇建德、孟海公、杜伏威、劉黑闥等人領導的農民起義。唐末黃巢大起義，推翻了唐王朝的統治。北宋末年有宋江農民起義。明代有唐賽兒、徐鴻儒起義。清中葉以前有於七、王倫等人領導的起義。近代則有幅軍起義及捻軍鬥爭，山東還是義和團運動的發源地。
