济南是国务院公布的历史文化名城。因地处古四渎之一“济水”（故道为今黄河所据）之南而得名。据考古发掘资料，远在9000年前的新石器时代早期，已有先民在此繁衍生息。距今4000～4500年前以磨光黑陶为特征的“龙山文化”，系因1928年首次发现于济南东郊龙山镇而被命名。夏代，龙山镇城子崖一带建有较大规模的城市。商周时代，济南为古谭国（东方方国，都城在今城子崖、平陵城一带）地。春秋战国时代，济南属齐国，称“泺”“鞍”“历下”等邑，为齐国西南边陲重镇。秦代，地属济北郡（郡治博阳，即今泰安）。
西汉始置济南郡，郡治东平陵（今济南市章丘平陵城）。汉文帝十六年（前164年），设济南国，首府东平陵。前154年，废济南国，复置济南郡。汉武帝时，济南郡辖东平陵、历城等14县，属青州刺史部。东汉建武十七年（41年），济南郡复称济南国，辖14县，后改辖10县。
魏晋南北朝时期，朝代屡屡更替，济南先后为魏、西晋、后赵、前燕、前秦、后燕、南燕、东晋、刘宋、北魏、东魏、北齐、北周辖境，置郡置国，变化频繁。其间，济南郡治于西晋永嘉末年（313年前）从平陵（即东平陵）迁至历城。从此，今济南市区成为历代郡国、州府的行政中心。刘宋元嘉九年（432年）在济南郡侨置冀州，济南为州、郡两级治所。北魏皇兴三年（469年），改侨冀州为齐州，辖济南郡、东魏郡、太原郡等6郡35县。
隋开皇三年（583年）撤郡并县，齐州仍治济南，辖历城等10县。大业三年（607年）齐州改称齐郡。唐朝建立后，复称齐州，辖历城、章丘、长清等6县。唐中叶天宝年间，齐州曾一度改称临淄郡、济南郡。五代时期，仍称齐州，先后为梁、唐、晋、汉、周的辖境。北宋，齐州先后属京东路和京东东路。政和六年（1116年），齐州升为济南府，辖历城、章丘、长清等5县。建炎二年（1128年）后，被金朝所据，仍为济南府，辖7县，属山东东路。其间，曾一度为原济南知府刘豫建立的伪齐辖境。元初，改为济南路，直隶于中央中书省。至元二年（1265年），辖棣州、滨州2州及历城、章丘、济阳、商河等11县。金元时期，济南先后为金山东东西路提刑司、元山东东西道肃政廉访司治所，是山东地区的监察中心。
明初，复称济南府，辖泰安、德州、武定、滨州4州及历城、章丘、长清、济阳、商河等26县。洪武九年（1376年），山东最高行政机关“承宣布政使司”由青州迁至济南，济南成为山东省会，全省政治、军事、经济、文化中心，全国重要的中心城市之一。清初，沿明朝建置。雍正二年（1724年）、十二年（1734年）调整区划，济南府改辖德州和历城、章丘、长清、济阳等1州15县。
民国初年，撤销济南府，置岱北道，辖27县。1914年岱北道改称济南道，辖县未变。1925年改辖历城、章丘、长清、济阳等10县。1929年7月，析历城县城厢及其四郊，正式设立济南市。时济南市面积175平方公里，人口40余万。1948年9月，中国人民解放军华东野战军解放济南，设立济南特别市。1949年5月复称济南市。
中华人民共和国建立后，经历了漫长的原始、奴隶、封建社会的济南，开始进入社会主义新时代。1958年，历城县划归济南市。其后，章丘、长清县于1978年，平阴县于1985年，济阳、商河县于1990年陆续划归济南市管辖。1994年2月，济南市被正式确定为副省级城市。2016年12月，章丘撤市设区。2018年9月，济阳正式撤县设区。2018年12月26日，国务院批复同意山东省调整济南市莱芜市行政区划，撤销莱芜市，将其所辖区域划归济南市管辖；设立济南市莱芜区，以原莱芜市莱城区的行政区域为莱芜区的行政区域；设立济南市钢城区，以原莱芜市钢城区的行政区域为钢城区的行政区域。济南目前共设10区、2县。
济南历史悠长，人才辈出。属今济南市籍的历史名人主要有：中国传统医学的杰出代表、战国时代神医“扁鹊”（本名秦越人），中国古代阴阳五行学说的创始人、战国思想家邹衍，口授今文《尚书》28篇于世的汉代学者伏生，请缨出使南越、为祖国统一事业做出贡献的汉代外交家终军，隋末农民大起义的起义军领袖杜伏威、辅公祏，唐朝开国功臣、一代名相房玄龄和名将秦琼，中国古代三大求法高僧之一唐人义净（俗名张文明），宋代中华词坛“婉约派”代表李清照、“豪放派”代表辛弃疾，金元散曲家张养浩、杜仁杰，宋、辽、金三部正史的总裁官张起岩，明代文坛前“七子”之一边贡、后“七子”之一李攀龙，明《宝剑记》等剧的作者、戏曲家李开先，明万历年间文学为一时之冠的内阁大学士于慎行，清经学家张尔岐，清《四库全书》主要编纂人、藏书家周永年，古文献学家、清《玉函山房辑佚书》的纂辑人马国翰，近代民族实业家、“祥”字号商业的代表人物孟洛川等。
