肥城县始置于西汉。二千二百多年来,县境为郡、为县、为镇代有沿革。
肥城置县前,商(殷)时期,地域属青州、徐州所辖;西周时属兖州所辖;春秋时期属齐、鲁两国所辖;战国时期归齐国管辖;秦代为齐郡所辖。
西汉初年(公元前206年)始置肥城县,属兖州刺史部泰山郡所辖。
东汉章帝末年(公元87~88年)撤销肥城县,境地分属济北郡卢县、蛇邱县和东平国富城县。
三国魏(220~265年)至东晋(317年前)归属同东汉。327年(晋成帝咸和二年)后,境地属后赵、前燕、前秦、后燕、南燕的济北郡、东平郡分辖。
南北朝宋(420~479年),在原肥城县故城设济北郡,原肥城县境地分属卢县、蛇邱县和富城县,隶属兖州。
南北朝北魏,527年(孝昌三年)复置肥城县,并设东济北郡于肥城县城。
南北朝北齐(550~577年)撤东济北郡,并入茌平县的济北郡,肥城县属之。
南北朝北周,577年(建德六年)于肥城县城置肥城郡。
隋开皇初年,废肥城郡,保留肥城县,属济州辖,隶属兖州。隋末,废肥城县,境地属济北郡管辖。
唐代622年(武德五年)复置肥城县,属东泰州辖,隶属河南道兖州。627年(贞观元年)撤肥城县,境地并入博城县。666年(乾封元年)改博城县为乾封县。668年(总章元年),改乾封县复为博城县。705年(神龙元年)再次改称乾封县。
五代(907~960年)境地仍属乾封县,隶属兖州。
宋代(960~1279年)初属乾封县,后属奉符县、平阴县分辖,隶属京东西路郓州。1115~1234年曾在旧肥城设辛寨 镇,境地属平阴县、奉符县分辖,隶属山东西路东平府。
元代1275年(至元十二年)复置肥城县,隶属山东东西道济宁路。
明代1369年(洪武二年),肥城县改属济南府,隶属山东布政使司。
清代初沿明制。1734年(雍正十二年)改属泰安州,隶属山东布政使司泰武道。1735年(雍正十三年)泰安州升为泰安府,肥城县仍属之。
1913年属岱北道。1914年属济南道。1938年,属第六行政督察区。1945年2月属鲁西(第二办事处)第六行政督察专员公署。1947年属第十五行政督察区。
1939年10月,中国共产党领导的县抗日民主政府成立,初属泰西行政委员会,后属泰西专员公署。1942年10月属晋冀鲁豫边区政府冀鲁豫第六专员公署。1949年9月,隶属泰西专员公署。
1950年5月,肥城县归属泰安专员公署。1958年10月划归聊城地区。1959年7月划归济南市。1961年5月复归泰安地区。1985年3月隶属泰安市所辖。
1992年8月,撤销肥城县,设立肥城市(县级),仍为泰安市所辖。