汉高祖四年（公元前203年），刘邦封英布为淮南王

  汉高祖四年（公元前203年），刘邦封英布为淮南王，首置淮南国，都六（今六安），辖九江、庐江、衡山、豫章4郡。高祖十一年（公元前196年），英布获罪伏诛，改封刘长为淮南王，都寿春（今寿县）。孝文六年（公元前174年），刘长获罪流放，死于途中。文帝改封城阳王刘喜为淮南王。孝文十六年（公元前164年），淮南国一分为三：淮南、衡山、庐江，分别封给刘长的3个儿子，长子刘安继任淮南王，都寿春。汉武帝元狩元年（公元前122年），刘安获罪自尽，废淮南国，复为九江郡，治寿春。西汉时期，市境先后属淮南国、九江郡所辖，凤台县属沛郡下蔡县。

  东汉时期，市境及凤台县均属九江郡所辖，分属寿春县、下蔡县。汉末，袁术据寿春改设淮南郡。入魏仍称淮南郡，治寿春。其后，魏文帝先后封其子曹邕及其弟曹彪为淮南王，明帝青龙元年（233年）移治合肥新城。其间，市境及凤台县均为淮南郡所辖。西晋初年，淮南郡迁治于寿春，市境为其所辖。永嘉乱起，淮河流域沦为战乱区，江淮郡县大批废弛，北人南迁。东晋咸和初年侨置淮南郡于丹阳郡于湖，市辖境则为侨置的南梁郡。