春秋戰國至秦漢時期先秦時期,今云浮市境為百越地。秦時大部分地區隸屬桂林郡地,部分屬南海郡地。兩漢兩晉時期漢初,市境屬南越王國。西漢元鼎六年(公元前111年),設臨允縣(縣治在今新興縣境內),為今市境內最早建立的縣級建制。西晉太康元年(公元280年),設都羅縣(今郁南縣境內)。東晉永和五年(公元349年),設晉化縣(今郁南縣境內)。永和七年(公元351年)設新寧郡以及新興、南興、單牒3縣(均在今新興縣境內)。東晉末年(公元416至420年),設龍鄉、夫阮縣(今羅定市境內)。南北朝時期市境曾先后設立州、郡、縣三級建置。南朝宋(公元420至479年),永初至元嘉年間(公元420至453年),市境先后設2郡、9縣,即晉康、新寧郡,龍鄉、夫阮、都城、晉化、安遂、新興(后改新城)、南興、臨允、單牒縣。