今遵义市地，战国时期 属邑国，附属于夜郎。秦统一中国后，推行郡县制，秦始皇二十七年(公无前220年)置邑县。今市地自此直至南北朝时均在邑县境内，先后属犍为郡、柯郡、平夷郡、平蛮郡。
唐贞观十三年(639年)置播州，属江南道。播州称谓由此诞生。十六年(642年)，播州所辖罗蒙县改名遵义县。遵义之名始此。
今市地在播州所辖赤水县境内，五代时期先后属前蜀、后蜀、楚、后周等国。
