郡县制是秦朝统一后为加强中央集权所采取的措施。县的制度，在春秋初年已出现，到战国已相当普遍。县最初都设在边地，或设在新侵占来的地方，带有国防的性质；春秋末年也出现了郡，郡原来也设在比较荒凉、地广人稀的边地，区域比县大得多，不过地位比县低。后来，由于生产力的发展，边地人口不断增加，经济也逐渐繁荣，在这种情况下，为了便于统治，就在郡的范围内划分成若干个县，郡升到县之上，这样便产生了郡县两级制的地方组织。
在秦统一六国之前，东方六国还存在土地分封制的残余，有些封君还是世袭的。秦统一六国后，为了加强中央集权，在全国范围内确立了郡县制度。分天下为36郡，后来增加到40多郡。每郡设有郡守掌管全郡政务，是一郡的最高行政长官，直接受中央政府管辖。郡守之下，设置有郡尉来辅佐郡守，并掌管全郡军事；又设置监察御史，负责监察工作。一郡之内分成若干县，1万户以上的县设县令，不满1万户的设县长，掌管全县政务，受郡守直接管辖；县令或县长之下，设有县尉管理全县军事；设有县丞作为县令或县长的助理，并负责司法裁判。县以下还有乡、里、亭等基层政权机构，并通过什伍组织，把一家一户的农民编制起来，以保证各种社会活动的有序进行。
郡县制度成为以后历代地方行政区划的基础。