郡县是地方机构。中央机构的设置，也体现了分权而治、只对皇帝一人负责的原则。
皇帝之下，百官之首，就是丞相。战国时期，秦国的丞相不仅是国内的最高行政长官，也可率军出征，樗里疾、甘茂便是先例。秦朝建立后，秦始皇首先是剥夺了丞相的兵权，使其成为单纯的文职官员，同时又设立御史、太尉来牵制相权。
所谓御史，就是“管官的官”，负责监察百官，享受副丞相待遇，相当于今天的中纪委书记。这是秦朝的独创，此后两千多年间，历朝历代都沿袭秦朝的御史制度，可见其对于维护皇帝的统治，是起着很重要的作用的。
太尉则是最高武官，相当于今天的国防部长，享受丞相待遇。有意思的是，秦始皇设立了太尉之职，却一直没有任命谁来当太尉，只任命了太尉职下的卫尉、中尉、廷尉等官员。也许秦始皇觉得，累就累点，还是将军权直接控制在自己手里比较可靠。
丞相、御史、太尉合称“三公”，此后历朝历代，大体上都按照这个模式来设置自己的中央机构。所谓“位列三公”，就是说某人已经做到官员的最高级别，这在皇权社会是相当了不得的。