唐朝開國以後，又把郡改為州，恢複了隋朝初期的州縣製(後來在唐玄宗天寶元年(742)，又改州為郡，到肅宗乾元元年(758)，再一次將郡改回了州)，不過一個新的問題又擺在了統治者麵前，那就是州的數目在唐朝兼並各割據勢力，重新平定天下之後，又出現了大量的增長。這是因為在隋唐之際，群雄並起，那些率兵占據一方的地方豪傑，隻要歸降唐朝，唐朝就會在他所盤踞的地方設置州縣，並給他一個州刺史的頭銜，這樣，在不長的時間裏，州的數目便自然又膨脹起來。特別是在南方(今天的廣西、湖南和四川一帶)的少數民族地區，由於當地表示願意聽命唐朝的首領很多，出現了許多新的州刺史，因此，州的分布也就變得尤為密集。唐朝的第二任皇帝太宗李世民，為了改變這種設州過多的局麵，在他即位伊始，便著手開始對一些州進行省並，但是調整的情況似乎並不理想，到了13年之後的貞觀十三年(639)，唐朝中央政府直接控製的州還是有358個之多，這個數目已經大約是漢郡數目的兩三倍了。
其實，由於唐朝的疆域比漢朝要大，對地方的統治也比漢時要深入得多，漢唐雖然同樣實行的是兩級製，但這時唐朝州的數目已不能像漢朝時的郡一樣，降回到100多個了。然而要讓中央政府統管這300多個州，著實是一個不小的難題。曾經有這樣一個故事，生動地說明了這一問題。唐太宗為了做到對每個州刺史心中有數，按他們的業績好壞決定獎勵或者是懲罰，便想出了一個辦法，讓手下人把當時300多個州刺史的大名一一寫在他每日辦公大廳內的屏風上，以便在他批閱奏章的空閑時間，對這些州刺史們有所熟悉。這雖然反映了唐太宗是一個勤勉的皇帝，但從中畢竟透露出對地方大員不便管理的不少無奈。當時就有大臣從設置官吏的角度提醒當權者，在漢代要想挑選中100多個好的郡太守已經是一件非常不容易辦到的事情了，更何況我們現在麵臨的問題是要選擇300多個州刺史。這種情況已使得中央政府不得不考慮在州縣二級製的政區之上再設立一級監察區，對各地州刺史的所作所為進行監察，隨時將地方官員貞觀十道示意圖的情況上報中央。設置監察區的辦法，雖說不失為一項行之有效的措施，但是唐朝初年的皇帝已從前代的經驗教訓中十分清楚地知道，監察區一旦設立，就會存在變成一級正式行政區劃的危險，到時再想撤掉，談何容易。於是需要找到一種變通的方法。唐太宗貞觀年間設立的巡察使，就是這方麵的一個嚐試。
貞觀元年(627)，唐太宗下達命令，將全國分成關內(大致相當於今陝西中、北部，甘肅隴東以及內蒙古河套等地)、河南(大致相當於今河南、山東二省黃河以南，江蘇、安徽二省淮河以北的地區)、河東(大致相當於今山唐十五道示意圖西全省與河北西北部內外長城之間的地區)、河北(大致相當於今河北長城以南，河南及山東二省的黃河以北的大部分地區)、山南(大致相當於今四川東部，陝西、甘肅南部，河南西南部，湖北西部的地區)、隴右(大致相當於今甘肅隴山、六盤山以西，青海省青海湖以東及新疆東部的地區)、淮南(大致相當於今安徽、江蘇二省淮水以南、長江以北的地區)、江南(大致相當於今浙江、福建、江西、湖南四省，江蘇、安徽的長江以南，湖北、四川江南的一部分及貴州東北部的地區)、劍南(大致相當於今四川中部和雲南北端)、嶺南(大致相當於今廣東、廣西二省和越南東北部的地區)等十道，派遣巡察使到各道去負責監察地方的官員。不過，當時巡察使的派出，還是一種臨時性質，並不是常製，而十道的劃分也更多地體現的是一種地理區劃，還不是真正的監察區。