到了隋文帝即位，楊素被封為上柱國，官至禦史大夫。他的妻子鄭氏性情偏狹凶悍，楊素對此十分憤怒，說：“我如果做了皇帝，你一定沒資格做皇後。”鄭氏一怒之下，將他的話報告給了文帝，文帝非常惱怒和震驚，就把楊素免職了。
隋文帝圖謀取得江南，楊素多次向他進呈攻取南陳的建議。不久，文帝就授他為信州總管，派他討陳。楊素率部在夜間發動了進攻，俘虜了許多陳軍，安撫後全部釋放。隋軍秋毫不犯，深受陳人歡迎。楊素率領水軍順江東下，戰艦船隻密密麻麻，覆蓋了江麵，軍旗遮日 蔽天。
南陳的南康內史呂仲肅領軍駐紮在岐亭，把守著江峽。楊素與劉仁恩登上江岸一起進發，將陳軍打得大敗，呂仲肅僅保全性命。南陳後主又派人來鎮守，都因為懼怕隋軍而逃之夭夭，巴陵以東再沒有人敢堅守陣地。湘州刺史、嶽陽王陳叔慎幹脆請求投降。楊素來到漢口，與大軍會合後才返師，因此，楊素被授予荊州總管，晉爵為郢國公。他對隋文帝說：“這裏有個地方名叫勝母，曾子都不去。叛逆王誼過去封在郢地，我不願與他封在同一個地方。”於是，改封他為越國公。不久，又授予納言，轉為內史令職。
楊素謀略過人，氣魄宏大，為文帝平定了多方叛亂，幾乎是每戰必勝，文帝不斷提拔重用他，封給他很多顯耀的職位。
後來，楊素代替蘇威為尚書右仆射，他性情粗疏又好計較，對很多朝臣都輕慢排斥，連蘇威也不放在眼裏。他的才情風度超群出眾，誠心報國，但待人接物的公平恰當、宰相應具有的見識氣度，就差得太遠了。
他精於權謀韜略，善於利用機會進攻敵人，戰術變幻不斷。他治軍嚴肅整齊，有違犯軍令的，立即斬首，絕不寬恕。每次與敵人開戰之前，他往往先尋找有過失的將士，將他們處死，多的曾處死過一百餘人，少的也不下數十人。麵對眼前血流成河，他卻能談笑自若。等到與敵人開戰，先命一二百人進攻敵人，如能攻破敵陣就算了；如不能攻破失敗回來，不管剩下多少人，全部斬首；再命二百人進攻，方法同前麵一樣。將士們個個心驚肉跳，下定了必死的決心，所以戰無不勝。
楊素戰功赫赫，受到文帝的寵愛，他說的話文帝沒有不聽從的，與他一起作戰的將士，就是立有很小的功勞也會被記錄獎賞。楊素雖然嚴酷殘忍，將士們也願意跟從他。
隋仁壽初年，楊素為尚書左仆射，隨後又為行軍元帥，進擊突厥，連續擊敗敵軍。從此，突厥人遠遁而去，沙漠以南再也沒有他們的蹤跡。
楊素受文帝寵愛越來越深，所有的兒子沒有立下任何功勞，都位至柱國、刺史。家裏童仆數千人，後宅的妻妾歌伎，穿著華麗的數以千計。府邸豪華奢侈，形製有如皇宮。朝臣有違逆他的，楊素暗中中傷他們。如果有人趨附他和他的親友，雖然沒有才幹，他也給以提拔，人們無不因畏懼而依附他。隻有兵部尚書柳述，憑借他是文帝女婿的特殊地位，多次在文帝麵前抨擊楊素，大理卿梁毗上表說楊素作威作福。
文帝漸漸疏遠並開始忌諱楊素，後來詔諭說：“仆射，是國家的輔政大臣，不可以親自處理細小的事務，隻需三五天到尚書省議論一下大事就行了。”表麵表示優待體諒，實際是在削弱他的權力。到仁壽末年，便不再讓他全麵負責尚書省的事。
楊素雖有扶立隋煬帝楊廣的謀略和平定楊諒叛亂的功勞，然而卻被煬帝所猜忌。煬帝對他表麵禮遇優厚，實際上情義甚薄。這都與他貪圖財貨，大肆營求產業有關，他的東西兩京的住宅宏麗奢華，往往早晨建好，晚上又拆掉重造，營建修理沒有停止的時候。四方都會繁盛之地，都有他家的旅店、磨坊、田園、住宅，其數以千計，當時輿論都因此而鄙視他。
隋將韓擒虎
韓擒虎將五百人自橫江宵濟采石，守者皆醉，遂克之，晉王廣帥大軍屯六合鎮桃葉山。
——《資治通鑒》第一百七十七卷隋朝名將韓擒虎，字子通，河南東垣(今河南新安東)人。少年時的韓擒虎激昂振奮，以膽略雄威聞名，為世人所稱讚。他容貌端正、身材魁梧，很有男子漢氣概，而且又很喜歡讀書，經史百家等書都略知其大意。北周時，周太祖宇文泰見到他後，感到他與眾不同，讓他與自己的兒子們交遊。後來因為軍功升職任都督、新安太守，不久升為儀同三司，承襲父親 的封爵為新義郡公。
周武帝伐齊時，齊朝大將獨孤永業鎮守洛陽金墉城，韓擒虎僅憑一張嘴就說服他投降了。
隨後韓擒虎平定了範陽，任永州刺史。陳朝軍隊逼近光州，韓擒虎作為行軍總管擊敗了他們，並隨宇文忻平定了合州。隋朝建立之前，楊堅當時做宰相，韓擒虎升官為和州刺史。陳朝將領甄慶、任蠻奴、蕭摩訶相互呼應聲援，多次進攻長江以北地區，先後侵入邊界。韓擒虎屢次出擊，挫其鋒芒，使陳朝的軍隊銳氣全喪。
隋朝開國初期，隋文帝楊堅有吞並江南陳朝、統一中國的打算，因為韓擒虎文武雙全，於是升他為廬州總管，委以平定陳朝的重任，敵人聽說後，都感到十分憂慮恐懼。等到大舉伐陳，韓擒虎被任命為先鋒，於是他率領五百士兵夜渡長江，迅速襲占采石(今安徽馬鞍山市西南)。當時，陳朝守衛的士兵都喝醉睡了，韓擒虎很輕易地攻取了采石，半日攻下姑孰(今安徽當塗)，然後進駐新林(今南京西南)。江南父老久聞其威名，登軍門拜訪者絡繹不絕。
陳朝軍隊十分恐慌，他們的將領樊巡、魯世真、田瑞等相繼投降。陳後主陳叔寶派蔡征領軍守朱雀航，大家聽說韓擒虎快到了，都四散潰逃。韓擒虎帶五百名精銳騎兵，直接衝入朱雀門。陳朝軍隊打算抵抗，任蠻奴揮揮手說：“老夫尚且投降，諸君何必再抵抗!”
於是大家都一哄而散。韓擒虎遂平定了金陵，擒獲了陳後主陳叔寶。
隋文帝隨即下詔書褒揚韓擒虎，並因功拜韓擒虎為上柱國。
以前，江南有歌謠說：“黃斑青驄馬，發自壽陽邊，來時冬氣末，去日春風始。”大家都不知道什麼意思。韓擒虎本名豹，在平陳之際，他常常騎驄馬，往返的時節也正與歌謠中所說的相合，到這時大家才領悟到歌謠所說的含義。後來突厥來朝貢，皇帝對他們的使者說：“你聽說江南有個陳後主嗎?”使者答：“聽說過。”皇帝便命令左右侍從把突厥使者引到韓擒虎麵前，說：“這位就是抓獲陳後主的人。”韓擒虎很嚴厲地盯著使者看，突厥使者恐慌，不敢直視，他的威嚴就是這樣震懾人。
後來，文帝在內殿宴請他，對他感情真切，禮遇優厚。曆史上流傳這樣一則傳說，說他回去不久，他的鄰居老大娘看到韓擒虎門前儀仗隊很煊赫，如同帝王家，就驚異地詢問是怎麼回事。其中有人說：“我們是來迎接大王的。”忽然什麼都不見了。又有一人病很重，卻忽然倉皇失措地走到韓擒虎家說：“我想拜見大王。”左右侍從驚奇地問：“什麼大王?”答道：“閻羅王。”韓擒虎的子弟大怒，要動手打他，韓擒虎製止道：“生為上柱國，死做閻羅王， 我已滿足了。”
隋唐以後，韓擒虎的神勇事跡在大江南北廣為流傳，他還被演繹為中國封建社會民間信仰中的“閻羅王”，受到人們的尊崇。
唐代名相房玄齡編纂的《隋書·韓擒虎傳》中記載：韓擒虎病重臨死前夕，鄰居的母親去看望他，發現他家門前儀衛嚴整，猶如大王的威儀。老人驚訝地問這些人幹什麼，其中一人回答說：“我來迎王。”說完這些話，這些人就不見了。
過了一會兒，那些儀衛突然又出現了，奔跑到韓擒虎家門前，大聲說：“我要拜見大王！”
人們問要拜見什麼王，那些人答道：“閻羅王！”韓擒虎的子弟們要抓住這些人來打，被韓擒虎阻止，他還大聲喊道：“生為上柱國，死做閻羅王，斯亦足矣。”隨後不久，韓擒虎就去世了。從正史的記載來看，韓擒虎死後做閻羅王的傳說，在初唐時頗為盛行。
在信仰中，人們把宇宙分為天宮、人間、陰間三個世界，多數人死後要進入陰間報到，而陰間的主宰就是“閻羅王”，掌管人的生死輪回，勇猛剛直的韓擒虎和宋代的範仲淹、寇準、包拯被稱為“四大閻王”。這些雖然都帶有封建迷信的色彩，但也反映出人們懷念敬仰 韓擒虎的意願。
建築奇才宇文愷
以太子左庶子宇文愷有巧思，領營新都副監。愷，忻之弟也。
——《資治通鑒》第一百七十五卷隋文帝楊堅建立隋朝後，為了防止宇文氏家族的人反叛奪權，便下令殺掉一些宇文氏皇族的人，其中有一個叫宇文愷的，也在被殺的名單中。追殺的人派出去後，楊堅又後悔了，宇文愷本是北周皇族的遠支，而且，他的哥哥宇文忻在楊氏建立隋朝的過程中，是立過功的，這樣的人不應該殺。想到這裏，楊堅馬上派人去追趕殺宇文愷的人，說文帝已經決定赦免宇文愷，因此，宇文愷才幸免一死。
其實，雖然宇文愷不是北周皇族的近親，但因他的父親、哥哥都是北周的功臣，他自幼就很風光，剛剛3 歲，就賜爵雙泉伯，7 歲又晉封安平郡公，邑兩千戶，對於一個孩子來說，這已經是恩寵有加了。到了他可以當官的年齡，先當了個稱為“千牛”的小官，是負責宮中護衛的。後來又晉升為禦正、中大夫、儀同三司等職。楊堅當上丞相以後，又給他加了一個上開府中大夫的官名。宇文愷從小就喜歡博覽群書、學習知識，尤其喜愛建築方麵的知識，年輕時就以博學多才而聞名。
所以，楊堅赦免了宇文愷以後，便讓他當了營宗廟副監，如果用今天的職務來比擬的話，大概可以稱為修建宗廟副總指揮吧。“宗廟”是供奉和祭祀祖宗的地方，是每一個名門望族所不可少的，至於皇帝，那就更缺不了了，並且還得與眾不同。隋文帝剛剛奪得政權，建立新朝，所以他是一定要修建宗廟的，這個任務就落到宇文愷的身上。宗廟建成以後，文帝很滿意，又封他為甑山縣公，食邑千戶。
北周的首都在長安，文帝建隋以後，首都也設在長安。但由於戰事頻仍，長安城多次遭到毀滅性的打擊，整座城市破亂不堪，宮室狹小，水質變壞，無法食用；而且城裏宮室、官署、居民混在一起，難以區分，不利於統治。開皇二年(582 年)隋文帝下令營建新都大興城，命高穎、宇文愷為營建正、副監。大興城的選址比較合理，整座城氣勢宏偉，規模龐大，城內區劃明確，並且采用了裏坊製的設計原則。
隋朝統一中國後，為了更好地治理全國，文帝有意遷都洛陽，要在洛陽營造一個東都，便以高穎為營新都監，以宇文愷為副監。但高穎不懂技術和設計，整個的規劃設計實際都是由宇文愷一人完成的。他受命率領水工開鑿了連接大興城、渭水和黃河，長300 餘裏的廣通 渠，造福了百姓。
文帝修建仁壽宮的時候，宇文愷任仁壽宮監。仁壽宮建在山巒之中，工程複雜艱巨，遇到許多複雜的技術難題，但宇文愷憑借自己出色的規劃設計和精心組織施工，用了兩年多的時間，就建成了一座雄偉壯麗的宮殿。文獻皇後死後，他又設計建造了皇後的陵墓，文帝對他主持的這些工程的設計和建造都很滿意。
文帝死後，煬帝繼位，繼續營造東都洛陽，仍以宇文愷為營造東都副監，並且很快就提他為將作大匠。在同煬帝的接觸中，他看出煬帝心裏想的是越奢侈豪華越好，因此他就把洛陽設計得“窮極壯麗”。建好後，煬帝果然非常高興，提升他為開府，拜工部尚書。煬帝有一次北巡，想借機炫耀一下隋朝的強大和先進。因為北方的少數民族多數住帳篷，煬帝就讓宇文愷設計一個大帳篷，這個大帳篷裏麵能坐幾千人。帳篷做成後，煬帝高興地賞賜給宇文 愷絹一千段。
宇文愷還為煬帝造了一個大殿，名為“觀風行殿”，其下麵設有輪軸，可開可合，非常奇妙，上麵裝得下幾百名衛士。那些部落酋長見了這大帳篷和觀風行殿，覺得神奇得不得了。
煬帝見自己的目的達到了，對宇文愷的設計非常滿意，不斷地給他賞賜，可謂不計其數。
中國曆代帝王，都很重視“明堂”，據說黃帝的時代就有明堂了。那是帝王宣明政教的地方，一些重要的集會、典禮、儀式等，都要在這裏舉行，所以孟子說明堂是“王者之堂”。
但是晉以後的幾百年來，各國都沒有力量興建明堂。隋文帝在位時，為了表示自己朝代的正統性，決定修建明堂。但是人們已經有三百年沒見過明堂了，究竟明堂是個什麼樣子，怎麼個建法，大臣們爭論不休，得不出結論。
宇文愷遍讀古代典籍，全麵地考證了明堂的建製、形式、尺寸、演變以及明堂各部分的象征和意義等，並且按1∶10 的比例畫出圖樣來，還做出一個模型。
可惜，隋代的明堂沒有等到開始建設，隋末農民大起義就爆發了。明堂沒有建成，宇文愷帶著遺憾，在58 歲的時候，離開了人世，這時他的官職是金紫光祿大夫。
他為後世留下了《東都圖記》二十卷，《明堂圖議》二卷，《釋疑》一卷，這些著作，是他留給後人的一筆無法計算的財富。
但也應該指出的是，在他設計和主持的工程中，除了開鑿廣通渠，客觀上有利於國計民生外，其餘大多是為了滿足統治者的統治需要，尤其是宮殿建築，不顧勞民傷財，取悅帝王。
如營造仁壽宮時，“役使嚴急，丁夫多死，疲頓顛仆，推填坑坎，覆以土石，因而築為平地。
死者以萬數”，“時天暑，役夫死者相次於道，楊素悉焚除之”。營建東京時，他“揣帝心在宏侈，於是東京製度窮極壯麗”。“東京官吏督役嚴急，役丁死者什四五，所司以車載死丁，東至城皋（今河南滎陽），北至河陽（今河南孟縣南），相望於道”。長城之役，“死者十五六”。
建仁壽宮和東京的工程，宇文愷雖掛的是副職，但他是實際的負責者，因此功過與他都有直 接的關係。