法琳雖然身披道服，而骨子裏仍然是一名佛教徒，在遍覽道教典籍之後，對“葛妄張虛之旨，李氏奉釋之謨”感到厭煩，再一次確認了佛教的偉大。唐初武德元年（618），也就是在潛居道觀一年之後，法琳脫下黃巾，剃除須發，重現僧像，回歸釋門，於長安城西的布政坊濟法寺居住下來。從他離開清溪山鬼穀洞，結束隱居生活算起，整整經過了十七年。
武德四年（621），還俗道士太史令傅奕將《廢佛法事十有一條》上奏唐高祖，主張廢佛。高祖起初想予以采納，而朝中大臣卻多有抵觸，於是頒發了《問出家損益詔》以征求民間的意見。這在當時的佛教界引起了軒然大波，佛教徒紛紛上疏回答詔問，反對廢佛。居於濟法寺的法琳也挺身而出，站在了護法前沿，針對傅奕的奏章撰疏上表，提出反對意見。唐高祖在閱覽了這些上疏之後，深感廢佛政策事關重大，不敢貿然決斷，遂暫時擱置下來。這讓傅奕十分氣噎，遂將自己的上疏抄寫多份，散布於民間，並汙蔑佛陀為“胡鬼”，妄稱僧人為“禿丁”，以致成為民間笑談和酒席上的話題。法琳也不甘示弱，針對傅奕的文章逐字逐句地予以辯斥，寫成了《破邪論》兩卷，並采用傅奕的做法，不但將《破邪論》上呈於高祖、王儲以及公侯卿伯，同時也向民間散發。而法琳善文，所撰《破邪論》不但論理清晰、雄辯解微，且“筆削清奇，冠乎群品”，遂使“朝賢貴士，鹹誦在心，遁世名儒，家藏一本”，扭轉了民間對於佛教的歪曲歧視之風。
武德七年（624）七月十四日，傅奕上奏《請除去釋教疏》，繼續宣傳廢佛言論，高祖為之動搖，交由百官議論。除太仆卿張道源支持傅奕以外，以中書令蕭瑀為首的朝中大臣多表示反對，遂使廢佛之事再次擱置起來。然而傅奕並未死心，又網羅了更多的道士上疏排佛。最終，唐高祖在武德九年（626）下詔“京城留寺三所，觀二所，其餘天下諸州，各留一所，餘悉罷之”，把對於道教和佛教的限製政策同時提到了日程。詔令初下，緇素悲切，道徒愕然，“五眾哀號於槁街，四民顧歎於城市，道俗蒙然，投骸無措”。擔當護法重任的法琳又一次忙碌起來，開始執筆撰寫《辯正論》以反駁道士李仲卿《十異九迷論》和劉進喜《顯正論》中的排佛妄言，企望為佛教爭取更多的生存空間。
《沙汰佛道詔》頒布之後不到兩個月，玄武門之變爆發，李唐皇室的政局也隨之變動。事變當天，高祖大赦天下，撤消了沙汰佛道二教的政策，“其僧尼道士女冠，宜依舊定，國朝之事，皆取秦王處分”。令人欣慰的是，李世民執政之初，對佛道二教采取安撫政策，這讓法琳感到廢佛的危險已經消除，如釋重擔，其著作《辯正論》完成之後也沒有繼續上呈。貞觀初年（627），唐太宗為高祖舍終南山太和宮太子院立龍田寺，年近五十五歲的法琳，向往南山的幽靜，遷徙而居。龍田寺僧眾慕其德行，推舉他為住持。這段時間，法琳在終南山龍田寺潛心修行，同時幫助入唐梵僧波頻三藏翻譯《寶星陀羅尼經》和《般若燈論》，並為之作序。貞觀七年（633）二月，太子中舍人辛謂設《問難》二條以問紀國寺僧慧淨，慧淨著《析疑論》答之，並以此論送往龍田寺請法琳披閱，法琳因此又著《廣析疑論》，並給慧淨寫了回信。《致慧淨法師書》末尾說到：
琳謝病南山，棲心幽穀，非出非處，蕩慮於風；無見無聞，寄情於泉石。
此時的法琳已入年邁老境，給慧靜的回信中也表達了“非出非處，無見無聞”的意願，所著《廣析疑論》的論鋒亦比較平和。由此看出，晚年居於終南山龍田寺的法琳大有不問世事、隱居潛修的傾向。
貞觀十一年（637），唐太宗巡幸洛陽，突然發布詔書，稱李唐皇室本源出自老子李耳，故令道士、女冠今後居於僧、尼之前。這道詔令的頒布，使得才剛剛平靜十年的佛教界再次忙亂起來。京城裏的僧眾立即展開抗議活動，頻頻上疏，而官府卻置之不理。眾僧無奈，遂集體上表，並一致推舉法琳、智實、法常等大德高僧將表文上呈。法琳等人卻之不恭，隻好前往潼關覲見太宗。而唐太宗卻沒有現身，隻是派中書侍郎岑文本出麵宣布口敕：“明詔久行，不伏者與杖。”法琳隻好忍氣吞聲，勸大家說：“帝在九重，聖顏難睹，縱欲牽衣折檻，亦乃無由。未若踵武屈原，棲遑草野，結蘭為佩，清白自居焉。”眾人之中唯有智實宣言不服，結果被處以杖刑，當月死去。