金庸武侠中对少林寺推崇备至。北崇少林，南尊武当。作为武侠小说中一颗引人入胜的棋子和传统武术文化神化的过程。少林寺无疑是武侠小说中不可缺少的组成元素。
【《天龙八部》】
北宋中叶，少林寺两百年武功第一的玄字辈僧人玄橙大师练功走火入魔，全身武功尽废。约为公元1091-1094年北宋哲宗赵煦年间，少林寺扫地僧的横空出世以其空前绝后震铄古今的武功修为指出玄澄大师的武学修为缺点，为少林寺的武功传承和发展方向指明了一条道路。
【《倚天屠龙记》】
约为1190年，少林寺积香厨的僧人因为不堪掌管香积厨的僧人的暴打而暗自偷学武功。二十年后终至大成，在少林寺一年一度的达摩堂大校中击杀少林达摩堂首座苦智等人后逃下山去，在西域开创金刚门即西域少林，而少林也因此元气大伤，几十年不振。
理宗开庆元年(1259年)，神雕侠侣十六年后，元气大伤的少林寺初露头角和峥嵘。西域号称三圣的高手何足道，狂傲的语气挑战少林寺。少林寺衰落时期面对一个超一流的高手几乎倾尽了全寺的力量，可以看到衰落的程度到了何种的地步。但完整武藏的保持和传承让少林寺并没有就此湮没于世上。元末明初，元顺帝至元二年(公元1336年)，此时的少林寺初步恢复了往日的峥嵘和辉煌。少林寺的三渡四空，以及十多位的少林寺空字辈的僧人，都可以让元末明初的少林寺重新屹立和位于中原武林第一大派。
明朝中叶，少林寺的方丈方正大师，把少林寺千年传承的心法，达摩手书的易筋经练到了化境的境界。其内功相当于当时武林当中武功上号称十二年来天下的第一的东方不败。可以称之为另一个版本的内功上东方不败。其为少林寺能把易筋经练到化境的第一人，也为少林寺方丈武功之最。少林寺从此归然不动的屹立在了中原武林第一大派的位置上，无人可以撼动。
至此武侠小说中的少林寺经历了辉煌→衰落→辉煌→再辉煌的过程，成为了贯穿整个金庸武侠世界中的背景主线。