山门意为寺院正面的楼门，因为寺院多居山林之处，故有此名。山门的盛行与禅宗有很大的关系，禅宗伽蓝七堂制中规定了山门是必须要建造的，其目的是为了避开市井尘俗，让僧众能够静心修行。

少林寺的山门为常住院大门，由正门和东、西掖门组成，创建于清朝雍正十三年（公元1735年）。中间正门为单檐歇山式建筑，面阔三间，进深三架。门首正中悬有长1.93米、宽0.9米的黑底金字匾，上书“少林寺”三字，为清朝康熙四十三年（公元1704年），清圣祖玄烨所书，匾正中上方有篆书“康熙御笔之宝”六字印章。

据《少林寺志》记载，山门上的匾原先是悬挂在天王殿正门上方的，后来天王殿被烧毁，才移到此处。如果仔细看的话可能会发现，匾上的“少”和“寺”这两个字下部笔触不协调，应为后人修复的痕迹。

山门两侧为面阔各一间的硬山式门庭，其前八字形砖墙，东墙内书“大乘胜地”，外书“嵩山少林寺”，西墙内书“禅宗祖庭”。墙字皆由宋书范1980年所书。

山门前面是由东西石牌坊、石狮、旗杆组成的大广庭。广庭内有密布的柏树林，使少林古刹显得更加神秘而古朴。一对高1.67米的清代石狮子，蹲在高1.75米的石雕须弥座上，威武精神，几百年来守护着少林古刹。

广庭东西石坊为二柱单楼式石牌坊，东西相对，成为山门前导区的东西标志。东坊建于明代嘉靖二十三年（公元1544年），坊东面额题“祖源谛本”四个大字，柱子上刻对联，上联为“地在天中，四海名山为第一”,下联为“心传言外，十方法教是初元”。西面题额“跋陀开创”四字。西坊建于明代嘉靖三十四年（公元1555年），坊东面额题刻“大乘胜地”，对联上为“心传古洞，严冬雪拥神光膝”,下为“面接高峰，静夜风闻子晋笙”。坊西面题额为“嵩山少林”，对联上为“双双玉井，碧澄冷浸千秋月”,下为“六六玄峰，翠耸光连万壑云”。

进入山门，看到雅致的殿宇，漫步在充满诗韵的曲径回廊，感受着雄浑悠扬的古刹钟声，会深深地被少林寺这座古朴典雅、充满历史文化气息的千年古刹所吸引。