清廷一直将少林寺视为心腹大患，在寺中奸细提供情报后，调集各路高手纵火围攻少林，企图一举铲除寺中僧人和俗家弟子。突袭来得猝不及防，众人仓促迎战，最终十有八九壮烈牺牲。方大洪（孟飞）侥幸逃生，前往广东与李式开（戚冠军）会合，共商继续反清复明的大计。胡德帝（姜大卫）、蔡德忠（狄龙）和马超兴（傅声）等人则北上中原，四处追查潜伏在寺中的内奸，发誓要为死去的少林弟子报仇。
五人曾一度怀疑少林功夫是否名不副实，后来才明白，真正的问题并不在武学本身，而是自己修炼尚未到家。于是他们潜心苦练，最终学有所成，并被后世尊称为“少林五祖”。
剧情片