释迦在灵山会上，对著百万人天，默然不说一句话，只自轻轻地手拈一枝花，普遍地向大众环示一转，大家都不了解他的寓意，只有大弟子摩诃（意译为大）迦叶，会心的展颜一笑，於是释迦便当众宣布：“吾有正法眼藏，涅盘妙心，实相无相，微妙法门，不立文字，教外别传，付嘱摩诃迎叶。”这便是禅宗的开始，后来由迦叶尊者为印度禅宗的第一代祖师，阿难为第二代祖师，历代相传，到了第二十八代菩提达摩大师，正当中国南北朝时代印度佛教衰微，大师谓东土震旦（中国），有大乘气象，所以便渡海东来.
菩提达摩于六朝齐、梁间从印度渡海东来，梁普通（520-526）前后到洛阳弘扬禅法。因其禅法不为当时佛教界所重，乃入少林寺安心壁观，以“二入四行”禅法教导弟子慧可、道育等。慧可从达摩6年，达摩授以《楞伽经》4卷。后隐居于舒州皖公山（今安徽潜山东北），传法于僧璨。僧璨受法后又隐于舒州司空山（今安徽太湖北），萧然***，不出文记，秘不传法。唯有道信侍璨9年，得其衣法。后至吉州（治所在今江西吉安）传法，尝劝道俗依《文殊说般若经》一行三昧，可见其除依《楞伽经》外，还以《般若经》为依据。后住湖北黄梅双峰山（一名破头山）30多年，主张“坐禅守一”，并传法于弘忍。其另一弟子法融在金陵（今江苏南京）牛头山传牛头禅。
　　弘忍得法后即至双峰山东冯茂山（一作冯墓山）另建道场，名东山寺，时称其禅学为“东山法门”。其“萧然***，不出文记，口说玄理，默授与人”的作风，开中国佛教特有的禅风，对后来禅宗发展影响甚大。著名弟子有神秀、慧能、惠安、智诜等。相传弘忍为选嗣法弟子，命大家各作一偈，时神秀作偈：“身是菩提树，心如明镜台；时时勤拂拭，勿使惹尘埃。”弘忍认为“未见本性”。慧能也作一偈：“菩提本无树，明镜亦非台；本来无一物，何处惹尘埃。”弘忍认可，并秘密传以衣法，为第六代祖。慧能得法以后南归，隐居15年，继至曹溪宝林寺。后应请在韶州大梵寺说摩诃般若波罗蜜法，并传授无相戒。嗣法弟子有行思、怀让、神会、玄觉、慧忠、法海等40余人。法海集其言行为《六祖坛经》，是为南宗。神秀于弘忍寂后至荆州当阳山玉泉寺弘禅，20余年中门人云集，是为北宗。神会先后在南阳、洛阳大弘禅法，南宗遂成禅宗正统，慧能宗风独尊于天下。神秀北宗则门庭寂寞，传不数代即衰亡。　　该宗所依经典，先是《楞伽经》，后为《金刚经》，《六祖坛经》是其代表作。