北魏孝昌二年（526年）達(dá)摩來(lái)到廣州，自幼篤信佛教的梁武帝派人專程迎達(dá)摩到南京，儀式十分隆重。然而這次會(huì)面卻與跋陀見到魏孝文帝的情景迥然不同，二人不僅沒有一見如故，反而鬧得很不愉快。
　　
    梁武帝一見到這位黑發(fā)飄揚(yáng)、目如銅環(huán)的異域高僧，便迫不及待地帶領(lǐng)達(dá)摩觀看了自己親手繪圖并建造的宏偉寺廟，以及抄錄的一卷卷經(jīng)書。梁武帝問(wèn)達(dá)摩：“我做皇帝以來(lái)，修建寺廟，抄寫佛經(jīng)，剃度僧人，不可勝數(shù)，有什么功德？”達(dá)摩說(shuō)：“沒什么功德。”武帝不快，又問(wèn)：“如何才算有功德？”達(dá)摩回答：“完成自我、凈化自我，又凈化他人，普度眾生。這樣的功德，不是靠世俗的有為來(lái)求得的。”
　　
    梁武帝本以為會(huì)聽到一番恭維之詞，沒想到討了個(gè)沒趣。這次會(huì)面，二人話不投機(jī)，達(dá)摩不辭而別。傳說(shuō)達(dá)摩走到江邊，就在江邊折了一根蘆葦投入江中，化作一葉扁舟，以一葦而過(guò)長(zhǎng)江，到了淮北，再到北方，最后到達(dá)了當(dāng)時(shí)由北魏占領(lǐng)的洛陽(yáng)。這就是著名的“一葦渡江”的典故。
　　
    北魏孝昌三年（527年），過(guò)江之后的達(dá)摩來(lái)到少林寺傳授大乘教義，但并不受少林寺中信奉小乘教義的眾僧歡迎。達(dá)摩看到自己的佛法不被眾人所理解，就向后山走去。在后山見到一個(gè)天然石洞，據(jù)說(shuō)此洞為上古蚩尤住所，故名“蚩尤洞”。他走進(jìn)石洞面壁而坐，開始九年面壁生涯。相傳由于達(dá)摩終日面壁靜坐，不免筋骨困倦，加上在深山老林，野獸不斷侵?jǐn)_，為了驅(qū)倦防獸，健身護(hù)寺，創(chuàng)造了“達(dá)摩鏈”、“達(dá)摩杖’、“達(dá)摩劍”等，這套健身術(shù)后經(jīng)歷代長(zhǎng)期充實(shí)、提高，逐步形成了一套拳術(shù)，共達(dá)百余種，武術(shù)上總稱“少林拳”。
　　
    達(dá)摩面壁九年，終成正果，傳說(shuō)石壁上還印出了他打坐的影子。達(dá)摩創(chuàng)立的禪宗也在后世被發(fā)揚(yáng)光大，后人稱他為“禪宗初祖”，稱少林寺為“禪宗祖庭”。
　　
    如今在少室山五乳峰離絕頂數(shù)十米的一處深約5米，寬約3米的天然石洞，就是達(dá)摩面壁的地方，后世稱作“達(dá)摩洞”，宋代人為紀(jì)念他，在五乳峰下建造了一座紀(jì)念建筑，便是著名的初祖庵。
　　
    菩提達(dá)摩是一個(gè)被賦予太多傳奇色彩的高僧。傳說(shuō)在達(dá)摩去世的那一天，東魏使臣宋云，正好從西域返回洛陽(yáng)。在途經(jīng)蔥嶺時(shí)，迎面看到達(dá)摩一手拄著錫杖，一手掂著一只鞋子，身穿僧衣，赤著雙腳，由東往西而來(lái)。宋云便問(wèn)他要到哪里去，達(dá)摩回答說(shuō)他要回西天。宋云回到洛陽(yáng)，聽說(shuō)達(dá)摩已經(jīng)死了，十分意外，他對(duì)旁人說(shuō)在去蔥嶺的路上見到達(dá)摩了。大家不信，于是就打開達(dá)摩的墳?zāi)箒?lái)驗(yàn)證，結(jié)果墳?zāi)估餂]有達(dá)摩的尸體，只有一只鞋。如今少林寺院內(nèi)的達(dá)摩像，手里拿著一只鞋，便是根據(jù)這個(gè)故事而來(lái)的。