曾子耕稼地点，典籍仅云在“泰山下”，但其曲即以“梁山”为名，必与其山有关。泰山下有小山名梁父，一作梁甫，《汉书·地理志》“泰山郡”下有“梁父”，颜师古注曰：“以山名县也”。《水经注·淄水》载：“淄水(小汶)又经梁父县故城南，县北有梁父山。”曾子的躬耕地，或在此梁父山一带。因梁父山简称梁山，南朝宋刘澄之以为晋袁宏《北征赋》“背梁山，截汶波”即指梁父山（《水经注·济水》），《岱览》卷二十引乾隆《新泰县志》称：“云云山亦曰梁父，殆以是与？或谓之梁山。”故其曲乃以“梁山”为名。另说，泰山下小山亦统名梁父，乾隆黄钤修《泰安县志》卷三《山》考谓：“梁父虽有专山，亦岱下小山之总名也。孔子《邱陵歌》所谓‘梁父回连’是已。”曾子既“耕泰山之下”，自亦可以“梁山”名曲。故唐人李勉《琴说》中径称此曲为《梁父吟》：“《梁父吟》，曾子作（一作撰）。”后人或质疑“梁山”、“梁父”名义不合，如近人潘敬云：“李勉《琴说》：《梁甫吟》曾子撰。然《琴操》云：‘曾子耕泰山之下，天雨雪冻，旬月不得归，思其父母，作《梁山歌》。’未闻其作《梁甫吟》也。……李勉之说谬甚。”实因对泰山下山名缺乏了解所致。

曾子之梁父悲吟，后世成为著名至孝典故，收入唐虞世南《北堂书钞》、白居易等《白孔六帖》、韩鄂《岁华纪丽》、明刘胤昌《刘氏类山》、江元祚《曾子孝实》等书中。后世引述亦多，如明万历朝查志隆《岱巅修建孔庙议》中云：“《孝实录》则云曾子耕泰山下，思其父母而作《梁山歌》，凡此故事，凿凿可据。”清雍正六年(1728) 山西浮山文庙曾参碣云：“曾子，名参，字子舆，武城人，……耕于泰山，尝雨雪不得行，思父母，作《梁父吟》。”后人吟咏亦每及此典，如唐骆宾王“白雪梁山曲，寒风易水歌”（《夏日游德州赠高四》）；张九龄“思扰梁山曲，情遥越鸟枝”（《南还以诗代书赠京都旧僚》）；王昌龄“今者放歌行，以慰梁甫愁”（《放歌行》）；李白“悲吟雨雪动林木，放书辍剑思高堂”（《留别于十一兄逖裴十三游塞垣》）；元稹“君若问孝理，弹作梁山吟”（《桐花》）；宋刘敞“半夜梁山操，悲歌问起予”（《旅居雨中》）、“自昔梁山有遗操，试凭繁手一清弹”（《风雨》）；吴潜“梁山操里声愁听，湘水图中景喜看”（《七八用喜雪韵四首·其三》）；清戴亨“我今泪尽梁山操，天涯僵卧复谁告”（《题阎佩升为卢公亮写岁寒图》），等等。宋人薛季宣、清人沈德潜还以曾子原词不传，各为补作数首。薛季宣《梁山歌》序云：“曾子耕于泰山，雨雪旬日，思归温父母而不得作。”歌云：“雨雪霏霏，梁山之下。朴遨其凝，皓其郊野。凛其寒矣，曷藏曷御。亲庭孔邈，孰为温者？台不能此处，归途无所。台不能此处，曷其疾去！”沈德潜《梁父吟》序云：“曾子耕泰山之下，值天大雨雪，不得归，思念其母，作《梁父吟》以见志。《乐苑》载其事，亡其辞，拟古辞以补之。”辞云：“力农于野，泰山之侧。雪闭川原，欲归不得。（一解）欲归不得，眷念我母。我母念我，怅望陇庚。诚通境隔，中心何有。（二解）禄养由命，色养由人。岂因贱贫，莫侍饔飱。（三解）小鸟反哺，往来深树。嗟我人兮，而不如微羽。（四解）昊天苍苍乎，其知我心伤乎？（五解）”皆可代发古贤孝思。

20世纪初敦煌石窟的开启，为曾子《梁山歌》又增新证。敦煌写本P2524《语对》云：“梁山：曾子耕于梁山，遇雪，不得还，作梁山之歌。”此处明确说躬耕地点在“梁山”，道明曲名之来，可与上论泰山梁父相互扣合。《语对》为古类书，约出于唐之前期。另一写本P.2537《略出籯金一部并序·仁孝篇》亦有一条云：“曾参至孝，每有寻足鸟接于堂宇，或上参冠。时人遂作《梁山歌》，以咏其德。”《略出籯金》亦类书，今人多认为是晚唐敦煌文士张球据李若立《籯金》改编而成。此条系记一神异传说，末句言《梁山歌》为时人歌咏曾子之德而作，虽与前典不合，但鉴时先秦古贤歌曲多出后人依托，《梁山歌》为时人所作，后世以其曲辞状写曾子胸臆，遂托名于曾，亦大有可能。

根据上引典册，可知《梁山歌》（即《梁父吟》）最初出现在春秋时鲁国泰山一带，是一首雨雪怀亲之曲，出自曾子或托名于曾子；而依蔡邕《弹琴赋》中所言“《梁父》悲吟”，又知其曲调系悲凉感伤一类。此为最初的《梁山歌》词曲状况。尔后随着世代变迁，这一名曲主旨又而数经变易。

首先是“泰山治鬼”说的流行，使《梁父吟》成为一首“葬歌”。关于治鬼说前人论之已多，兹专引清人顾炎武说以概其余。顾著《日知录》卷三十“泰山治鬼”条考云：“尝考泰山之故，仙论起于周末，鬼论起于汉末。……《遁甲开山图》所云：‘泰山在左，亢父在右。亢父知生，梁父主死。’《博物志》所云：‘泰山一曰天孙，言为天帝之孙。主召人魂魄，知生命之长短者。’其见于史者，则《汉书·方术传》：‘许峻自云：尝笃病，三年不愈，乃谒泰山请命。’《乌桓传》：‘死者神灵归赤山，赤山在辽东西北数千里。如中国人死者魂神归泰山也。’《三国志·管辂传》：‘谓其弟辰曰：但恐至泰山治鬼，不得治生人。如何？’……然则鬼论之兴，其在东京之世乎？”。由于此说盛行，梁父一山被视为亡魂归聚之地，《梁父吟》也与《泰山吟》、《蒿里行》一道被视为葬歌。《乐府诗集》云:“《梁甫吟》,盖言人死葬此山，亦葬歌也。又有《泰山梁甫吟》与此颇同。”今传“步行齐城门”一首言三坟累累，明确具有葬歌特征，应是古葬歌之孑遗。

其次是与诸葛亮的结缘，使《梁父吟》成为一首“慨歌”。《三国志》本传称亮寓居隆中，“躬耕陇亩，好为《梁父吟》”。关于高吟意旨，前人考论详赡，各有胜意。但大致说来，诸葛亮咏怀所寄，应与魂归、瘗葬无涉，而同思亲相关。诸葛躬耕南阳，与曾子“耕于泰山下”略似，而其父母双亡，悲苦又甚于参。且其少时曾随父宦游岱下（父诸葛珪曾任泰山郡丞），夙闻其土风，故借曾参遗曲，抒其恋土思亲之怀。对此前贤论云：“尝考《琴操》言，曾子耕泰山下，天久雨雪，不得归，思其父母，而作梁父吟，武侯少孤，其为梁父吟，意实在此。”应是合乎事理的。

然而随着诸葛亮功业显赫，名垂宇宙，其“好为《梁父》”被理解成“高吟俟时”，深有寄托，因之在后世《梁父吟》遂自“哀歌”（曾曲）、“葬歌”一变为慷慨之歌，多抒建功立业之抱负，寥落不遇之悲慨。且凡吟《梁父》者，几无不与诸葛武侯相联系，所谓“我亦南阳子，好为《梁父吟》”（李白），“可忴后主还祠庙，日暮聊为《梁甫吟》”（杜甫）。内中微旨，前哲时贤论述已多，兹不复赘。