古人非常重视丧葬，并认为“事死如事生”，春秋时期，礼乐崩坏，这也兴起了厚葬之风，《吕氏春秋·节丧》载有：国弥大，家弥富，葬弥厚。儒家主张“以孝道治天下”，汉武帝在“罢黜百家，独尊儒术”之后，厚葬为孝的观念更深入人心。
孔子作为圣人，他的葬礼却十分简单，《孔子家语》提到了孔子去世：赐！汝来何迟。予畴昔梦坐奠于两楹之间。夏后氏殡于东阶之上，则犹在阼；殷人殡于两楹之间；则与宾主夹之……
孔子做了一个梦，梦到自己坐在两楹之间，“楹”就是堂屋前面的柱子，这个柱子是殷人放灵柩的地方，孔子是殷人的后裔，所以他预感自己快要离世了，孔子在死之前还停留在卫国，他交代后事，子贡就问他不为什么才不回鲁国。
不管是古人还是现代人，都讲究落叶归根，这是一种刻在骨子里面的传承，孔子虽然没有明说，但鲁衰公来悼念的时候，子贡说孔子没有得到鲁国的重用，他来悼念不符合礼仪，说到底孔子心怀仁政，却无法完成志向，他生前无颜回到鲁国。
孔子去世之后，以门生的财力大可对他进行厚葬，但孔子还是要薄葬，“孔子之丧，公西掌殡葬焉”公西华是孔子的弟子，由他来主持孔子的葬礼，下葬时，孔子含着粳米和珍贝，孔子穿的衣服是朝服。
孔子官至鲁国司寇，虽然没有得到重用，但穿朝服也符合礼仪，腰间佩戴象环：“佩象环者，象牙又文理，言已有文章也；而为环者，示已文教所循环无穷也”，象环也预示着孔子的一生。
周朝规定：天子棺椁四重，公侯三重、大夫两重、天子棺厚八寸、大夫棺厚六寸。孔子的棺两重厚5寸，从周礼的规定上来讲，倒也符合孔子的身份，下葬之后，弟子都守丧三年，只有子贡守了6年。
孔林一开始也只有孔子一个人墓，规格也非常简单，随着孔子的地位越来越大，孔林在后世也多次重修，东汉永寿三年（157年）鲁相韩勅修孔墓，在坟墓前还建造了神门一间，不过此时孔林不过“林地一顷”。
南北朝时，孔林扩大了树木的种植，宋代宣和年间，再修孔墓，元至顺二年（1331年）孔林修建了围墙，明洪武十年（1377年），孔林扩大到了3000亩地的规格、清康熙年间孔林更是扩大到了200万平方米，孔林的规模也是随着朝代的更替在不断的扩大。
除了孔子的墓地之外，孔子的后代、弟子也被葬在这里，除了孔子外，名字最大的应该就是乾隆的女儿于氏夫人，她嫁给了衍圣公，因而入葬孔林，民国四大家族之一的孔令贻也葬在这里。
传说孔林“下不招蛇”，“上不落乌鸦”很是神奇，难道这些动物都知道孔子是圣人，所以都不去打扰他吗？其实并不是，而是古人在重修孔林时考虑到孔子的身份，为了防止这些不洁之物用了大量的朱砂和硫磺，所以蛇类才会远远的避开。
孔林种植的大多数都是楷树和桧柏等树木，以示万古长期，刚好乌鸦也不太喜欢这些树木，不得不感叹，老祖宗的大智慧啊！