《易·系辞下》称“古之葬者，厚衣之以薪，葬之中野，不封不树”在远古时代，人死去之后，用树枝杂草掩埋，葬地不起坟，也不种树以设标志。考古发现新石器时代已有能够保护尸体的土葬。原始社会末期，土坑葬相当普遍，但没有坟头及任何标志。即便已经进入阶级社会的夏、商、西周和春秋前期，也仍然是“古也墓而不坟，”如西汉末刘向所说：“殷汤无葬处，文、武、周公葬于毕，秦穆公葬于雍橐泉宫祈年馆下，皆无丘垄之处。”可见，在原始社会末期到春秋末期，古人的坟墓都还是与地齐平，并且没有任何标志的。墓地与地齐平，因年代久远，人们就无法确认自己祖先的坟墓，于是就变成了“又封又树”，即把地下掘出的土堆成坟头，在墓地周围种树以为标志。
在《礼记》和《史记·孔子世家》里分别记载着孔子幼年丧父，长大后要将父母合葬于防（今山东曲阜市东）而寻找父亲坟墓的故事。并感叹：“古也墓而不坟，今丘也，东西南北之人也，不可以弗识也。” 孔子虽然崇尚古制，但考虑到自己是个四方奔走之人，为了便于上墓祭祀，不能不在墓地上立个标志，“于是封之，崇四尺”。
当这种又封又树的形式一旦流行之后，很快就被统治者所垄断，封树成为了身份地位的象征了。
随着豪强大族对墓祭的重视以及百姓的孝道观增强，人们不再满足于简单的标识，而是希望凭借一定的器物记载祖上的功德，以期流芳后世，于是植树逐渐转变为树碑。跟石头的物理特性有关，墓碑“石”与“金”具有同样的质地，可以“不朽”。“德之隆者，莫盛不朽，乃共追录厥勋，镌石示后……”（《繁阳令杨君碑》，《隶释》卷九） “存有令迹，亡述存勋，铭载金石，永世不刊”。 （《益州刺史王纯碑》，《隶释》卷七） 皆表明了铭石树碑传之不朽的重要意味。