墓碑的石质材料来源于岩石。岩石是由含有一种矿物或多种矿物经过漫长的地质作用而形成的集合体。从地质学的角度来看，可以划分为岩浆岩、沉积岩和变质岩三大类。其中沉积岩的特性便于加工，所占比例最大，大约占地表面积的 3/4。我国沉积岩的比例约占面积的 77%。 这为石头上的艺术创造了最为优越的物质条件。沉积岩又分为若干小类，因质地、硬度、色泽各不相同，用途自然不一，因而形成了多姿多彩的“石头文化”。
        选择适用的石料是一道必经的程序，古人对墓碑的选石、采石，是非常讲究的。为了墓碑“以垂久远”，东汉《孔宙碑》末尾说：“涉名山，采嘉石”，已佚的东汉《武梁碑》说的更详细：“孝子孝孙，躬修子道，竭家所有，选择名山，南山之阳，擢取妙好，色无斑黄。”大意是石材要选温润细腻、匀净美观、没有斑点的佳石。除此之外，墓碑为了便于奏刀，选石还讲究硬度适中、耐久的石料。
         唐高宗乾陵现存由武则天撰文、中宗李显亲书的为高宗歌功颂德的《述圣记碑》  ，碑通高七米，碑身由五块边宽 1.86 米的巨石跌压组成，加上顶盖与底座，俗称七节碑，取义为日、月、金、木、水、火、土，“七曜”光照陵园。据考证，此碑石料“来自于阗”。唐碑所用的材料都是比较坚硬的岩石，耐损力强，质地细密，不怕风吹雨打，阳光曝晒，往往能长期保存，经久不坏。
         墓碑的就地取材保留了各地墓碑的地域特点。中原的天然花岗岩，石质坚硬，不易风化，为石碑制作及保存提供了优良条件。
北方辽金时期的一些经幢，多用黄沙石，易于雕刻加工，但不易保存，而且石质过脆，历年稍久，石面片片剥落，凹凸不平，不及百年已漫漶不存一字。西南地区的泥灰质岩石，石质内各化学成分在溶蚀、风化的作用下，其物理力学性质易发生变化 。
         中国历代墓碑的碑材，一般都是花岗岩或大青石，也有一些大理石和少量的汉白玉碑，即花岗石、青石、青白石、汉白玉等。
         花岗石是深成岩，常能形成发育良好、肉眼可辨的矿物颗粒，因而得名。花岗岩不易风化，颜色美观，外观色泽可保持百年以上，由于其硬度高、耐磨损，是露天墓碑的首选材料。
         青石是石灰岩的俗称，青色的岩石，面呈灰色，局部褐红色。汉东方朔《神异经·中荒经》：“东方有宫，青石为墻……门有银牓，以青石碧镂。”唐白居易《青石》诗：“青石出自蓝田山，兼车载运来长安。”可见使用的历史较为悠久。
        青白石是大理石的一种，颜色青白浑厚大气，材质细腻感与汉白玉相当，但比汉白玉暗淡。石料硬度高，耐脏，并容易雕刻，多用于碑版，建筑石雕构件等。青白石的叫法主要出现在古建当中，制作台明石，套顶石均选定为青白石石料。