將石頭作為記錄信息的載體的歷史不可謂不悠久。石頭是自然界中隨處可見的物質，又加之其具有堅固、耐久的特征，是最早被人類利用的自然物之一。早在四萬年前，史前人類就已經開始在巖壁上作畫，其歷史遠遠早于文字的產生。巖畫與碑刻雖然形式與內容都存在著極大的差異，但是本質上都是以具有時間上永久性的石質材料作為內容載體的創(chuàng)作物，從這個意義上說，巖畫是碑刻的起源之一。

 隨著人類搬出洞穴、建造城市，石頭作為媒介出現(xiàn)了相當長的消沉期，取而代之的是甲骨和青銅器。但春秋戰(zhàn)國時期社會進一步發(fā)展，值得記載并流傳后世之事逐漸增多，新興貴族對彰顯功勛的熱衷也越發(fā)旺盛，這兩種載體因為數(shù)量有限而較為貴重不在適應記錄的需要，石頭因具有同樣的時間上的長久保存性而進入人們的視野，成為記事與頌德的新一代載體，人們開始“以石代金，同乎不朽也”發(fā)現(xiàn)于1974年的東周中山國河光刻石便是一例，其篆字書法古拙具有銘文的特點，體現(xiàn)了從青銅載體到石質載體的遷移；著名的石鼓也屬于這一時期的作品，記錄了東周時期秦國國君出行游獵之事，是現(xiàn)今發(fā)現(xiàn)的最早的帝王記事刻石。

  作為一個詞語的“碑”在春秋時期也已經存在，只不過其性質和功能迥異于后世。其一，時間的測度工具?！秲x禮·聘禮》記載“東面北上，上當碑南陳”對此鄭玄的注文中解釋道“宮必有碑，所以識日影，引陰陽也”，也就是說，碑豎立在宮廷院落之內，作為投射太陽的影子來推算時間的工具。其二，系牲畜的固定物?！抖Y記·祭義》記載“祭之日，君牽牲??既入廟門，麗于碑”（鄭玄注：麗猶系也），也就是說碑也被用作祭祀場合用來系綁犧牲用品的樁子。其三，墓穴四角牽引繩索的工具?！抖Y記·檀弓下》記載“公室視豐碑，三家視桓楹”，鄭玄的注釋解釋道“豐碑，斫大木為之，形如石碑，于槨前后四角豎之，穿中，于間為鹿盧（轆轤）也”，也就是說碑被用來牽引繩索，將棺槨下放到墓穴中。這種較大的最終被不易腐壞的石頭所取代并刻上死者生平，成為墓碑的雛形。

  在戰(zhàn)國末期及秦朝一代，現(xiàn)代意義上的“碑”開始形成。一方面，被稱為碑的豎石開始出現(xiàn)文字，具有了記事的效用；另一方面刻石的形制發(fā)生變化和發(fā)展，如泰山刻石“高三丈一尺，廣三尺（《晉太康地記》）”，瑯邪臺刻石“高一丈五尺，下寬六尺，中寬五尺??頂寬二尺三寸，厚二尺五寸（《山左金石志》”這表明秦石的刻石已經不同于直接在山崖石壁上雕刻，而是出現(xiàn)了人工雕磨的一定形制，是正在進化的碑。到了西漢，語用上的“碑”最終形成，這個詞匯開始被用于描述刻石，原本的意義逐漸失落了。