化石的形成有很多种方式，取决于遗骸的类型和当时的环境状况。总的来说，大多数化石的形成过程基本相同：动物的坚硬部分，例如骨骼、牙齿、贝壳及植物的种子、木质部分被沙子、泥之类的沉淀物掩埋，经过数百万年，随着一层层沉淀物的积累，这些遗骸在土壤中埋藏得越来越深。沉淀物最终变成岩石，而遗骸通过化学作用被矿化，成为一种石头的形态（这些化石种类经常被认为是博物馆中所看到的再造恐龙骨架）。同样的过程也产生了木化石、粪化石（石化的排泄物）、印模化石、石膏化石、铸型化石、遗迹化石。

大多数化石发现于沉积岩中——沙子、泥之类的沉积物逐渐积累而形成了这些岩石。风和其他气象状态冲走了陆地上的沉积物，将沉积物带到水体中。因此，海洋生物化石比陆地生物化石更常见。陆生动植物化石大多被保存在风平浪静的湖泊、河流或河口的沉积物当中。

化石也包含着未改变的原始材料。骨骼、牙齿通常以这种方式留存。然而，完全矿化（也可叫作石化）更易发生，循环的地下水携带的二氧化硅和碳酸钙（有时也可能是黄铁矿之类的其他矿物）填满了骨骼和牙齿的孔隙。这些遗骸本质上是原始骨骼和有机材料的复制品。