生物体上的硬组织也能被保存下来。差不多所有的植物和动物都拥有一些硬部分，例如蛤、蚝或蜗牛；脊椎动物的牙和骨头；蟹的外壳和能够变成化石的植物的木质组织。生物体的坚硬部分由于是以能抵抗风化作用和化学作用的物质构成的，所以这类化石分布的较普遍。无脊椎动物例如蛤、蜗牛和珊瑚等的壳是由方解石（碳酸钙）组成的，其中很多没有或几乎没有发生物理变化而被保存下来。
脊椎动物的骨头和牙以及许多无脊椎动物的外甲含有磷酸钙，因为这种化合物抵抗风化作用的能力非常强，所以许多由磷酸盐组成的物质也能保存下来，如曾发现一枚保存极好的鱼牙。由硅质（二氧化硅）组成的骨骼也具有这种性质。微体古生物化石的硅质部分和某些海绵通过硅化而变成化石。另一些有机物具有几丁质（一种类似于指甲的物质）的外甲，节足动物和其它有机物的几丁质外甲可以成为化石，由于 它的化学成分和埋葬的方式，使这种物质以碳的薄膜的形式而保存下来。
碳化作用（或蒸馏作用）是生物埋葬之后在缓慢腐烂的过程中发生的，在分解过程中，有机物逐渐失去所含有的气体和液体成分，仅留下碳质薄膜。这种碳化作用和煤的形成过程相同。在许多煤层中可以看到大量的碳化植物化石。在许多地方，植物、鱼和无脊椎动物就是以这种方式保存下它们的化石。有些碳的薄膜精确地记录了这些生物的最精细的结构。
化石还可以通过矿化作用和石化作用而保存下来。
当含矿化的地下水把矿物沉淀于生物体的坚硬部分所在的空间时，使得生物的坚硬部分变得更坚硬、抵抗风化作用的能力更强。较普通的矿物有方解石、二氧化硅和各种铁的化合物。所谓置换作用或矿化作用是生物体的坚硬部分被地下水溶解，与此同时其它物质在所空出来的位置上沉淀下来的过程。有些置换形成的化石的原始结构被置换的矿物所破坏。
不仅动植物的遗体能形成化石，而且表明它们曾经存在过的证据或踪迹也都能形成化石。痕迹化石能提供有关该生物特点的相当多的情况。很多壳、骨、叶以及生物的其它部分，都能以阳模和阴模的形式保存下来。如果一个贝壳在沉积物硬化成岩之前就被压入海底，它的外表特征就会留下压印（阴模）。如果阴模后来又被另外一种物质充填，就形成阳模。阳模能显示出贝壳本来的外部特征。外部阴模显示的是生物体硬部分的外部特征，内部阴模显示的是生物体坚硬部分的内部特征。
