不同地质时代的灰岩含有不同的化石及化石组合.不同环境成因的灰岩含有不同的化石及化石组合.世界上绝大多数灰岩都是海相灰岩,即在浅海环境下沉积而成,少数为淡水灰岩,多为湖湘.
常见的化石有三叶虫、蜓类、腕足类、牙形石（肉眼不可见）、海百合、角石、珊瑚等等（还有很多）.