Hayır, fosiller yalnızca kayaçlar içinde yer almaz; ancak büyük çoğunluğu tortul kayaçlarda bulunur.
Fosiller, geçmişte yaşamış organizmaların kalıntıları ya da izleridir ve genellikle tortul kayaçlar içinde korunurlar. Bu kayaçlar, çamur, kil, kum gibi tortuların zamanla sıkışmasıyla oluşur ve canlı kalıntılarını içinde hapseder. Fosil oluşumu için uygun basınç, sıcaklık ve oksijensiz ortam gibi özel koşullar gerektiğinden, tortul kayaçlar bu açıdan en elverişli ortamı sağlar.
Ancak nadir de olsa fosiller, volkanik küller arasında, asfalt gölleri, buzullar, bataklıklar, turba tabakaları veya amber (ağaç reçinesi) içinde de bulunabilir. Özellikle böcekler ve küçük canlılar, amber içinde çok iyi korunmuş şekilde fosilleşebilir. Bu nedenle fosillerin yalnızca kayaçlar içinde yer aldığını söylemek bilimsel olarak doğru değildir, ama jeolojik fosil kayıtlarının ezici çoğunluğu tortul kayaçlardan elde edilir.