现知最早的鱼类化石,发现于距今约5亿年前的寒武纪晚期地层中,但只是一些零散的鳞片,未能解释一个有关鱼类身态的轮廓。到距今4亿年至3亿5千万年前的志留纪晚期和泥盆纪时,才有大量鱼化石被发现。这些鱼化石,有的在构造特征上彼此已很不一样,说明当时已有多类鱼类存在。最早出现的鱼类是无颌鱼,它们没有上、下颌,只有一个漏斗式的口位于身体前端,现在的鱼就是由这种无颌鱼进化来的。