海洋占据了地球面积超过一半以上，蒸汽时代到来以前，人类用没有自主动力的木质风帆帆船航行于海上，这一做法维持了近千年，人类几乎从没有在海洋的自然力量面前获得过优势。直到蒸汽技术被发明且广泛应用，人类终于能够让舰船不必依靠自然风进行长途的航行，当然也包括长途的作战。防护和火力是任何装备都追求的参数，军舰的防护由于动力的原因，一直不能大范围使用金属装甲增强防护，后来蒸汽动力改变了这个情况。十九世纪中期，一些海军大国开始尝试将装甲安装在吃水线区域，这个区域是最容易遭到敌方攻击的位置。因为使用了装甲，这种探索性的舰船被称为装甲巡洋舰，armoredcruiser在当时的中国有时也翻译成铁甲巡洋舰，非常直白。
装甲巡洋舰比起普通的巡洋舰并没有什么很大改进，就是单纯增加了吃水线上的装甲，其他的性能比起普通巡洋舰并没有什么长进。不过在当时的大海上，这种战舰就是主力战舰了，因为确实还没有什么更强的舰船设计可以被实现。为了战争，人类总会进步，一战的时候，世界已经几乎完全进入了铁甲舰时代，英国人用一些轻型巡洋舰改造出了四条“加强型轻巡洋舰”，这种吨位接近一万吨，装备7.5英寸主炮的舰船被认为是最早意义上的重巡洋舰。很快海军假日到来，华盛顿海军条约限定了巡洋舰不可以超过一万吨，主炮不可以大于毫米，而伦敦海军条约更明确限定配备毫米以上主炮才算重巡洋舰。
由于巡洋舰本身的定位就是具备远洋航行，独立作战行动能力的舰种，所以其中性能最为优秀的重巡洋舰在海军里就是仅次于战列舰的的存在，比起上世纪的装甲巡洋舰更是在各方面性能上全面超越。二战时重巡洋舰在海上作战中发挥了重要的作用，但随着大舰巨炮时代的结束，重巡洋舰也开始往现代化巡洋舰转变，很多无法继续适应时代发展的老船要么退役成为纪念馆，要么成为了武器试验用的靶船。