Au IIIème siècle, Saint Nicaise fut envoyé à Rouen par Saint Denis pour en être le premier evêque. Nicaise ne vit cependant jamais la capitale normande : lors de son voyage il fut en effet attaqué et décapité ! La légende raconte qu'il porta sa tête jusque sur une ile de la Seine, près de Gasny, où il fut enterré... Une statue, sur la facade occidentale de la Cathédrale, le représente portant ainsi sa calotte crânienne.
Fondée au VIIème siècle par Saint-Ouen qui y plaça les reliques de son prédécesseur Saint Nicaise, cette église ne devint paroissiale qu'en 1388.
En 1518, une tempête renversa le clocher central, qui endommaga grâvement l'édifice. Le coeur fut rebâti dans des proportions plus importantes que l'ancien. Malheureusement, faute de budget, les travaux de reconstruction furent stoppés en 1588, et la nef et le transepte demeurèrent quelques mètres moins haut que le coeur ! Inspirés, les rouennais prirent l'habitude de dire des gens qui ont plus de vanité que d'argent, qu'"ils sont comme les paroissiens de Saint Nicaise, ils ont le coeur plus haut que la bourse..."
Dans la nuit du 9 au 10 mars 1934, l'église fut presque entièrement ravagée par un incendie.
Les travaux de reconstruction furent entrepris dès 1935 par les architectes Pierre Chirol et Emile Gaillard. Le béton utilisé lors de cette reconstruction résiste malheureusement très mal à l'outrage du temps et l'édifice est depuis 2002 fermé pour des raisons de securité.