Au III^ème siècle, Saint Nicaise fut envoyé à Rouen par Saint Denis pour en être le premier évêque. Nicaise ne vit cependant jamais la capitale normande : lors de son voyage il fut en effet attaqué et décapité ! La légende raconte qu'il porta sa tête jusque sur une ile de la Seine, près de Gasny, où il fut enterré... Une statue, sur la façade occidentale de la Cathédrale, le représente portant ainsi sa calotte crânienne.

Fondée au VII^ème siècle par Saint-Ouen qui y plaça les reliques de son prédécesseur Saint Nicaise, cette église ne devint paroissiale qu'en 1388.

En 1518, une tempête renversa le clocher central, qui endommagea gravement l'édifice. Le cœur fut rebâti dans des proportions plus importantes que l'ancien. Malheureusement, faute de budget, les travaux de reconstruction furent stoppés en 1588, et la nef et le transept demeurèrent quelques mètres moins haut que le cœur ! Inspirés, les rouennais prirent l'habitude de dire des gens qui ont plus de vanité que d'argent, qu'"ils sont comme les paroissiens de Saint Nicaise, ils ont le cœur plus haut que la bourse..."

Dans la nuit du 9 au 10 mars 1934, l'église fut presque entièrement ravagée par un incendie.

Les travaux de reconstruction furent entrepris dès 1935 par les architectes Pierre Chirol et Emile Gaillard. Le béton utilisé lors de cette reconstruction résiste malheureusement très mal à l'outrage du temps et l'édifice est depuis 2002 fermé pour des raisons de sécurité.