La collégiale est édifiée au 16e siècle, dans un style hybride gothique-Renaissance, à l'emplacement d'une ancienne collégiale Notre-Dame dont elle hérite le nom et le statut jusqu'en 1790.
Les plans de la nouvelle collégiale sont tracés dès 1483, mais il faut attendre plus de dix ans avant d'amasser les fonds nécessaires à leur concrétisation. Le 17 décembre 1508, le Conseil de Ville et des habitants se réunissent dans la grande salle du Parlement, et décident la fondation d'une commission, de neuf personnes, pour diriger les travaux et collecter de nouveaux fonds en concédant des chapelles avec des privilèges connexes. L'édifice est consacrée en 1571, par Mgr Claude de La Baume, archevêque de Besançon.
À la Révolution, la collégiale sert brièvement d'entrepôt, avant d'être convertie en Temple de la Raison, en 1793, puis de l'Être suprême, en 1794, pour redevenir une église catholique romaine en 1802.
En 1991, la Sainte-Chapelle est rénovée, puis l'extérieur de la collégiale en 1995, et l'intérieur de 2006 à 2009, sous la direction de l'architecte Paul Bernoud.
Scènes relatives à la vie de Marie : La Rencontre à la Porte dorée, Présentation de Marie au Temple, l'Éducation de la Vierge
Vitrail des ateliers Gsell-Laurent, fin du 19e siècle.