De vroeggotische Jacobikerk is de derde kerk op deze plaats.
Van de eerste oude romaanse Jacobikerk, waarvan voor het eerst melding wordt gemaakt in 1173 is niets overgebleven.
Van de tweede romaanse kerk uit het begin van de dertiende eeuw zijn nog delen zichtbaar in de onderbouw van de toren en in de westelijke pijlers van het schip.
Eind dertiende eeuw werd met de bouw van de huidige kerk begonnen. Het was een van de parochiekerken van Utrecht (Utrecht kende vijf kapittelkerken en een aantal parochiekerken).
De Sint-Jacobusbroederschap kreeg in deze kerk een eigen altaar/kapel. Leden van de broederschap werden in deze kerk begraven en op hun grafsteen werd een Sint-Jacobsschelp afgebeeld.
In 1586 werd de kerk overgedragen aan de protestanten.