В середине VI в. здесь был похоронен проповедник христианства парижский епископ Жермен, причисленный к лику святых. С этим связано возникновение здесь аббатства и церкви. Расположение церкви отразилось на ее названии («де пре» значит «в лугах»). Здесь, как и в аббатстве Сен-Дени, похоронены французские короли. Существующие могилы служат местом упокоения представителей династии Меровингов.
Дошедшее до наших дней здание церкви было возведено в период между XI и XII вв, по крайней мере четыре раза за сорок лет ее разрушали и грабили норманны, но каждый раз она возрождалась в строгих линиях романской архитектуры. В ее облике ясно проступают характерные черты романского стиля, вобравшего в себя как раннесредневековые европейские, так и византийские традиции.
Поскольку это была монастырская церковь, она невелика: длина - 65 метров, ширина - всего 21 м. Высота церкви - 19 метров, однако визуально она кажется выше.
В истории церкви немало величественных и трагичных страниц.
В XIV-XV веках аббатство играло важную роль в истории не только Парижа, но и Франции. Усилиями монахов было созданы водоотводные каналы на Сене; король Луи XI лично покровительствовал созданию ярмарки близ Сен-Жермен. Веком позже Сен-Жермен начинает превращаться в крупный научно-образовательный центр: монахи собирают огромную библиотеку, здесь трудится множество богословов, историков, философов.
Во время революции в Сен-Жерменском аббатстве организовали производство химикатов; оно действовал всего 8 лет (с 1794 по 1802 год), однако нанес существенный урон интерьеру церкви и территории аббатства в целом. В пожаре 1794 года погибла значительная часть библиотеки, в том числе несколько тысяч древних свитков и рукописей. Большую часть аббатства снесли; территорию вскоре застроили обычными домами.
Вот как описывает кварталы близ Сен-Жермен первой половины XIX века Альфонс Доде:
Мы долго, долго шли по темным, бесконечным улицам... Наконец Жак остановился на небольшой площади около какой-то церкви.
- Вот мы и в Сен-Жермене-де-Пре, -- сказал он мне. -- Наша комната наверху.
- Как, Жак! На колокольне?..
- Да, на самой колокольне. Это очень удобно. Всегда знаешь, который час!
Жак немного преувеличивал. Он жил в доме рядом с церковью, в маленькой мансарде, в пятом или шестом этаже; окно его комнатки выходило на сен-жерменскую колокольню и находилось на одном уровне с циферблатом башенных часов.
Фасад церкви хранит остатки портала XII в., частично скрытые портиком XVII века. Колокольня церкви чисто романского стиля, с тяжелыми углами укрепленными мощными контрфорсами, сохранилась целиком. Резные капители колонн XI-XII века заменены копиями (подлинники хранятся в Музее Клюни).
Внутреннее оформление церкви также сочетает в себе черты разных стилей - романского и раннеготического стилей. Интерьер включает три нефа, небольшие часовни и трансепт, переделанный в XVII веке. Большая часть современного убранства (включая фрески, витражи и статуи) создана в XIX веке. В церкви есть небольшая скульптура, изображающая Жана Ипполита Фландрена (1809-1864) - французского художника, занимавшегося как раз оформлением церкви в середине XIX века. На его счету несколько подобных работ (помимо прочего он расписывал базилику святого Павла в Ниме и церковь Сен-Венсен-де-Поль в Париже), однако вершиной его творчества считается именно оформление Сен-Жермен-де-Пре.