Аббатство было основано в 5 веке святым Германом Осерским (ум. 448). Герман, родившийся в богатой семье, стал одним из первых епископов Осера. На землях, принадлежащих его семье, он построил небольшую часовню для погребения мощей святого Маврикия (Saint-Maurice). В этой же часовне Герман приказал похоронить себя.
В начале 6 века франкская королева Клотильда, жена Хлодвига, будучи уроженкой Бургундии и католичкой (в то время как многие варварские королевства того времени исповедовали арианскую ересь), решила возвысить на своей родине культ католического святого, и повелела построить на месте часовни базилику, большую по размеру и богато украшенную. На месте современного аббатства археологами были найдены следы западной части этой базилики.
В 9 веке при Каролингах базилика Германа становится церковью монастырского сообщества под королевским протекторатом. Франкский король Карл Лысый неоднократно посещает могилу святого Германа, дарует аббатству множество реликвий и привилегий. Дядя короля – Конрад – начинает строительство новой крипты. В это же время была написана поучительная повесть о жизни и чудесах святого Германа, благодаря которой значимость аббатства еще возросла. Эта эпоха стала апогеем аббатства.
В 11 - 14 веках территория аббатства заметно расширяется и застраивается, все более приобретая современный вид.
С наступлением нового времени для аббатства наступили тяжелые времена. Его влияние и богатство постепенно утрачиваются. Во время Революции аббатство было национализировано. В его помещениях располагался госпиталь, некоторое время они просто пустовали. С 1984 года здание аббатства перешло в собственность города и сейчас оно открыто для посещения, там располагается музей.
Помещения аббатства сейчас в значительной степени отреставрированы. В восточном и северном крыле доступны для посещения помещения, сохранившиеся с 12 века.
Очень интересна аббатская церковь с древними криптами, романской башней святого Иоанна и готическими хорами.