Комплекс аббатства святого Кесария расположен в юго-восточной части старого города, в квартале Отюр, в 200 м к югу от амфитеатра.
Это был женский монастырь, названный по имени своего основателя, святого епископа Кесария Арльского, заложившего монастырь в 6 веке — или его сестры Кесарии, ставшей первой настоятельницей монастыря. Тогда аббатство находилось снаружи городской стены, и вокруг были лишь дома пастухов и крестьян.
Четвертая настоятельница монастыря, Рестикула, умершая в 632 году, даже была канонизирована. Вероятно, с 7 по 9 века монастырь был покинут, а в конце 860-х годов архиепископ арльский Ростан вдохнул в него новую жизнь, получив на то разрешение Людовика II. В 6-13 века монастырь — крупный землевладелец региона, а в конце 15 века заслужил дурную славу из-за слишком легкомысленного поведения своих обитательниц. Годы ничего не меняли: уже в 1559 году игуменья Маргарита де Клермон потребовала от властей заложить проход между городской стеной и монастырем из-за частого вторжения молодых людей.
В период Французской революции монастырь был национализирован и продан частным владельцам. Именно тогда он был в значительной степени разрушен. В 1877 его остатки выкупила Конгрегация сестер Божьей матери и устроила в здании, восстановленном Августом Вераном, богадельню. В 1995 году здания оказались покинутыми.
От аббатства остались капелла святого Жана де Мустье (chapelle Saint-Jean-de-Moustier) (фото), церковь святого Власа (église Saint-Blaise) (фото) и гончарная мастерская 17 века. Во время археологических раскопок 2003 года были обнаружены другие части комплекса — в том числе самая древняя галльская церковь Арля. Церковь святого Власа — небольшое однонефное здание, скромный фасад которого украшает единственное готическое окно. Церковь святого Жана де Мустье построена в романском стиле в 12 веке и сохранилась лишь частично.