Храм целестинцев находится на площади Святых Мощей (Place des Corps Saints), где в конце 14 века было захоронено тело блаженного Петра Люксембургского. Прослышав о чудотворной силе его праха, послушники ордена целестинцев решили основать здесь свой монастырь. Для начала они отметили могилу святого небольшой деревянной часовней.
Строительство церкви, начатое лионским архитектором Пьером Марселем в 1396 году, продолжалось весь 15 век; часовня святого Бенезета, одна из самых пышных в свое время, была возведена позже благодаря усилиям Жана Перю, творившему в духе барокко. В этом же стиле был выполнен и алтарь, украсивший целестинскую обитель в 1625 году.
То немногое, что удалось спасти, сегодня разбросано по разным церквам и церквушкам. Мощи святого Бенезета – того самого, который построил легендарный мост, – были перенесены в Церковь святого Адеодата, а три статуи, изображающие его добродетели, сегодня можно видеть в кафедральном соборе Авиньона.
В наши дни на территории монастырского подворья проходят выставки и отдельные спектакли театрального фестиваля.