Церковь святого Сильвестра расположена на площади Piazza del Gesu, в 100 метрах к востоку от кафедрального собора. Первые письменные свидетельства о ней относятся к 1080 году, но, по всей видимости, она была построена задолго до этого времени.
Простой каменный фасад церкви завершается однопролетной звонницей с тремя колоколами, украшенной мраморными фризами. На скатах крыши установлены две скульптуры львов. Единственный портал венчает люнет с фреской «Мадонна с младенцем», над которым расположена монограмма святого Бернардина, ставшая также символом братства святейшего имени Христа, образованного в 1540 году, которому в 1643 году епископ Франческо Мария Бранкаччо даровал церковь святого Сильвестра.
В апсиде сохранились фрески 1540 года, выполненные неизвестным мастером: «Не прикасайся ко мне» в окружении святого Андрея и святого Сильвестра и «Бог-отец с ангелами» в конхе апсиды. В центре пресвитерия подвешено деревянное Распятие 17 века.
По сторонам от апсиды над дверьми, ведущими в ризницу, находятся две мемориальные доски, одна на латыни (из Хроники Матфея Вестминстерского), другая - на итальянском языке (из «Божественной комедии» Данте), сообщающие о жестоком убийстве, совершенном в церкви святого Сильвестра и прославившем ее. В 1271 году именно здесь Ги де Монфор убивает во время службы Генриха Корнуэльского, дабы отомстить за убийство отца, совершенное за много лет до этого его дядей, английским королем Генрихом III. При этом эпизоде присутствовали также король Франции Филипп III и Карл Анжуйский.
