Амфитеатр был построен проконсулом Гордианом, будущим императором. незадолго до 238 года. Вероятно, использовался в основном для гладиаторских боёв и гонок на колесницах. До XVII века оставался нетронутым, затем его камни были использованы для строительства города Эль-Джем, а также транспортированы в Кайруан для строительства Соборной мечети. С 1979 года амфитеатр включён в список Всемирного наследия ЮНЕСКО.
Его строительство было начато в 232 году Марком Аврелием Гордианом – проконсулом провинции Африка, который в последствии провозгласил себя независимым императором, а Африку независимой от Рима. Но независимым императором он пробыл всего 36 дней, и строительство амфитеатра было прервано в связи с восстанием и больше не возобновлялось. Восстание было жестоко подавлено римской армией.
Во время представлений в нем могло бы помещаться 37 000 зрителей.
Хотя знаменитый римский Амфитеатр Флавиев (Колизей) вмещает в полтора раза больше зрителей, для Африки размеры амфитеатра в Эль-Джеме более чем внушительны – 138 м в длину и 114 м в ширину. Этот Амфитеатр самый крупный в Африке.
Ежегодно с июля по август здесь проходят концерты классической музыки.