Мечеть, построенна в 1910 году силами татарской общины. Является памятником архитектуры.
16 мая 2007 года стал для мусульман края началом возрождения исламской святыни. В этот день посетив Ярославскую соборную мечеть, молодой президент Чечни Рамзан Кадыров со свойственной ему решительностью заявил: «Мы должны сделать все для того, чтобы эта мечеть отвечала всем требованиям и канонам Ислама и могла вмещать всех, кто готов преклонить колени перед Всевышним». Увидев ограниченные возможности уммы и скромные попытки сделать косметический ремонт обветшалой, единственной в городе мечети, Рамзан Кадыров взял на себя полное финансирование строительных работ.
К самому началу реконструкции в Ярославль приехал новый имам Рамзан Рашидов - серьезный, образованный, умный, целеустремленный молодой человек. До этого с 2003 года он уже занимал должность заместителя имама в своем родовом селе Нуродилово близ Хасавюрта. Учитель начальных классов по первому образованию получил дипломы Буйнакского исламского института, Сирийского института Фуркан и Египетского университета Аль-Азхар. Прекрасно владеет русским, чеченским и арабским языками. Задачу для себя в качестве имама Ярославской соборной мечети Рамзан Рашидов уже определил: «Основной нашей целью является помочь людям духовно обогатить себя.
В 2008—2009 годах на средства Фонда имени Ахмата Кадырова (потрачено около 39 млн рублей) была проведена реконструкция здания: укрепили фундамент, заново выстроили стены, увеличили площадь почти в полтора раза, появились библиотека, зал для совещаний. Мечети была выделена дополнительная территория, на которой размещены несколько зданий, в том числе «арабская галерея» и медресе.
