Памятник представляет сложное прямоугольное здание, состоящее из четырех помещений, расположенных анфиладой с запада на восток. Помещения построены в разное время. Самое древнее из нних перекрыто коническим куполом. Постройку этой части, по преданию, приписывают Арсланхану, при котором был возведен и минарет Калян.
Внутри мазара до сих пор сохранился источник холодной воды. Народная легенда связывает памятник с именем библейского святого Иова. В легенде рассказывается, что в те времена, когда еще не было города Бухары, в эти места прибыл библейский пророк Иов. Год был засушливый, и жители умирали от жажды. Они обратились к «святому» за помощью. Иов ударил своим посохом о землю, и из нее забил ключ холодной воды. Отсюда и название памятника - Чашма-Аюб, что означает «источник Иова» (чашма - источник).
Памятник стоит у глубокой балки, где еще недавно протекал большой родник. Родник этот связан с колодцем мазара.
К древнему (западному) помещению были пристроены в XIV в. два новых. Над входом в древнее сооружение висела плита, на которой было написано, что здание построил сам Тимур. Во второй половине XVI века пристраивается последнее, четвертое, помещение в виде низкого портала с двумя фланкирующими полубашнями. Все четыре помещения увенчаны куполами, из которых ни один не повторяет другого. Сооружение оригинально и своеобразно с внешней стороны, в особенности, если смотреть на него с севера или с юга.