По своей архитектуре Иван Великий необычайно прост. Плоские пилястры на ребрах граней, скромные пояса-карнизы, кое-где усложненные плоским же аркатурным фризом, усиливают выразительность его форм. Пропорциональное построение столпа-башни придает ему определенную стройность, обличая руку опытного мастера.
Первоначально Иван Великий был на два яруса ниже. Его надстроили в 1600 году по приказу Бориса Годунова. Под главой поместили горделивую золоченую же надпись и ряд декоративных деталей в виде островерхих кокошников. Надстройка была, видимо, связана с огромным неосуществленным замыслом начала XVII века — проектом сооружения в Кремле на месте Успенского собора грандиозного храма Воскресения. Благодаря надстройке значение Ивана Великого в панораме города сильно возросло.
В 30-х годах XVI века к колокольне-башне пристроили с севера огромную звонницу. Затем в 1625 году была сделана новая пристройка, известная ныне под названием Филаретовской. Оба сооружения пострадали при взрыве, произведенном по приказу Наполеона с целью разрушения Кремля. Нынешний их вид — результат восстановительных работ XIX века. Но основная часть звонницы сохранила свои первоначальные формы, поражая монументальностью облика, великолепно найденным ритмом проемов для колоколов.