Большая Морская улица, как и Малая Морская, возникла с самого начала существования Санкт-Петербурга в 1703 году. Это были дороги Морских слобод у Адмиралтейства. На улицах селились моряки, работники Адмиралтейства, так что названия "Морская" улицы получили практически сразу же. Часть Большой Морской от Невского проспекта до Кирпичного переулка в XVIII веке была частью Миллионной улицы. В начале XVIII века здесь раздавались участки вдоль реки Мьи (Мойки). Её изгиб определил направление будущей Большой Морской улицы. До пожаров 1730х годов участок улицы за Исаакиевской площадью не выходил к Мойке, трасса шла правее.
В 1719 году архитектору Н. Ф. Гербелю было поручено выправить хаотичную застройку Морской слободы и проложить здесь новые улицы. Кроме того его обязали завершить строительство Мытного двора, неоконченного скончавшимся Г. И. Маттарнови. Так возникло существующее направление Большой Морской улицы. Новая трасса стала одной из дуговых магистралей, пересекающих три луча, расходящихся от Адмиралтейства: Невский и Вознесенский проспекты, Гороховую улицу. Для её прокладки сломали 21 двор. Здание Мытного двора было построено на месте существующих сейчас домов №14 и 16. Оно было двухэтажным, с башенкой посередине со стороны Мойки. Торговали здесь не только продуктами, но и дорогими товарами, двор вскоре стали называть Гостиным. Это вызывало недовольство купцов торгующих в Гостином дворе на Петербургской стороне, Мытный двор отбирал у них клиентов. В 1721 году напротив Мытного двора были высажены клёны, огороженые для "сбережения" от скота. При Екатерине I площадь перед двором была вымощена камнем, здесь было выделено место для казней.
В 1736 и 1737 годах пожары уничтожили практически всю первоначальную застройку этого района. Сгорел и Мытный двор, который не стали восстанавливать. К тому времени на Адмиралтейскую сторону переместился центр города, рынок здесь оказался неуместным. На его месте было решено построить новый каменный Гостиный двор, Большую Морскую улицу переименовали в Большую Гостиную. Однако Гостиный двор здесь так и не был построен, новое название не прижилось. Торговое заведение в этом районе всёже было открыто, но на другом участке - на месте современного дома №42 в 1741 году были выстроены торговые ряды.
Вновь созданная "Комиссия о Санкт-Петербургском строении" принялась за создание регулярной планировки города. В состав комиссии вошли архитекторы П. М. Еропкин и М. Г. Земцов. После составления плана пострадавших от пожаров мест и составления реестра оставшихся строений был издан особый указ о застройке района впредь только каменными домами. Дома на Большой Морской улице строились строго по планам комиссии - все в два этажа на высоких подвалах.
После пожаров 1736-1737 годов от пристаней на Мойке перпендикулярно Большой Морской улице проложили ряд переулков. По ним к стройкам подвозили материалы. У одного из новых переулков находились склады кирпича, отчего его и назвали Кирпичным. Другой некоторое время спустя стал называться Почтамтским, третий же получил функциональное имя - Выгрузной. Первые два переулка сохранились до наших дней, третий перестал существовать после перепланировки Исаакиевской площади.
В 1740х годах было построено первое каменное здание на участке дома №27. В 1742-1745 годах на участке дома №25 было построено здание для немецкого театра.
В 1754 году по проекту Ф. Б. Растрелли был построен деревянный одноэтажный временный Зимний дворец для императрицы Елизаветы Петровны. Он был построен для размещения здесь императорского двора на время реконструкции Зимнего дворца. Здание временного дворца заняло территорию двух современных кварталов, оно перегородило проезд по Большой Морской улице со стороны Невского проспекта.
В 1750-1760х годах построена усадьба М. В. Ломоносова (дом №61). В 1760х годах в доме №36 жил архитектор Ж. Б. Валлен-Деламот.
В 1767 году был разобран временный Зимний дворец. После этого Большая Морская улица вновь получила выход на Невский проспект.
Нечётная сторона Большой Морской улицы от Дворцовой площади до Невского проспекта стала застраиваться в 1760х годах. План застройки этого участка разрабатывала Комиссия о каменном строении Петербурга, над архитектурой частью плана работал А. В. Квасов.
Во второй половине XVIII века часть Большой Морской за Исаакиевской площадью называли Малой Морской улицей, а современную Малую Морскую - Новоисаакиевской.
В 1803-1809 годах построен дом №9. В 1810х годах был построен дом №14 - боковой корпус дома Чичерина. В 1820х годах при реконструкции Дворцовой площади дома в начальной части улицы были снесены. На их месте Росси были спроектированы новые корпуса здания Главного Штаба. Участок Миллионной от арки здания Главного Штаба до Невского проспекта был присоединён к Большой Морской улице.
В 1824 году в доме №17 жил генерал-лейтенант Августин Августинович Бетанкур.
В 1830 году перед домом генерал-губернатора (дом №38) впервые в Санкт-Петербурге мостовую замостили деревянными торцами. Автором идеи выступил инженер В. П. Гурьев. В 1834 году участки объединили общей нумерацией домов.
В связи с реконструкцией Дворцовой площади начальный участок улицы изменил своё направление. Его перестроили так, чтобы он через арку выходил строго на центр Зимнего дворца. Начало Большой Морской улицы стало проходить строго с севера на юг, почти по Пулковскому меридиану. В полдень здесь можно ставить часы по собственной тени, это своеобразные городские солнечные часы.
В 1835 году перестроен дом №52. В 1836 году О. Монферраном для семьи Демидовых были перестроены дома №43 и №45, здания приобрели существующий сейчас облик. В 1837-1838 годах Полем Жако был построен дом №11. В 1838 году на участке дома №18 был выстроен пятиэтажный жилой дом. В это же время перестраивался дом №25. С 1830х годов до 1917 года дом №20 принадлежал Министерству иностранных дел. В 1844-1853 годах для Министерства государственных имуществ был построен дом №42, для министра этого министерства - дом №44.
В 1848-1850х годах приобрёл существующий облик дом №29. В 1849 году был построен дом №67. Одновременно с ним строился корпус Морских казарм вдоль Мойки (дом №69). В 1850-1856 годах построен дом №16. В 1850х годах для мебельного фабриканта Карла Андреевича Тура перестраивался дом №21, именно тогда это здание приобрело существующий сейчас облик.
По мере роста города район становится всё более дорогим, элитным, на Большой Морской улице селятся банкиры, купцы, другие богатые люди. Один за другим здесь открываются ювелирные мастерские и другие магазины, где можно было приобрести предметы роскоши. Так вскоре улица приобрела неофициальное название - Бриллиантовая.
В 1862-1865 годах на месте дома №58 была построена Немецко-Реформаторская церковь. В 1865 году после очередной перестройки приобрёл существующий облик дом №23. В 1872 году приобрёл существующий облик дом №31. В 1870х годах последний раз происходила коренная перестройка усадьбы М. В. Ломоносова (дом №61).
Улица также выделяется тем, что именно на ней впервые применялись технические новшества. Так именно здесь в 1835 году появились первые газовые фонари, затем в 1884 году и электрические. Электрические лампы получали питание от электростанции, смонтированной на барже, стоявшей на Мойке ниже Полицейского моста. На фасаде дома №2 по настоянию Д. И. Менделеева были установлены первые в городе электрические часы.
В 1887 году в городе перенумеровывались некоторые улицы. Среди них оказалась и Большая Морская. Именно тогда участок выходящий к набережной Мойки вошёл в состав нумерации Большой Морской улицы. В 1887-1888 годах построен дом №32 - одно из первых специализированных банковских зданий в городе. В 1890-1893 годах для Императорского Общества поощрения художеств был реконструирован дом №38. В 1898-1899 годах по проекту Леонтия Николаевича Бенуа для страхового общества "Россия" Был построен дом №37. В 1899-1900 годах для фирмы Фаберже был построен дом №24, для 1-го Российского страхового общества - дом №40. В 1901-1902 годах велась перестройка особняка Набоковых (дом № 47), здание приобрело существующий облик. Название улицы в 1902 году изменяют, называют её просто Морской.
В 1903-1904 годах для Центральной телефонной станции было построено специальное здание - дом №22. В 1905-1907 годах для страхового общества "Россия" был построен дом №35. В 1908-1913 годах строился дом №3-5 для Азовско-Донского банка. В 1912-1914 годах для Русского торгово-промышленного банка строился дом №15. В 1915 году на участке дома №18 началось строительство нового здания для Русского для внешней торговли банка. Достроено оно было лишь в 1930-1931 годах.
В 1918 году Морскую улицу официально называют улицей Герцена, который жил здесь в доме №25 в 1839-1841 годах. В 1924-1925 годах в доме №49 жил О. Э. Мандельштам со своей женой. В 1929 году здание Немецко-Реформаторской церкви было перестроено в Дом культуры и техники работников связи (дом №58).
В 1934 году заканчивают строительство дома №8. В доме №1 открылось кафе, где впервые в городе начали продавать напиток "Кола". Сейчас этот напиток известен под названием "Кока-Кола".
В 1993 году Большой Морской улице вернули историческое название. В настоящее время улица является "культурным центром" Санкт-Петербурга. Здесь располагаются Союз Писателей, Союз Художников и Союз Композиторов.
