Гороховая улица ведет свою историю еще с двадцатых годов XVIII века. В то время в строящейся столице проложили две новые дороги – Большая (ныне Невский проспект) и Вознесенская (Вознесенский проспект) «першпективы». Между ними возникла еще одна дорога, которую сначала называли Средней «першпективой». Несколько раз она меняла название, и к середине XVIII века начала именоваться Адмиралтейской. Именно эта дорога и стала прообразом Гороховой улицы.
История названия Гороховой улицы связана с 1756 годом, когда на этой улице появляется торговая лавка купца Горохова. Будучи молодым, он приехал из Германии в Петербург на службу к Петру I. Тогда он носил фамилию – Гаррах, в России же его фамилию изменили на русский манер – Горох. Когда купец открыл свою лавку на Адмиралтейской улице, он уже приобрел и официальную «русскую» фамилию – Горохов. Вскоре торговая лавка начала пользоваться большой популярностью, и в народе улицу стали именовать по фамилии владельца этого заведения. С конца XVIII века на многих картах Петербурга наряду с официальным названием улицы, упоминается и новое неофициальное.
Один из самых интересных домов на Гороховой улице является дом под номером 2, который был построен по проекту архитектора Джакомо Кваренги в 1801 году. Первоначально здесь работало Губернское присутствие, затем – Отделение по охране общественной безопасности и порядка. В начале XX века здесь отбывал двухнедельный срок тогда еще молодой революционер В. Ульянов.
После революции в доме № 2 по Гороховой улице разместилась Всероссийская чрезвычайная комиссия (ВЧК), руководил которой Ф. Дзержинский. Сейчас здесь находится филиал Государственного музея политической истории России. Сама гороховая улица после революции получила название Комиссарской, а позже ее переименовали в Дзержинскую улицу.
В начале 90-х годов улицу вновь переименовали, возвратив ей историческое название.