Первый деревянный разводной мост через Мойку в створе Невского проспекта был построен в 1717-1718 годах. В 1735 году мост был выкрашен в зелёный цвет, благодаря чему получил своё первое название - Зелёный. Подобные "цветные" названия получили тогда и другие мосты через Мойку: жёлтый, синий и красный.
В 1770-х годах мост получил другое название - Полицейский, по находящемуся рядом дому генерал-полицмейстера Чичерина. В конце XVIII века переправа была перестроена, стала иметь три деревянных пролёта балочной системы на каменных опорах.
В 1842 году в связи с возросшей интенсивностью движения на этом участке Невского проспекта Полицейский мост по проекту инженера А. Д. Готмана был расширен. К нему пристыковали тротуары, приклеплённые к общей конструкции консолями. При этом здесь были установлены глухие гранитные парапеты, а гранитные обелиски заменили более лёгкими чугунными фонарными столбами.
В 1844 году здесь впервые в Санкт-Петербурге было уложено асфальтовое покрытие. Технология тогда отличалась от современной, на проезжую часть укладывали заранее отлитые асфальтовые блоки. Газета "Северная Пчела" писала:
«Асфальт, вылитый в кубическую форму, выдерживает самую жестокую пробу, потому что едва ли где бывает более езды, как по Полицейскому мосту».
В XIX веке по обе стороны от переправы стояли полицейские будки, на всех углах были установлены фонари.
В 1904 году в связи с прокладкой на проспекте трамвайных путей снова появляется необходимость в реконструкции моста. На этот раз здесь увеличили число чугунных коробов мостового перекрытия. Проект этой реконструкции был составлен инженерами В. А. Берсом, А. Л. Становым и А. П. Пшеницким. Внешний облик Полицейского моста был переработан архитектором Л. А. Ильиным. Фасадные арки моста были украшены орнаментом, фонарные столбы заменены позолоченными канделябрами.
9 января 1905 года, в день, ставший известным как "кровавое воскресенье", на Полицейском мосту были выстроены войска, расстреливавшие шедших к Зимнему дворцу демонстрантов.
После 1917 года фонари с моста были сняты, мост получил новое название - "Народный". В 1938 году вся проезжая часть и тротуары были заасфальтированы. В 1951 году были восстановлены утраченные к тому времени шестигранные фонари. Очередные реставрации Народного моста проходили в 1961 и 1967 годах.
В ноябре 1997 года мосту было возвращено историческое название - Зелёный.