Первая переправа через канал Грибоедова в створе современного переулка Гривцова была построена в начале XVIII века. Тогда это был деревянный мост, через который проходила дорога в Саарскую Мызу (ныне Царское Село). Благодаря этому мост назывался Малым Саарским. В 1776 году деревянный мост реконструировался.
В 1834-1835 годах по проекту инженеров Е. А. Адама и П. П. Базена на этом месте был построен новый металлический мост. По предложению министра финансов Е. Ф. Канкрина он был назван Банковским, так как рядом располагалось здание Заёмного банка. Однако это название не прижилось. Ранее уже был построен Банковский мост напротив здания Ассигнационного банка. Эту же переправу петербуржцы называли Демидовым мостом. Этому способствовал близлежащий обширный участок земли, принадлежавший горнозаводчикам Демидовым. Через участок проходил Демидов переулок (ныне переулок Гривцова), в створе которого и находился мост. Впоследствии это название стало официальным.