Община, группировавшаяся вокруг А. Перетца, распалась, хотя евреи продолжали жить в Петербурге. Новая, точнее, новые еврейские общины появляются в столице в конце 1820-х годов. Это были солдатские общины.
С 1828 года евреев стали призывать в русскую армию. Поскольку Петербург был крупнейшим центром сосредоточения войск, среди солдат его гарнизона появились евреи, постоянное пребывание которых в столице в этом качестве было узаконено. Более того, закон разрешал солдатам-евреям, как, впрочем, и всем нижним чинам, проживание при них жен и детей.
Евреев не брали в гвардию (за исключением нестроевых частей). Они служили в армейских полках, различных вспомогательных частях, рабочих командах, ластовых экипажах, мастерских и т.д. и т.п.
Большинство евреев, попавших в солдаты и служивших в столице Российской империи, отслужили и отошли в мир иной сравнительно незаметно. Их имена можно узнать только из списков личного состава полков и вспомогательных частей, в которых они отбывали службу.
Рядом с солдатскими общинами в городе проживало и еврейское гражданское население. Чаще всего в этот период не связанные с армией евреи проживали в Петербурге нелегально или полулегально (временно).
Временное пребывание евреев в столице официально допускалось в связи с казенными поставками и подрядами, привозом грузов (евреям-фурманам, то есть перевозчикам грузов, разрешалось приезжать в Петербург, для них была даже устроена особая гостиница), а также для хлопот по судебным и административным делам, рассматриваемым в Сенате и других высших учреждениях империи.
К 1855 году многие солдаты из евреев вышли в отставку. Впоследствии указами Александра II им было предоставлено право повсеместного проживания в империи, в том числе и в столице. Эти отставные нижние чины были еще совсем не старые люди, получавшие небольшую пенсию, обремененные семьями. Они вынуждены были искать какой-нибудь заработок, источником которого для многих стали различные ремесла. Те же, кто не владел ремеслами, шли служить в городские полицейские и пожарные команды.
К концу 1850-х годов в столице на законных основаниях проживало уже достаточно многочисленное еврейское гражданское население.
В царствование Николая I европейское еврейство пыталось прийти на помощь российским единоверцам.
Известнейший английский банкир, благотворитель, радеющий за еврейские интересы, сэр Мозес Монтефиоре в 1846 году специально посетил Россию с целью убедить русское правительство улучшить положение евреев. Хотя он был принят с почетом и даже удостоился "высочайшей аудиенции", никаких практических результатов визит не дал.