После "самолетного дела" власти начали понемногу выпускать из страны евреев. Это продлилось недолго. К началу 80-х годов поток отъезжающих был практически перекрыт. В стране и в городе образовался круг "отказников". Евреи, насильственно удерживаемые в СССР, вынуждены были задуматься о возможностях национального возрождения "здесь и сейчас". Начался процесс "духовной Алии", к которому когда-то призывал Ахад Га Ам. Национальным самосознанием проникалось все большее число евреев. Найти единомышленников можно было только в своей среде. Чаще всего центром общения становилась Синагога. Большинство ленинградских евреев к началу 1970-х годов уже почти ничего не знало об иудаизме. Но в праздники, особенно в Симхат-Тора, в Синагоге и возле нее собиралось очень много молодежи.
По сообщению уполномоченного по делам религий и церкви Жаринова, в 1972 году осенние праздники прошли в Ленинграде спокойнее, чем обычно, народу было меньше, молодежь пела и танцевала только во дворе Синагоги, движение по Лермонтовскому проспекту перекрывать не пришлось. А участники событий вспоминают, что молодежь, пытавшуюся задержаться во дворе Синагоги, чтобы попеть и потанцевать, разгоняла милиция с собаками. В обычные же дни в Синагоге собиралось лишь несколько стариков; казалось, она пустеет все больше и больше, особенно после смерти рабби А. Лубанова. Но к концу 70-х годов положение изменилось. Часть активистов еврейского национального движения обратилась к иудаизму.
Теперь в Синагогу молодые люди заглядывали уже не только по праздникам, но и в будни. Семь лет после смерти рабби Лубанова место раввина в Ленинградской еврейской религиозной общине оставалось свободным. В 1980 году это место занял выпускник московской иешивы "Кол Яаков" Е.З. Левитис. Опасаясь информаторов КГБ, и новый раввин, и старики, составлявшие ядро общины, поначалу с недоверием отнеслись к молодым. По словам одного из участников движения, старики, прошедшие тюрьмы и лагеря, боялись не только за себя и общину, но и за молодых людей, приходивших в Синагогу, чтобы учить Тору. Поэтому они напускали на себя грозный вид и предлагали молодым уйти, а тайком радовались, исподволь учили тому, что знали сами, и вопреки правилам давали читать книги из синагогальной библиотеки.
Постепенно к середине 80-х годов Синагога стала превращаться в центр возрождения религиозной жизни евреев в Ленинграде. Старикам, составлявшим тогда ядро общины, новая роль была не под силу. Но к середине 80-х годов в городе уже действовала на квартирах сеть различных кружков и семинаров, организаторы и активисты которых так или иначе были связаны с иудаизмом. В городе сформировались помимо официальной религиозной общины несколько центров по изучению иудаизма. Среди них - кружок, располагавшийся в районе Гражданки, на квартирах Г. Вассермана и Ю. Руппо и кружок под руководством И. Когана. Именно И. Коган перед праздником суккот привозил из дому на своей машине посуду для сукки, а его жена и дочери помогали готовить трапезу. Самыми многочисленными были кружки по изучению иврита, недаром еще в 1972 году в докладной записке уполномоченного по делам религий в Совет Министров СССР упоминаются ульпаны.
Помимо собственно ульпанов и религиозных семинаров к середине 80-х годов в городе действовали еврейские квартирные семинары, участники которых занимались еврейской историей, этнографией, краеведением, литературой и философией. Такими, например, были семинары И. Дворкина, Р. Зеличенка, М. Бейзера. Участники всех этих групп и семинаров были знакомы между собой, помогали друг другу в получении медицинской и юридической помощи, поисках приработков, проведении различных мероприятий и акций гражданского неповиновения. За "отказниками", которые были организаторами большинства кружков и семинаров, "органы" следили особенно пристально и время от времени либо приглашали их для "профилактических бесед" в КГБ или прокуратуру, либо в тех же "профилактических" целях подвергали административному аресту на 15 суток.
Одним из лидеров движения "отказников" был Аба Таратута. Всего в городе в 80-е годы насчитывалось несколько сотен евреев, которым было отказано в разрешении на выезд из СССР на постоянное место жительства в Израиль. Борясь за право выезда и устраивая семинары, домашние спектакли, лекции и кружки, "отказники" вольно или невольно привлекали к этой деятельности своих родных, друзей, знакомых. Так и происходило увеличение числа евреев, занимавшихся возрождением общинной жизни, что повлекло за собой и качественные ее изменения. С 1982-1983 года в день подавления восстания варшавского гетто активисты "отказа" начали проводить на еврейском кладбище митинги памяти жертв Катастрофы. Это были малолюдные тихие собрания, они проходили возле могилы семьи Лурье-Гельб. С 1987 года митинги в память жертв Катастрофы стали проводиться во дворе Дома прощания на кладбище, на них собиралось уже до 200 человек.
В это же время активисты "отказа" начали собирать на местах материалы по истории Катастрофы. С 1987 года в этой работе принимали участие М. Рывкин и А. Френкель. Весной 1988 года А. Френкель и М. Рывкин вместе с Д. Романовским на основе собранных материалов организовали фотовыставку "Мы помним все". Выставка первоначально проходила на квартирах, но информация о ней распространялась быстро, и уже летом того же года у исследователей появились новые помощники. Во время гастролей Вильнюсского еврейского народного музыкального театра осенью 1988 года эта выставка экспонировалась в фойе ДК им. Капранова, где проходили спектакли. Затем выставка была представлена в Синагоге. Вскоре участники исследований объединились в "Группу исследования Катастрофы".
В марте 1987 еврейские активисты перешли к решительным и открытым действиям. Семь смельчаков с плакатами на груди: "Мы хотим права на выезд", "Отпусти народ мой" и другими аналогичного содержания,- ровно в полдень 23 марта встали напротив входа в Ленинградский обком КПСС, размещавшийся в Смольном. Власти не решились разогнать пикет. Но группа крепких молодых людей под видом туристов из Вологды вступила в дискуссию с пикетчиками и своими телами закрыла от прохожих плакаты. На следующий день в утренней радиопередаче "Ленинградская панорама" прозвучал короткий репортаж о пикете без недоброжелательного комментария, а в газете "Вечерний Ленинград" было напечатано интервью с начальником ленинградского ОВИРа, который заявил, что положение этих семерых не изменится, так как участники пикета на прежней работе располагали "сведениями, содержащими государственную тайну".
На самом деле начальник ОВИРа лукавил. Через три дня после выхода газеты участнику пикета М. Бейзеру, "отказнику" с 9-летним стажем, позвонили из ОВИРа и сообщили, что его вопрос решен положительно. В течение полугода выпустили из страны и остальных смельчаков. Пример первого удачного пикета вдохновил многих. Но еще две демонстрации не увенчались успехом. В том же 1987 году началась работа по созданию легальных еврейских культурных организаций. Основываясь на призыве создавать клубы по интересам, опубликованном в газете "Смена", еврейские активисты решили зарегистрировать первое в городе национально-культурное общество - Общество любителей еврейской народной музыки. Инициатором обращения к властям стала музыковед Марина Гольдина. В ответ на обращение ей предложили представить список из 10 человек, которые собирались участвовать в работе общества.
В первом списке значились только "отказники". Власти потребовали принести список из 30 человек. К этому списку было приложено обращение, подписанное известным этнографом Н.В. Юхневой и активистами еврейского движения, в частности А. Френкелем. К А. Френкелю на работу 19 июня 1987 года приехал сотрудник КГБ для беседы, но все обошлось без последствий. По инициативе этнографов Н.В. Юхневой и Н.М. Гиренко осенью 1988 года (в ответ на активизацию общества "Память") была создана ассоциация национальных меньшинств города "Единение". Учредительное собрание должно было пройти 17 декабря 1988 года в Доме дружбы народов. Однако там собравшимся предложили перейти в Библиотеку им. Маяковского, перед которой группа милиционеров разогнала всех пришедших на собрание. После этого было решено сформировать Ленинградское общество еврейской культуры (ЛОЕК) вне рамок "Единения".
В том же 1988 году в ДК им. Карла Маркса был легально организован цикл из 6 лекций по истории еврейской литературы, прочитанный И. Дворкиным. Эти лекции посещали от 300 до 400 человек. В мае 1988 года в Ленинграде прошли концерты Международного фестиваля канторского искусства. За два дня в здании Большой хоральной синагоги состоялось шесть концертов. Билеты на эти концерты продавались в театральных кассах города, по городу были расклеены афиши. В Синагоге на всех концертах яблоку было негде упасть. В общей сложности на этих концертах побывали более 13 тысяч слушателей. Даже людьми, все еще далекими от еврейской национальной жизни, эти концерты и лекции воспринимались как прорыв к легализации национальной культурной жизни.
1987-1989 годы стали временем массового отъезда бывших "отказников". Но вместо нескольких сот евреев, возрождавших национальную жизнь в нелегальных условиях, в городе уже насчитывалась почти тысяча новых еврейских активистов и в десять раз больше евреев, так или иначе участвовавших в различных еврейских акциях. Среди них были и те, кто в дальнейшем вырос в лидеров крупных общинных организаций, например Е. Львова. Всего же, по данным переписи 1989 года, в Ленинграде проживало 106 тысяч евреев. О степени их национального самосознания свидетельствуют данные социологического исследования 1991 года: 45% опрошенных состояли в смешанных браках и только 5% из них хотели бы, чтобы их дети писались в паспорте евреями.
Все опрошенные назвали русский родным языком, но 40% из них хотели бы, чтобы их дети владели ивритом, а 15% - идишем. У 3/4 в домашних библиотеках были книги еврейских писателей на русском языке, а у 20% - книги на идише или иврите. В целом же опрос показал, что несмотря на мощные ассимиляционные процессы, в результате которых ленинградские евреи забыли бытовую обрядовую культуру и язык, и на то, что только 12% из них считают религию объединяющим нацию фактором, подавляющее большинство знает события национальной истории, национальных деятелей культуры, и 1/3 владеет сведениями по еврейской этнографии. На момент опроса только 1/3 евреев не собиралась никуда уезжать, 1/2 задумывалась об отъезде, а 13% были ориентированы на отъезд окончательно.