Не окончив гимназии из-за недостатка средств, сдал экзамены на аптекарского ученика и в
1895 году поступил на фармацевтические курсы
Киевского ун-та. В
1896 году впервые
арестован за связь с участниками
студенческого движения, но быстро освобожден. Получив профессию провизора, Гершуни работает в Москве в Институте экспериментальной медицины. В
1898 году переезжает в
Минск, где устраивает лабораторию для бактериологических исследований. В свободное время он принимает деятельное участие в организации культурно-просветительской работы: организовал начальную школу для мальчиков, читает лекции в субботней школе для взрослых. При Минском обществе врачей Гершуни организует народные чтения, создает передвижной
музей школьных пособий. Все больше увлекаясь революционными идеями, спустя некоторое время устраивает мастерскую станков для подпольных типографий, создает бюро изготовления нелегальных паспортов. Вместе с
Е. К. Брешко-Брешковской Гершуни организовывал транспортировку нелегальной литературы из-за границы. В
1899 году Гершуни вступил с кружок «Рабочая партия политического освобождения России» и вскоре его возглавил. В это время большое влияние на Гершуни оказывала выдающаяся революционерка
Е. Брешко-Брешковская, под воздействием которой он решил полностью посвятить себя делу революции. В марте
1900 года была обнаружена нелегальная
типография, созданная Гершуни, а
19 июня 1900 года он был арестован.