На месте его могилы была просто проваленная яма. 

Семён Фруг был похоронен в 1916 году на Еврейском кладбище, которое было уничтожено большевиками. При уничтожении кладбища 5-6 могил известных людей были перенесены на 2-е Христианское кладбище. В число этих знаменитостей попала и могила Семёна Фруга. Во время оккупации Одессы румынами огромный гранитный куб с могилы поэта был украден и вывезен в Румынию. Его не успели изуродовать, и после войны еврейская община Румынии выкупила памятник и вывезла его в Израиль. Там он установлен на Аллее поэтов Иерусалимского кладбища. На новом памятнике установленном на могиле Семёна Фруга полностью повторён шрифт с памятника 1916 года.