Pierwszy przywilej dla Żydów wydał 30 lipca 1688 r. ówczesny właściciel miasta kasztelan płocki Stefan Gembicki. Zezwalał on na osiedlanie się Żydów na wytyczonej dla nich ulicy zwanej później Żydowską (dzisiaj Poznańska).
Tam też kilkanaście lat później zbudowano drewnianą synagogę a w latach osiemdziesiątych XIX wieku murowaną. Na początku XVIII wieku wytyczono też kirkut (cmentarz żydowski). Znajdował się wówczas za miastem. Pół wieku później wokół cmentarza wytyczono działki dla osadników z Niderlandów i ulice tą nazwano Nowym Miastem.
W 1788 r. w Margoninie mieszkało 232 Żydów a w 1834 r. 483. Były wśród nich rodziny Abraham, Baruch, Cohen, Diamant, Lewi, Manase, Schocken, Simon i Spiro.
Od połowy XIX wieku następuje spadek populacji żydowskiej. W 1910 r. w Margoninie mieszka tylko 42 Żydów. W 1920 r. 16 rodzin żydowskich wybiera obywatelstwo niemieckie i opuszcza Margonin. Zostają tylko dwie rodziny Lewin i Baruch, pod koniec 1935 r. Abraham wyjadą z Margonina. Ostatni pochówek na cmentarzu żydowskim miał miejsce 6 lutego 1935 r. Pochowano wtedy 55 letnią Bertę Baruch.
Zimą 1939 r. z polecenia okupacyjnych władz niemieckich zostanie rozebrana synagoga.
