Um den Anforderungen der schnell wachsenden Jüdischen Gemeinde Berlins gerecht zu werden, baut Eduard Knoblauch 1856 die „Große Synagoge“ in der Heidereutergasse 1856 um. Bald stellt sich jedoch heraus, dass die Plätze noch immer nicht reichen. Erneut wird Knoblauch beauftragt, diesmal mit dem Bau einer „Neuen Synagoge“ in der nahe gelegenen Oranienburger Straße. Sie soll den „veränderten Verhältnissen, der Größe, der Bedeutung und dem Reichtum der Jüdischen Gemeinde Berlins“ entsprechen. Am 17. Mai 1859 beginnen mit dem ersten Spatenstich die Arbeiten auf dem 1.770 m2 großen Baugelände.

Zwei Jahre später, Mitte Juli 1861, wird Richtfest gefeiert, 1863 ist der Rohbau beendet. Im März 1866 findet die erste Beleuchtungs-, Gesangs- und Redeprobe statt. Am 5. September 1866 wird die „Neue Synagoge“ feierlich eingeweiht. Das Gotteshaus erhebt sich in der Oranienburger Straße mit einer Front von 92 Fuß (28,87 m) und einer Tiefe von 308 Fuß (96,66 m). Die eigentliche Hauptsynagoge hatte eine Länge von 143 Fuß (44,88 m) und eine Breite von 126 Fuß (39,54 m).
Neu ist auch ein reformierter Ritus: Neben verschiedenen Änderungen im Gebetstext wurde dieser auch zu Gunsten der Einführung deutscher Gebete gekürzt. Erbitterten Streit gibt es um die Einführung einer Orgel. Die meisten Besucher sind durch den „maurischen“ Baustil und die orientalisch anmutende Ausstattung beeindruckt. Antisemiten empfinden ihre Pracht als Provokation. Für zahlreiche Juden wird die „Neue Synagoge“ zu einer Stätte der Einkehr, der Andacht und des Gebetes, und sie bleibt dies 74 Jahre lang. Am 30. März 1940 findet der letzte Gottesdienst statt.