Los judíos de Neuilly llevan en la ciudad desde mediados del siglo XIX y en 1869 crearon un pequeño oratorio en la calle Louis-Philippe. En 1872 se contabilizaron 140 miembros de esta comunidad.
Tras la adquisición de un terreno, gracias en particular al filántropo Godchaux Oulry, en la calle Jacques-Dulud en 1875, el arquitecto Emile Ulmann, ganador del Gran Premio de Roma, se hizo cargo de las obras.
La sinagoga se inauguró en 1878. Se trata de un edificio de estilo neooriental con dos pabellones en los que están esculpidas las tablas de la Ley.
En el arco central figura el pasaje de los Salmos: «Abridme las puertas de la salvación, quiero atravesarlas para rendir homenaje al Señor». En el interior, las influencias bizantinas son bastante evidentes. La bimá se encuentra delante del arca sagrada.
El primer rabino fue Simon Debré, patriarca de la famosa familia comprometida con la vida pública francesa. Entre los demás rabinos, destacan su sucesor, Robert Meyers, deportado y asesinado en Auschwitz; Jérôme Cahen, muy implicado en proyectos para la juventud; y Michaël Azoulay, quien impulsó importantes avances en cuanto al papel de la mujer en la vida religiosa activa.
Entre 1936 y 1937 se llevaron a cabo modificaciones estructurales y decorativas en la sinagoga, tras su ampliación impulsada por el crecimiento de la comunidad judía de Neuilly, que contaba con 6000 fieles. Los arquitectos Germain Debré y Julien Hirsch dirigieron este proyecto. Se añade una entrada en la calle Ancelle. Las influencias artísticas son más modernas. Así, se añaden formas redondeadas a las cuadradas de la antigua construcción. Un Maguen David y las tablas de la Ley adornan la parte superior de la fachada.
Tras la creación en 1999 de la Universidad Judía Europea por los rabinos René-Samuel Sirat y Claude Sultan, se fundó el centro cultural Jérôme Cahen en el edificio contiguo a la sinagoga.