Des juifs neuilléens sont présents dans la ville depuis la moitié du 19e siècle et organisent un petit oratoire rue Louis-Philippe en 1869. Ils sont alors 140 à être recensés en 1872.
Suite à l’achat d’un terrain, notamment grâce au philanthrope Godchaux Oulry, rue Jacques-Dulud en 1875, l’architecte Emile Ulmann, Grand Prix de Rome, prend les travaux en main.
La synagogue fut inaugurée en 1878. Un édifice de style néo-oriental. Avec deux pavillons sur lesquels sont sculptées les tables de la Loi.
Sur l’arcade centrale est inscrit le passage des Psaumes « Ouvrez-moi les portes du salut, je veux les franchir, rendre hommage au Seigneur ». À l’intérieur, les références byzantines sont assez présentes. La bimah précède l’arche sainte.
Le premier rabbin est Simon Debré, patriarche de la célèbre famille engagée dans la vie publique française. Parmi les autres rabbins, celui qui lui succéda, Robert Meyers déporté et tué à Auschwitz, Jérôme Cahen très investi dans les projets pour la jeunesse, et Michaël Azoulay, qui permit de grandes avancées sur la place des femmes dans la vie religieuse active.
Des modifications structurales et décoratives sont effectuées de 1936 à 1937 dans la synagogue suite à son agrandissement encouragé par l’accroissement de la communauté juive de Neuilly qui compte 6000 fidèles. Les architectes Germain Debré et Julien Hirsch dirigent ce projet. Une entrée est ajoutée rue Ancelle. Les influences artistiques sont plus modernes. Ainsi, les formes rondes sont ajoutées à celles carrées de l’ancienne construction. Un Maguen David et les tables de la Loi ornent le haut de la façade.
Suite à la création en 1999 de l’Université juive européenne par les rabbins René-Samuel Sirat et Claude Sultan, le centre culturel Jérôme Cahen est créé dans l’immeuble mitoyen de la synagogue.