La presencia judía en Linz se remonta, como mínimo, al siglo XIII. En cuanto a la primera mención de una sinagoga, data de 1335. Sin embargo, hasta finales del siglo XV, su situación fue bastante precaria, ya que fueron víctimas de campañas antisemitas que culminaron con una expulsión en 1421 y la conversión de la sinagoga en iglesia cinco años más tarde.

Hasta finales del siglo XVIII, a los judíos solo se les permitía participar en ferias diurnas, gracias al permiso concedido por el rey Maximiliano en 1494. En 1783, su participación fue aceptada oficialmente por el Edicto de Tolerancia de José II. Esta lenta evolución les permitió construir una sinagoga en 1824. El cementerio judío data de 1863. En aquella época, había menos de 400 judíos en Linz.
Este número fue aumentando lentamente a lo largo de las décadas siguientes, hasta alcanzar los 650 en 1938. En 1877 se construyó una nueva sinagoga de estilo neorrománico, cuya inauguración corrió a cargo del rabino Adolf Kurrein, cuyo hijo, el rabino Viktor Kurrein, escribió sobre la historia de la comunidad judía de Linz.

Durante la Noche de los Cristales Rotos, el 10 de noviembre de 1938, la sinagoga fue incendiada y reducida a escombros, y al cuerpo de bomberos de la ciudad solo se le permitió proteger los edificios adyacentes. Las tiendas de propiedad judía fueron «arianizadas», y los judíos fueron detenidos y deportados, ya que los nazis consideraban que la ciudad era un lugar importante en relación con la vida del Führer y, por lo tanto, debía quedar libre de judíos. Unos 300 judíos de la región fueron asesinados durante el Holocausto.
Tras la guerra, la sinagoga se reconstituyó con algo más de 200 personas. En 1968 se inauguró una nueva sinagoga , construida en el emplazamiento de la antigua por el arquitecto Fritz Goffitzer.
Fuentes: Encyclopaedia Judaica, https://www.ikg-linz.at/