Pod východním okrajem náměstí, které končí strmým svahem, by asi málokdo čekal jeskyni, která navíc proslula především jako nejvzácnější paleontologické naleziště, kdy se zde našlo tisíce artefaktů, které dávají doklad o životě člověka neandertálského na území dnešního města. Vznikla díky termálním pramenům, kdy minerály z nich se ukládaly. Před jeskyní lze navštívit muzeum pravěku, které vás seznámí se životem neandrtálců, čím se živili, jaká zvířata lovili apod.