Eén van de bijzondere locaties van Kelderfest is een kerk die maar weinigen kennen: de schuilkerk van het Penninckshuis aan de Brink. In deze kerk, een inpandige zaalkerk uit 1891 in neorenaissancestijl, werden de relieken van Lebuïnus, Radboud en Marcellinus bewaard.

In 1881 werd het pand bijna geheel afgebroken. Achter het pand stond volgens sommigen toen nog een tufstenen muurtoren van de oudste vesting, die ook is afgebroken

Oorspronkelijke functie: Woonhuis en kerk
Huidige functie: VVV-bureau
Type: Monument van ontspanning