Hendrik III van Nassau begon omstreeks 1510 nieuwe verdedigingswerken aan te leggen, voordat hij zijn prachtige renaissancepaleis bouwde. Aan de stadszijde liet hij een tien meter dikke muur bouwen met een poort naar de stad, het latere Kasteelplein. Tot die tijd is de ingang naar het kasteelterrein gelegen vanuit de aangrenzende tuinen, het tegenwoordige stadspark het “Valkenberg”, ongeveer op het kruispunt van de twee wegen die over de Parade lopen. Het Blokhuis sluit de oostzijde van de dikke muur af. Op de dikke muur werd tussen het Blokhuis en de Rekenkamer (Nassautoren) een open galerij met dwarse zadeldakjes aangelegd door Francisca van Savoye, de eerste vrouw van Hendrik III. De latere beroemde bewoner Willem van Oranje schrijft in zijn brieven aan zijn eerste vrouw Anna van Egmond regelmatig over deze galerij. Zo moet Anna van Egmond, die tijdens haar huwelijk op het Blokhuis woonde, vaak over deze galerij hebben gewandeld. Dit verklaart ook de naam van de galerij. De galerij was prachtig ingericht en bevloerd met tegels met een roosmotief en mensenogen. In de centrale ruimte van de Egmondgalerij en de archelologische kelder in het huis van Brecht staan nog enkele overblijfselen tentoongesteld. De mooiste tegels zijn te zien in het Bredaas Museum. Bij de verbouwingen voor de KMA na 1826 is de galerij dichtgemaakt en zijn de zadeldakjes gesloopt. Aan de zuidzijde zijn vanaf het Kasteelplein nog de zuilen te zien waarop de achttien zadeldakjes hebben gesteund.
De Blauwe Stoep
De Egmondgalerij wordt ook wel de Blauwe Stoep genoemd verwijzend naar de huidige trapopgang die is uitgevoerd in Belgisch (blauw) hardsteen en die leidt naar de kantoren van de staf van de KMA. In het cadettenjargon betekent het vaak niet veel goeds als je "naar de Blauwe Stoep moet komen". Het kan betekenen dat je ter verantwoording wordt geroepen bij de hoogste leiding van de KMA of erger te horen krijgt dat je worden ontheven uit de opleiding. Meestal is dat niet het geval en vindt er regulier overleg plaats.