Hund macht nach dem Gassi in die Wohnung

Hallo Zusammen, ich habe vor einem Monat einen 5 Jahre alten kastrierten Rüden aus dem Tierschutz adoptiert. In den 3 Woche Pflegestelle wo er vorher war, war er fast stubenrein und hat dort lediglich zwischendurch mal markiert. Ich mein er kennt nur sein ganzes Leben im Tierheim zu wohnen. Doch passiert es dass er keine Anzeichen macht, dass er raus muss oder sonstiges. Ich gehe mindestens 4x am Tag raus mit ihm. Ich war mit ihm draußen und kurz darauf passiert dass er nochmal in die Wohnung macht. Egal ob groß oder Pipi... Ich weiß nicht genau was ich tun soll. Habt ihr irgendwelche Ratschläge oder Tipps? Vielen Dank im Voraus:)