Ersteigt man den Michelsberg vom Parkplatz im Birktal aus über den so genannten "Schlossersteig" (Ostaufstieg Michelsberg), stößt man auf halber Höhe auf eine Abzweigung, die zu einer kleinen begehbaren Höhle, dem „Waggerlloch“, führt; bei Grabungen in den Jahren 1967 bis 1971 fand Kreisheimatpfleger Karl-Heinz Rieder zahlreiche Tonscherben und Metallgegenstände aus der Frühbronze-, Urnenfelder-, Hallstatt- und Keltenzeit, aber auch Hinweise, dass die Höhle noch im Mittelalter zeitweise dem Menschen als Zuflucht diente. Nach der Sage führte vom Waggerlloch einst ein unterirdischer Gang zur Burg Arnsberg.

Auf dem Plateau selbst finden sich Reste mehrerer einst gewaltiger, über zwei Hektar großer Befestigungsanlagen; an der nicht durch schroffe Felswände geschützten Südseite der Bergzunge hielt ein dreifach gestaffeltes System von Gräben und Erdwällen, die noch zu sehen sind, den Feind ab. Die erste Anlage stammt wohl schon aus der Bronzezeit. Die Ausgrabungen in den Jahren 1903 bis 1906 durch Friedrich Winkelmann lieferten vor allem Gefäßbruchstücke aus keltischer Zeit (um 450 v. Chr.). Auch ein römischer Keller wurde untersucht. Während der Ungarneinfälle (frühes 10. Jahrhundert) diente die Befestigung als Fliehburg; im 11. und 12. Jahrhundert wurde die Anlage weiter verstärkt, wovon noch die Fundamente eines Turmes zeugen. Sogar die Reste eines Kalkofens aus dem 13. Jahrhundert hat man auf dem Berg entdeckt.

Auf der Spitze der Bergzunge stand einst die St. Michaelskapelle, die dem Berg den Namen gab, und von der noch Mauerreste sichtbar sind; das vermutlich schon im frühen Mittelalter erbaute Kirchlein war im 17. Jahrhundert Ziel von Wallfahrten. Im 18. und Anfang des 19. Jahrhunderts hauste neben der Kapelle ein Eremit, bis Kapelle und Klause nach dem Tod des letzten Einsiedlers 1819 abgebrochen wurden.