Le Musikmuseum se trouve au cœur de la vieille ville, au-dessus de la Barfüsserplatz. Il est intégré à un ensemble des bâtiments dont la partie la plus ancienne remonte à la collégiale médiévale des chanoines de l’église Saint-Léonard, fondée au XIe siècle (vraisemblablement entre 1060 et 1070). Le tremblement de terre de 1356 endommagea considérablement les bâtiments mais la collégiale fut reconstruite. Dans les années 1440, la guerre, la peste et la famine la menèrent à un déclin dont elle ne se remit qu’à la fin du XVe siècle. En 1529, la Réforme mit fin à son activité et l’église Saint-Léonard devint une des quatre églises paroissiales réformées de Bâle. Au XVIIe et au XVIIIe siècle, le bâtiment servit de chantier-dépôt, où les ouvriers recevaient leur paie (en allemand «Lohn»), d’où le nom de «Lohnhof» qui lui resta lorsque les services de police y emménagèrent en 1821.

Le Lohnhof servit de prison de 1835 à 1995. Plus tard, la bibliothèque du couvent et les cellules de la prison furent transformées par les architectes Morger & Degelo pour accueillir le Musikmuseum, tout en étant respectueux des près de mille ans d’histoire du lieu.