Endozentrisches Determinativkompositum?
Determinatum = Tongeschlecht = Dur, Moll (Subst., ergo Großschreibung)
Determinans = As, as (ikonisch, mal groß, mal klein)
Also, ich will mich hier nicht mit Abschweifungen unbeliebt machen, aber dazu will ich nun doch ein paar Zeilen loswerden:
1. Historisch gesehen ist die Frage zunächst völlig klar: »mollis« und »durus« sind in mittellateinischen Texten Adjektive und modifizieren die Tonhöhenangabe (»b durum«, »b molle«). Bei der Übernahme ins Mittelhochdt. wurden diese Ausdrücke bereits univerbiert; Grimm bietet den Beleg
bêdûre und ouch bêmolle
wart nie baz bedœnet.
Das sind, in Deinen Worten, endozentrische Komposita, allerdings solche des lat.-roman. "Barbarossa" -- Typs (mit »barba« als Nukleus / Determinatum und »rossa« als Modifikator / Determinans) und eben nicht eines des german. »Rotbart« - Typs, den Du für »b Moll« ansetzt. Solche historischen Überlegungen dürften hinter der Brockhaus-Rieman-Schreibung "A dur" / "B moll" stehen.
2. Aber dabei muß es ja keineswegs bleiben, denn »Dur« und »Moll« durchlaufen eine Bedeutungsextension von der Bezeichnung eines Tons auf der Skala zur Bezeichnung des Tonartengeschlechts, und damit einher geht offenbar ihre Substantivierung, wie die Möglichkeit von Ausdrücken wie »ein Stück in Moll« (Typ: »Frau in Gold«) zeigt. Die vormaligen Adjektive, relational und daher mit Kongruenzaffixen ausgestattet, werden zu absoluten Ausdrücken (typisch für Substantive). Das widerspiegeln die Groß- und die Getrenntschreibung.
3. Was sind die konstruktionellen Folgen dieser Extension?
a. eine eindeutige Funktionsverteilung Modifikatum / Modifikator gibt es nicht mehr; die Substantivierung der vormaligen Adjektive (Verlust der relationsmarkierenden Kongruenz) macht jedes der beiden »Wörter« referenzfähig (»Sonate in B« / »Sonate in Moll«).
b. Jedes der beiden kann also prinzipiell beide Funktionen übernehmen. Das Resultat ist ein Typ von Apposition wie lat. »fluvius Rhenus«, wo es ebenso ist.
c. Das gilt aber nur mit einer Einschränkung. Die Bewahrung und Fixierung der alten Wortstellung (A Dur vs. *Dur A, dagegen fluvius Rhenus vs. Rhenus fluvius) begünstigt die Interpretation von »A« bzw. »B« als Nukleus der Apposition und damit die von "dur" bzw. "moll" als Appositum, spricht Modifikator, denn in dt. Appositionen des Typs »Genosse Honecker« ist das Vorderglied Nukleus und das Hinterglied Appositum (weil nur das Vorderglied die syntaktischen Marker der Gesamtkonstruktion tragen kann: »die mitreißenden Reden des GenosseN Honecker«, nicht: HoneckerS). Grammatisch gesehen haben wir hier also wohl eine Analogiebildung zu einer endozentrischen Appositivkonstruktion mit "A" etc. als Nukleus (Determinatum) und "moll" als Modifikator (Determinans). Aus sprachwiss. Sicht wäre also die Schreibung "A Dur" / " B Moll" adäquat.
4. Aber Sprachverwender scheren sich um solche Dinge nun einmal nicht, und die Unterscheidung »Dur« (groß) vs. »moll« (klein) ist nicht nur ikonisch, sondern auch okönomisch. Und deswegen finde ich persönlich die Lösung der MGG »A Dur« vs. »b moll« am gelungensten.