Models
Aria lernt Jazz: Cross-Attention bringt Pianisten-Stil ins Musik-Modell
Ein ISMIR-2026-Projekt zeigt, wie ein Transformer den Stil einzelner Jazz-Pianisten erlernt – nicht nur Noten, sondern die Handschrift: Das Team fein-tunte Aria, einen 16-Layer-Transformer mit Pre-Training auf Piano-MIDI, mit Soli von zwölf Pianisten aus dem PiJAMA-Datensatz, von Erroll Garner bis Oscar Peterson.
Die Architektur
In die letzten acht Schichten wurde je ein gated Cross-Attention-Block eingefügt: Die Musik attendiert auf ein gelerntes Embedding pro Pianist (vier Vektoren), ein Gate skaliert den Beitrag und startet bei 0,1 – das Fine-Tuning beginnt also beim Verhalten des Basis-Modells. Weil das Embedding bei jedem Schritt beachtet wird, verblasst das Conditioning nicht wie ein Prompt-Prefix.
Messung: Perplexitaet ist stilblind
Das Kuriose: Perplexitaet auf gehaltener Musik trennt die Modelle kaum (6.96 vs. 6.82). Stil zeigt sich erst in freier Generierung. Ein entlanggleitender Pianisten-Klassifikator ordnet 70 Prozent der Fortsetzungen dem intendierten Pianisten zu – ohne Conditioning nur 37 Prozent, das Basismodell 25 (Zufall: 8).
Synthetic Transfer
Ein Klassifikator, der NUR auf generierter Musik trainiert wurde, erkennt echte Aufnahmen mit 95 Prozent Song-Accuracy. Die Spannweite ist groß: Hank Jones und Dick Hyman gelingen zu 96 Prozent, Cedar Walton nur zu 29. Alles ist MIDI, geredert im Browser – ZuhoeRen lohnt sich.