Goldenes oder dunkles Zeitalter? Maggi und Tao über LLMs in der Mathematik

Auf Terence Taos Blog erschien ein Gastbeitrag des Mathematikers Francesco Maggi. Er geht von einer Prämisse aus: LLMs und die Forschungssysteme darum herum können mathematische Beweise erzeugen, und das ist keine Randerscheinung mehr. Die Frage ist, wie die Wissenschaft damit umgeht.

Zwei Szenarien

Im „goldenen Zeitalter“ werden LLMs sorgfältig ins Wissenschaftssystem integriert, eine neue Generation von Forschenden wird befähigt, und die Forschung bleibt offen und unabhängig. Im „dunklen Zeitalter“ steigt der Output kurzfristig enorm, die Wissensproduktion konzentriert sich aber bei wenigen, die das Erzeugte immer weniger verstehen. Das eigentlich Dunkle wäre laut Maggi Wissen, das dem menschlichen Verständnis fremd wird. Wahrscheinlich tritt eine Mischung aus beiden ein.

Die Kernpunkte

• Verständnis als Problem: LLMs liefern Lean-Beweise mit Hunderttausenden Zeilen Code. Je länger der Beweis, desto unsauberer ihre natürlichsprachliche Übersetzung. Maggi sagt offen, man wisse nicht, warum das so ist. Heraus kommen korrekte Beweise, die niemand direkt lesen kann.
• Mehr Mathematiker, nicht weniger: Ohne Menschen, die Mathematik verstehen, gebe es keine menschliche Mathematik mehr. Die Gesellschaft brauche „eine ganze Menge mehr“ davon.
• Skepsis statt Euphorie: Die Leistungen seien ein Phänomen, das man untersuchen müsse, kein Beleg für Aussagen über Intelligenz oder Bewusstsein. Zu OpenAIs Veröffentlichung vom 6. Oktober merkt er an, dass bei 4000 getesteten Problemen vermutlich viele unbeantwortet blieben. Genau diese Fälle wären wissenschaftlich interessant.
• Mathematisierung: Beweise werden billiger, dadurch lässt sich Mathematik auf Bereiche der Natur- und Sozialwissenschaften ausdehnen, in denen bisher Beweise fehlten.
• Fortschritt lässt sich nicht abhaken: Er hängt nicht an Problemlisten. Die Grundlagen der Relativitätstheorie oder der Informationstheorie entstanden ohne solche Listen.
• Autorenschaft und Peer Review: Wer verantwortet einen KI-Beweis, und wie wird zitiert? Das Publikationssystem muss sich dazu verhalten.

Der Beitrag endet mit konkreten Vorschlägen. Interessant ist er vor allem, weil er Begeisterung für die Fähigkeiten und Sorge um das Verstehen in einem Text zusammenbringt.

Quelle: Will it be a golden age or a dark age for mathematics (and science)?