Article

NVIDIA: Warum Agents Open Data brauchen

NVIDIA Nemotron Agenten Synthetic Data Training Data Open Data

NVIDIA betont in einem neuen Blogpost: Für echte AI-Agents reichen Model-Weights nicht aus. Open Data ist der Schlüssel zu reproduzierbarem, inspizierbarem Agentenverhalten – und synthetische Daten sind der Weg, um es zu skalieren.

Mehr als Model-Weights

„Ein Agent, der sich nicht von einem broken API-Call erholt oder einen Workflow verarbeitet, den er noch nie gesehen hat, ist kein echter Agent. Er ist ein Autocompleter mit Tools."

Der Sprung vom Autocompleter zum Agent ist ein Datenproblem: Software-Engineering-Traces, Tool-Use-Failures, Multi-Step-Reasoning, Retrieval, Safety, User-Simulation, Workflow-Execution und schließlich Physical-World-Interaction. Hier positioniert NVIDIA seine Nemotron Open-Data-Produkte.

Das Nemotron-Ökosystem

NVIDIA hebt hervor, dass Open-Models bei ICML stark vertreten sind: 145 Papers zitieren Nemotron-Modelle und Datensätze. Synthetische Daten spielen eine zentrale Rolle:

  • Nemotron-CC verbessert Common Crawl für Pretraining durch Synthetik
  • Nemotron-CC-MATH nutzt synthetische Mathe-Fragen für besseres Reasoning
  • Nemotron Pretraining umfasst General-, Code-, Math- und Synthetic-Data über Billionen von Tokens

Warum Open Data für Agents kritisch ist

Reproduzierbarkeit hängt nicht nur von Weights ab, sondern von:

  • Datensätzen und Kurations-Entscheidungen
  • Training-Rezepten
  • Evaluations-Methoden

Inspizierbarkeit ist für Agents essenziell: Wenn ein Model Tools aufruft, Workflows ausführt, Informationen retrieved und über Systeme hinweg agiert, müssen Entwickler die Daten verstehen, die dieses Verhalten geformt haben.

Keep It Like a Secret

NVIDIA argumentiert, dass geschlossene Trainingsdaten die Community um kritische Einblicke bringen. Wie entscheidet ein Model über Tool-Aufrufe? Wann bricht es einen Workflow ab? Wie recovered es von Fehlern? Diese Fragen lassen sich nur mit offenem Trainingsdaten beantworten.

Fazit

Open Weights sind wichtig. Für Agents ist Open Data der fehlende Puzzle-Teil für echte Transparenz und Reproduzierbarkeit. NVIDIA setzt auf synthetische Daten als Skalierungs-Hebel – ein Ansatz, der die Agent-Entwicklung demokratisieren könnte.