Article
Chromes Prompt API - KI direkt im Browser nutzen
Chromes Prompt API - KI direkt im Browser nutzen
Google hat mit der Prompt API eine eingebaute KI-Schnittstelle in Chrome integriert. Sie ermöglicht Entwicklern, Sprachmodelle direkt im Browser zu nutzen - ganz ohne Server-Backend, API-Schlüssel oder externe Dienste.
Was ist die Prompt API?
Die Prompt API ist Teil von Chromes “Built-in AI” Initiative. Sie bietet Zugriff auf lokal ausgeführte Modelle wie Gemini Nano direkt im Browser. Das bedeutet:
- Keine API-Kosten: Die Inferenz läuft auf dem Gerät des Nutzers
- Keine Latenz für Server-Requests: Sofortige Antwort
- Datenschutz: Sensible Daten verlassen nie das Gerät
- Offline-Fähigkeit: Funktioniert ohne Internetverbindung
Erste Schritte
Die Prompt API ist über JavaScript im Browser verfügbar. Ein minimales Beispiel:
const session = await ai.languageModel.create();
const result = await session.prompt("Erkläre Quantencomputing in drei Sätzen.");
console.log(result);
Session Management
Die API nutzt ein Session-Konzept. Sessions behalten Kontext und können für Mehr-Runden-Gespräche genutzt werden:
const session = await ai.languageModel.create();
await session.prompt("Ich lerne Python.");
const response = await session.prompt("Wie erstelle ich eine Liste?");
// Session kennt den Kontext
Streaming für längere Antworten
Für längere Ausgaben unterstützt die API Streaming:
const session = await ai.languageModel.create();
const stream = await session.promptStreaming("Schreibe eine kurze Geschichte.");
for await (const chunk of stream) {
console.log(chunk);
}
Multimodale Fähigkeiten
Die API unterstützt auch Bild-Eingaben, wenn das Modell dies erlaubt. Das ermöglicht Anwendungen wie Bildbeschreibungen oder visuelle Frage-Antwort-Systeme direkt im Browser.
Strukturierte Ausgaben
Über JSON Schema kann die Ausgabe validiert werden - ideal für Anwendungen, die strukturierte Daten brauchen:
const session = await ai.languageModel.create({
initialPrompts: [{
role: "system",
content: "Du extrahierst Kontaktinformationen."
}]
});
const result = await session.prompt("Max Müller, Email: max@test.de", {
responseFormat: {
type: "json",
schema: {
type: "object",
properties: {
name: { type: "string" },
email: { type: "string" }
}
}
}
});
Verfügbarkeit
Die Prompt API ist in Chrome seit Version 127 verfügbar. Entwickler können über chrome://flags die Funktion “Prompt API for Gemini Nano” aktivieren. Eine origin trial erlaubt den Einsatz in Produktion ohne Flag.
Fazit
Die Prompt API demokratisiert KI im Web. Frontend-Entwickler können KI-Features einbauen ohne Backend-Entwicklung oder API-Kosten. Die Grenzen liegen in der Modellgröße - komplexe Tasks bleiben Cloud-Modellen vorbehalten. Für viele Anwendungsfälle ist Browser-KI jedoch mehr als ausreichend.