Zum Inhalt springen
Visiticsby esentra
DE

Kostenlos in Nova und jedem Tarif

AI Observability: was Ihre KI kostet und wie sie läuft

Ihre Anwendung ruft OpenAI, Anthropic, Google, Mistral oder ein eigenes Modell auf. Visitics zeigt, was jeder Aufruf kostet, wie schnell er ist und wie oft er fehlschlägt, nach Modell, Funktion und Prompt-Version. Gespeichert werden nur Zahlen und Namen, Prompts und Antworten nie.

Wofür es gut ist

Wobei es Ihnen hilft

  1. 01

    Kosten, die Sie erklären können

    Statt einer Summe auf der Rechnung des Anbieters sehen Sie die Kosten nach Modell, Funktion, Prompt-Version und Nutzer, mit Monatsbudget und Prognose für den Monat.

  2. 02

    Tempo und Fehler an einem Ort

    Latenz als p50 und p95, die Zeit bis zum ersten Token und die Fehler jedes Modells, dazu jede Anfrage als Wasserfall ihrer Schritte.

  3. 03

    Zahlen, nie Inhalte

    Prompts und Antworten werden verworfen, bevor etwas geschrieben wird, und keine Einstellung ändert das. Visitics speichert keine Konversationen Ihrer Nutzer.

So funktioniert es

Echte Ansichten des Dashboards

I.

Die Übersicht Ihrer KI

Sechs Kennzahlen mit der Änderung gegenüber dem Zeitraum davor, worauf Sie zuerst achten sollten und die Kosten jedes Tages nach Modell. Die ganze Seite lässt sich nach Umgebung, Anbieter, Modell oder Funktion filtern.

  1. 1Aufrufe, Kosten, Tokens, Latenz, erstes Token und Fehler
  2. 2Worauf achten, mit der Zahl dahinter
  3. 3Die Kosten nach Modell, Tag für Tag
  4. 4Der bisherige Monat, seine Prognose und Ihr Budget
Die Übersicht Ihrer KI
II.

Eine Anfrage, Schritt für Schritt

Jede Anfrage Ihrer Anwendung ist ein Trace. Sein Wasserfall zeigt den Agenten, die Tools, die Suche und die Modellaufrufe im zeitlichen Ablauf, mit Tokens, Kosten, erstem Token und Fehlercode jedes Aufrufs. Prompts und Antworten stehen dort nicht, weil sie nie gespeichert wurden.

  1. 1Die Summen des Trace und seine Bewertung
  2. 2Die Schritte im zeitlichen Ablauf
Eine Anfrage, Schritt für Schritt
III.

Modelle im Vergleich

Der Preis pro 1.000 Aufrufe, p50 und p95, das erste Token, Tokens pro Sekunde, die Nutzung des Cache und die Fehler, alles aus Ihrem eigenen Betrieb. Darunter, was dieselben Tokens mit einem anderen Modell der Preisliste kosten würden.

  1. 1Ihre Modelle im Vergleich
  2. 2Dieselben Tokens mit einem anderen Modell
Modelle im Vergleich
IV.

Die Versionen eines Prompts

Nennen Sie beim Aufruf des Modells den Prompt und seine Version, und jede Version bekommt eine eigene Zeile: die Kosten eines Aufrufs, seine Tokens, p95, die Fehler und wie Menschen die Antworten bewertet haben. Funktionen, Nutzer und Konversationen stehen auf demselben Tab.

  1. 1Prompt-Versionen nebeneinander
  2. 2Die Funktionen Ihrer Anwendung
  3. 3Nutzer und Konversationen, nur als Fingerabdrücke
Die Versionen eines Prompts
V.

In drei Schritten verbunden

Erstellen Sie einen Schlüssel nur zum Schreiben, richten Sie Ihre Anwendung auf Visitics aus und machen Sie ein paar Aufrufe: Sie erscheinen innerhalb von Sekunden. Nichts steht im Weg Ihrer Anfragen, und die Einrichtung lässt die Erfassung von Prompts ausgeschaltet.

  1. 1Schlüssel nur zum Schreiben für jede Umgebung
  2. 2Die Adressen für OpenTelemetry und die JSON-API
  3. 3Fertiger Code für Umgebungsvariablen, Python, Node.js und curl
In drei Schritten verbunden

Screenshots des Visitics-Dashboards mit Demodaten.

Im Detail

So funktioniert es unter der Haube

OpenTelemetry statt eines neuen SDK

Visitics nimmt die OpenTelemetry-GenAI-Konventionen über OTLP/HTTP an, als Protobuf oder JSON, auch mit gzip komprimiert. Eine Anwendung mit Instrumentierung braucht nur die Adresse und einen Schlüssel, und alles andere, was sie exportiert, etwa HTTP-Anfragen oder Datenbankabfragen, bleibt außen vor.

Eine JSON-API für die einfachen Fälle

Eine POST-Anfrage mit bis zu 500 Aufrufen: das Modell, die Tokens, die Zeiten und die Namen Ihrer Wahl. Die usage-Objekte von OpenAI, Anthropic und Gemini werden gelesen, wie sie kommen, und ein zweiter Endpunkt nimmt Bewertungen von Antworten an, etwa Daumen hoch oder runter.

Außerhalb des Wegs Ihrer Anfragen

Visitics ist kein Proxy und verzögert keinen Aufruf. OpenTelemetry sendet gebündelt im Hintergrund, Visitics antwortet sofort und schreibt danach, und ein doppelt gesendeter Batch zählt nur einmal.

Kosten nach Token-Art

Eingabe, Lesen aus dem Cache, Schreiben in den Cache und Ausgabe haben je einen eigenen Preis. Die Kosten kommen aus einer datierten Preisliste von OpenAI, Anthropic, Google und Mistral, aus Ihren eigenen Preisen oder von Ihrer Anwendung. Ein Modell ohne Preis erscheint als unbekannt, nicht als null.

Hinweise mit Zahlen dahinter

Die Übersicht sagt, worauf Sie achten sollten, und nennt die Zahl dahinter: ein Monat, der über das Budget läuft, Kosten, die durch mehr oder teurere Aufrufe wachsen, mehr Fehler, ein langsames Modell, ein langsames erstes Token, ein Prompt-Cache, der sparen würde, eine teurere Prompt-Version.

KI neben Ihren Zielen

Wenn Ihr Server mit einem Aufruf die IP-Adresse und den Browser des Besuchers sendet, bildet Visitics daraus denselben Tages-Fingerabdruck wie bei einem Besuch und speichert beides nicht. Dann sehen Sie, ob Besucher, die Ihre KI genutzt haben, Ihre Ziele häufiger erreichen als die anderen: ein Zusammenhang, kein Beweis. Ohne das und ohne das Tracking-Skript funktioniert alles andere genauso.

Was es alles kann

AI Observability im Überblick

  • Aufrufe, Tokens, Kosten in US-Dollar, Latenz, erstes Token und Fehler mit der Änderung gegenüber dem Zeitraum davor
  • Zeiträume von 24 Stunden, 7, 30 und 90 Tagen, Filter nach Umgebung, Anbieter, Modell und Funktion
  • Hinweise: steigende Kosten, mehr Fehler, ein langsames Modell, ein Prompt-Cache, der sparen würde, eine teurere Prompt-Version
  • Traces als Wasserfall aus Agenten, Modellaufrufen, Tools und Suche, mit Listen der fehlgeschlagenen, langsamsten und teuersten
  • Modellvergleich: Kosten pro 1.000 Aufrufe, p50, p95, erstes Token, Tokens pro Sekunde, Cache-Nutzung und Fehler
  • Was dieselben Tokens mit einem anderen Modell der Preisliste kosten würden
  • Prompt-Versionen nebeneinander, mit den Bewertungen von Antworten, die Ihre Anwendung sendet
  • Kosten nach Funktion, Token-Art und Tag, pro Nutzer und pro Konversation
  • Ein Monatsbudget mit Prognose für den Monat und E-Mails bei 80 % und 100 %
  • Schlüssel nur zum Schreiben für jede Umgebung, jederzeit widerrufbar

Datenschutz

Was gespeichert wird — und was nicht

Wird gespeichert

  • Die Zahlen jedes Aufrufs: Tokens, Zeiten, Kosten und ob er fehlgeschlagen ist
  • Die Namen, die Ihre Anwendung sendet: Modell, Funktion, Name und Version des Prompts, Umgebung
  • Fingerabdrücke von Nutzer- und Konversations-IDs, nie die IDs selbst

Wird nie gespeichert

  • Prompts, Antworten, Anweisungen oder die Argumente und Ergebnisse von Tools
  • Den Text von Fehlermeldungen: Ein Fehler bleibt nur als kurzer Code
  • Die IP-Adresse oder den Browser eines Besuchers, die nur dem Tages-Fingerabdruck dienen, wenn Sie sie senden

Wie Visitics ohne Cookies misst

Tarife

AI Observability in den Tarifen

Die Werte kommen direkt aus der Preisliste. Jede neue Organisation testet Aura 14 Tage kostenlos, ohne Zahlungskarte.

AI Observability in den Tarifen
Novaunbefristet kostenlos Pulse9 € im Monat Aura29 € im Monat Luna79 € im Monat
KI-Aufrufe pro Monat mit Details 10.000 100.000 1.000.000 5.000.000
Aufbewahrung der Aufrufdetails 30 Tage 30 Tage 30 Tage 30 Tage
E-Mail bei 80 % und 100 % des Budgets Nicht in diesem Tarif Enthalten Enthalten Enthalten
Kostenlos starten Pulse wählen Aura wählen Luna wählen

Preise ansehen

Fragen

Häufige Fragen: AI Observability

Ist das dasselbe wie die KI- und LLM-Analyse?

Nein. AI Observability, auch LLM Observability genannt, misst die KI, die Ihre eigene Anwendung aufruft: was sie kostet, wie schnell sie ist und wie oft sie fehlschlägt. Die KI- und LLM-Analyse misst etwas anderes: die Besuche, die Assistenten wie ChatGPT auf Ihre Website schicken, und die KI-Crawler, die sie lesen.

Speichert Visitics meine Prompts und Antworten?

Nein. Prompts, Antworten, Anweisungen und die Daten von Tools werden schon beim Lesen einer Anfrage verworfen, die JSON-API hat kein Feld dafür, und die Einrichtung weist Ihr SDK an, sie gar nicht erst zu senden. Kein Tarif und keine Einstellung ändert das.

Steht Visitics zwischen meiner Anwendung und dem Modell?

Nein, es ist kein Proxy. Ihre Anwendung ruft das Modell wie bisher auf und meldet die Telemetrie getrennt davon, gebündelt im Hintergrund. Ist Visitics nicht erreichbar, laufen Ihre Aufrufe normal weiter; nur ihre Telemetrie kann fehlen.

Welche Modelle und SDKs funktionieren?

Jedes Modell, das Ihre Anwendung meldet. Visitics liest die OpenTelemetry-GenAI-Konventionen, sodass Instrumentierungen wie OpenLLMetry und das Vercel AI SDK direkt dorthin senden können, und die Einrichtung enthält fertigen Code für Umgebungsvariablen, Python, Node.js und die JSON-API. Die Preisliste umfasst OpenAI, Anthropic, Google und Mistral; anderen Modellen, etwa auf Ihrem eigenen Server, geben Sie einen eigenen Preis.

Wie genau sind die Kosten?

Sie sind eine Schätzung aus den Tokens jeder Art und den Listenpreisen der Anbieter. Jeder Preis hat sein Datum, eine spätere Änderung schreibt vergangene Tage also nicht um. Bei einem ausgehandelten Preis tragen Sie Ihren eigenen ein oder lassen Ihre Anwendung die Kosten mit dem Aufruf senden. Maßgeblich bleibt die Rechnung des Anbieters.

Was passiert, wenn ich das Limit meines Tarifs erreiche?

Nichts bleibt stehen. Aufrufe über dem Limit werden weiter summiert, Kosten, Tokens und Zahlen bleiben also vollständig; nur ihre Details wie der Wasserfall werden bis zum Monatsende nicht gespeichert.

Wie lange werden die Daten aufbewahrt?

Die Details jedes Aufrufs bleiben 30 Tage. Die Tageszusammenfassungen folgen der Historie Ihres Tarifs, und die Seite zeigt höchstens die letzten 90 Tage davon. Alles bleibt in der EU und verschwindet, wenn Sie die Website löschen.

AI Observability auf Ihrer Website testen

Ein Schlüssel und ein paar Zeilen Konfiguration, und die ersten Aufrufe erscheinen in Sekunden. Aura 14 Tage kostenlos, danach unbefristet Nova — ohne Zahlungskarte.