Preskočiť na obsah
Visiticsby esentra
SK

Zadarmo v Nova aj v každom pláne

AI Observability: koľko stojí vaša AI a ako beží

Vaša aplikácia volá OpenAI, Anthropic, Google, Mistral alebo vlastný model. Visitics ukáže, koľko každé volanie stojí, aké je rýchle a ako často zlyháva, podľa modelu, funkcie a verzie promptu. Drží len čísla a názvy: prompty a odpovede sa neukladajú nikdy.

Na čo to je

S čím vám pomôže

  1. 01

    Náklady, ktoré viete vysvetliť

    Namiesto jednej sumy na faktúre poskytovateľa vidíte náklady podľa modelu, funkcie, verzie promptu a používateľa, s mesačným rozpočtom a odhadom za celý mesiac.

  2. 02

    Rýchlosť a chyby na jednom mieste

    Latencia p50 a p95, čas do prvého tokenu a chyby každého modelu a ku každej požiadavke vodopád jej krokov.

  3. 03

    Čísla, nikdy obsah

    Prompty a odpovede sa zahodia skôr, než sa čokoľvek zapíše, a žiadne nastavenie to nevypne. Visitics nedrží konverzácie vašich používateľov.

Ako to funguje

Skutočné obrazovky administrácie

I.

Prehľad vašej AI

Šesť čísel so zmenou oproti predošlému obdobiu, na čo sa pozrieť najprv a náklady každého dňa podľa modelu. Celú stránku vyfiltrujete podľa prostredia, poskytovateľa, modelu alebo funkcie.

  1. 1Volania, náklady, tokeny, latencia, prvý token a chyby
  2. 2Na čo sa pozrieť, aj s číslom, z ktorého to vychádza
  3. 3Náklady podľa modelu, deň po dni
  4. 4Doterajší mesiac, jeho odhad a váš rozpočet
Prehľad vašej AI
II.

Jedna požiadavka, krok za krokom

Každá požiadavka vašej aplikácie je stopa. Jej vodopád ukáže agenta, nástroje, vyhľadávanie a volania modelu v čase, pri každom volaní tokeny, náklady, prvý token a kód chyby. Prompty a odpovede tam nie sú, lebo sa nikdy neuložili.

  1. 1Súčty stopy a jej hodnotenie
  2. 2Kroky v čase
Jedna požiadavka, krok za krokom
III.

Modely vedľa seba

Cena za 1 000 volaní, p50 a p95, prvý token, tokeny za sekundu, využitie cache a chyby, všetko z vašej vlastnej prevádzky. Pod tým uvidíte, koľko by tie isté tokeny stáli s iným modelom z cenníka.

  1. 1Porovnanie vašich modelov
  2. 2Tie isté tokeny s iným modelom
Modely vedľa seba
IV.

Verzie promptu

Pri volaní modelu pomenujte prompt a jeho verziu a každá verzia dostane vlastný riadok: cenu volania, tokeny, p95, chyby a to, ako ľudia hodnotili odpovede. Funkcie, používatelia a konverzácie sú na tej istej záložke.

  1. 1Verzie promptov vedľa seba
  2. 2Funkcie vašej aplikácie
  3. 3Používatelia a konverzácie, len ako odtlačky
Verzie promptu
V.

Pripojené v troch krokoch

Vytvorte kľúč iba na zápis, nasmerujte aplikáciu na Visitics a urobte pár volaní: do niekoľkých sekúnd sa zobrazia. V ceste vašich požiadaviek nič nestojí a návod nechá zber promptov vypnutý.

  1. 1Kľúče iba na zápis pre každé prostredie
  2. 2Adresy pre OpenTelemetry a JSON API
  3. 3Hotový kód pre premenné prostredia, Python, Node.js a curl
Pripojené v troch krokoch

Zábery z administrácie Visitics s ukážkovými dátami.

Podrobne

Ako to funguje pod kapotou

OpenTelemetry namiesto nového SDK

Visitics prijíma konvencie OpenTelemetry GenAI cez OTLP/HTTP, ako protobuf aj JSON, aj komprimované cez gzip. Aplikácii, ktorá už inštrumentáciu má, stačí adresa a kľúč a všetko ostatné, čo exportuje, napríklad HTTP požiadavky alebo dopyty do databázy, sa vynechá.

JSON API pre jednoduché prípady

Jedna POST požiadavka s najviac 500 volaniami: model, tokeny, časy a názvy, ktoré si zvolíte. Objekty usage z OpenAI, Anthropic a Gemini sa prečítajú tak, ako prídu, a druhý endpoint prijíma hodnotenia odpovedí, napríklad palec hore alebo dole.

Mimo cesty vašich požiadaviek

Visitics nie je proxy a volanie nijako nezdrží. OpenTelemetry posiela v dávkach na pozadí, Visitics odpovie hneď a zapisuje až potom a dávka poslaná dvakrát sa ráta raz.

Náklady podľa druhu tokenov

Vstup, čítanie z cache, zápis do cache a výstup majú každý vlastnú cenu. Náklad vychádza z cenníka OpenAI, Anthropic, Google a Mistral s dátumom platnosti, z vašich vlastných cien alebo z vašej aplikácie. Model bez ceny sa ukáže ako neznámy, nie ako nula.

Postrehy podložené číslami

Prehľad povie, na čo sa pozrieť, a uvedie číslo, z ktorého to vychádza: mesiac smerujúci nad rozpočet, náklady rastúce pre viac volaní alebo pre drahšie volania, viac chýb, pomalý model, pomalý prvý token, cache promptov, ktorá by ušetrila, drahšiu verziu promptu.

AI vedľa vašich cieľov

Keď váš server pošle s volaním IP adresu a prehliadač návštevníka, Visitics z nich spraví rovnaký denný odtlačok ako pri návšteve a neuloží ani jedno. Uvidíte potom, či návštevníci, ktorí použili vašu AI, dosahujú ciele častejšie než ostatní: je to súvislosť, nie dôkaz. Bez toho a bez meracieho skriptu všetko ostatné funguje rovnako.

Čo všetko vie

Čo všetko obsahuje funkcia AI Observability

  • Volania, tokeny, náklady v amerických dolároch, latencia, prvý token a chyby so zmenou oproti predošlému obdobiu
  • Obdobia 24 hodín, 7, 30 a 90 dní, filtre podľa prostredia, poskytovateľa, modelu a funkcie
  • Postrehy: rastúce náklady, viac chýb, pomalý model, cache promptov, ktorá by ušetrila, drahšia verzia promptu
  • Stopy ako vodopád agentov, volaní modelu, nástrojov a vyhľadávania, so zoznamami zlyhaných, najpomalších a najdrahších
  • Porovnanie modelov: cena za 1 000 volaní, p50, p95, prvý token, tokeny za sekundu, využitie cache a chyby
  • Koľko by tie isté tokeny stáli s iným modelom z cenníka
  • Verzie promptov vedľa seba, s hodnoteniami odpovedí, ktoré posiela vaša aplikácia
  • Náklady podľa funkcie, druhu tokenov a dní, na používateľa a na konverzáciu
  • Mesačný rozpočet s odhadom za mesiac a e-maily pri 80 % a 100 %
  • Kľúče iba na zápis pre každé prostredie, ktoré môžete kedykoľvek zrušiť

Súkromie

Čo sa ukladá — a čo nie

Ukladá sa

  • Čísla každého volania: tokeny, časy, náklady a či zlyhalo
  • Názvy, ktoré pošle vaša aplikácia: model, funkcia, názov a verzia promptu, prostredie
  • Odtlačky ID používateľov a konverzácií, nikdy samotné ID

Nikdy sa neukladá

  • Prompty, odpovede, inštrukcie ani argumenty a výsledky nástrojov
  • Text chybových hlásení: chyba ostane len ako krátky kód
  • IP adresu ani prehliadač návštevníka, slúžia len na denný odtlačok, ak ich pošlete

Ako Visitics meria bez cookies

Plány

AI Observability v jednotlivých plánoch

Hodnoty sa berú priamo z cenníka. Každá nová organizácia má plán Aura 14 dní zadarmo, bez platobnej karty.

AI Observability v jednotlivých plánoch
Novazadarmo bez časového limitu Pulse9 € mesačne Aura29 € mesačne Luna79 € mesačne
AI volania mesačne s detailmi 10 000 100 000 1 000 000 5 000 000
Ako dlho ostávajú detaily volania 30 dní 30 dní 30 dní 30 dní
E-mail pri 80 % a 100 % rozpočtu Nie je v tomto pláne Áno Áno Áno
Začať zadarmo Zvoliť plán Pulse Zvoliť plán Aura Zvoliť plán Luna

Pozrieť cenník

Otázky

Otázky k funkcii AI Observability

Je to to isté ako AI a LLM analytika?

Nie. AI Observability, známa aj ako LLM observability, meria AI, ktorú volá vaša vlastná aplikácia: koľko stojí, aká je rýchla a ako často zlyháva. AI a LLM analytika meria niečo iné: návštevy, ktoré na váš web posielajú asistenti ako ChatGPT, a AI crawlery, ktoré ho čítajú.

Ukladá Visitics moje prompty a odpovede?

Nie. Prompty, odpovede, inštrukcie a dáta nástrojov sa zahodia už pri čítaní požiadavky, JSON API pre ne nemá pole a návod nastaví váš SDK tak, aby ich vôbec neposielal. Žiadny plán ani nastavenie to nemení.

Stojí Visitics medzi mojou aplikáciou a modelom?

Nie, nie je to proxy. Vaša aplikácia volá model ako doteraz a telemetriu hlási zvlášť, v dávkach na pozadí. Keď je Visitics nedostupný, vaše volania bežia ďalej, chýbať môže len ich telemetria.

Ktoré modely a SDK fungujú?

Akýkoľvek model, ktorý vaša aplikácia nahlási. Visitics číta konvencie OpenTelemetry GenAI, takže inštrumentácie ako OpenLLMetry a Vercel AI SDK doň vedia posielať priamo, a v nastavení je hotový kód pre premenné prostredia, Python, Node.js a JSON API. Cenník pokrýva OpenAI, Anthropic, Google a Mistral; inému modelu, napríklad na vlastnom serveri, zadáte vlastnú cenu.

Ako presné sú náklady?

Sú to odhady z tokenov každého druhu a cenníkov poskytovateľov. Každá cena má svoj dátum, takže neskoršia zmena neprepíše minulé dni. Pri dohodnutej cene zadajte vlastnú alebo nechajte aplikáciu poslať náklad s volaním. Rozhodujúca ostáva faktúra poskytovateľa.

Čo sa stane, keď dosiahnem limit plánu?

Nič sa nezastaví. Volania nad limit sa ďalej sčítavajú, takže náklady, tokeny a počty ostávajú úplné; len ich detaily, napríklad vodopád, sa do konca mesiaca neukladajú.

Ako dlho sa dáta uchovávajú?

Detaily každého volania ostávajú 30 dní. Denné súhrny sa riadia históriou vášho plánu a stránka ukazuje najviac posledných 90 dní. Všetko ostáva v EÚ a zmizne, keď web zmažete.

Vyskúšajte funkciu AI Observability na svojom webe

Kľúč a pár riadkov nastavenia a prvé volania uvidíte o pár sekúnd. Aura 14 dní zadarmo, potom Nova bez časového limitu — bez platobnej karty.