LLM-inferens

Inferenskalkylator

Ange dina tokenvolymer, priser och hastighet och se kostnad per anrop, per dag och generationstid.

Kostnad per anrop
1,654 öre
Per dag
165 kr
Per månad (30 d)
4 961 kr
Svarstid
1,87 s

Priserna är exempel — fyll i leverantörens aktuella pris per miljon tokens.

Vanliga frågor

Varför skiljer sig in- och utpris?
Utdatatokens genereras en i taget och kostar mer beräkningstid än att läsa in prompten, så de prissätts högre.
Är priserna aktuella?
Fälten är förifyllda med exempelvärden. Ange priserna från leverantörens aktuella prislista.
Vad betyder tid till första token?
Fördröjningen innan svaret börjar strömmas. Total tid är ungefär den plus utdatatokens delat med genomströmningen.