Tokenbudget

Vad är en tokenbudget?

En tokenbudget – på engelska token budget – är en fastställd ram för hur många tokens en AI-tillämpning, ett team eller ett enskilt anrop får förbruka. Eftersom tokens är den enhet som språkmodeller både arbetar i och prissätts efter, är tokenbudgeten det praktiska styrmedlet för att hålla AI-användningen inom planerade ramar. Begreppet används i två besläktade betydelser: som kostnadsbudget för AI-drift och som utrymmesbudget inom modellens kontextfönster.

Tokenbudget som kostnadskontroll

I den första betydelsen fungerar tokenbudgeten som vilken IT-budget som helst. Organisationen sätter ramar för tokenförbrukning per applikation, avdelning eller tidsperiod, med automatiska gränser och larm när förbrukningen närmar sig taket. Det gör AI-kostnaderna planerbara och synliga, ungefär som molnkostnader hanteras inom FinOps. Utan budgetar och mätning tenderar tokenförbrukningen att växa obemärkt, särskilt när agentiska flöden och långa kontexter multiplicerar antalet tokens per uppgift.

Tokenbudget i kontextfönstret

I den andra betydelsen handlar tokenbudgeten om att hushålla med utrymmet i ett enskilt anrop. Modellens kontextfönster ska rymma systeminstruktioner, konversationshistorik, eventuell hämtad kontext från dokument och användarens fråga – plus utrymme för själva svaret. Att budgetera de delarna, till exempel genom att sammanfatta äldre historik eller begränsa hur mycket dokumentkontext som skickas med, påverkar både kostnad och svarskvalitet.

Så sätter ni en tokenbudget

Börja med att mäta nuläget: vilka applikationer och användningsfall förbrukar flest tokens, och vad kostar de? Sätt därefter ramar per användningsfall snarare än en klumpsumma, och bygg in automatiska gränser och larm istället för att upptäcka avvikelser i efterhand. Följ samtidigt upp kvaliteten – en för snålt tilltagen budget som tvingar bort viktig kontext ger sämre svar, och då försvinner nyttan man betalar för. En bra tokenbudget balanserar kostnad mot kvalitet, den minimerar inte bara kostnad.

Vanliga frågor om tokenbudget

Vad händer när tokenbudgeten är slut?

Det beror på hur styrningen är implementerad. Vanliga varianter är att nya anrop avvisas, att kontexten kortas ner, att förfrågningar dirigeras till en billigare modell eller att ansvarig får ett larm och beslutar om utökning.

Hur många tokens motsvarar en text?

Det varierar med språk och modell, men en token motsvarar grovt sett ett kort ord eller en del av ett längre ord. Svensk text kräver ofta något fler tokens än motsvarande engelsk text.

Vad är skillnaden mellan tokenbudget och tokenomics?

Tokenomics är helhetsperspektivet på tokenekonomin – hur kostnader uppstår och kan styras. Tokenbudgeten är det konkreta styrmedlet: de faktiska ramar och gränser som sätts för förbrukningen.