API kosten en tokens

Tokens zijn de kleinste eenheden van tekst die een AI-model verwerkt.
Ze kunnen woorden, delen van woorden, leestekens of speciale symbolen zijn.

  1. Functie: Tokens helpen AI-modellen om tekst te begrijpen en te verwerken door deze op te delen in betekenisvolle eenheden.

  2. Voorbeelden:

    • Het woord "kat" is meestal één token.

    • "Ongelooflijk" kan worden opgedeeld in meerdere tokens: "on", "geloof", "lijk".

    • Leestekens zoals "." of "," zijn vaak aparte tokens.

  3. Tokenisatie: Het proces van het opdelen van tekst in tokens.

  4. Gebruik in AI:

    • Inputverwerking: AI-modellen verwerken tekst token voor token.

    • Outputgeneratie: AI genereert tekst ook token voor token.

  5. Kostenfactor: AI-diensten berekenen kosten op basis van het aantal verwerkte tokens.

  6. Taalonafhankelijk: Tokenisatie werkt voor verschillende talen en schrijfsystemen.

  7. Efficiëntie: Tokens helpen bij het efficiënt verwerken en opslaan van taalgegevens.

  8. Contextbehoud: Tokenisatie behoudt de oorspronkelijke structuur en betekenis van de tekst.

Begrip van tokens is belangrijk voor het begrijpen van hoe AI-taalmodellen werken en hoe de kosten voor hun gebruik worden berekend.

De ervaring leert dat er ook altijd minder actieve gebruikers zijn op school. Hierdoor ligt het gemiddelde aantal chatberichten en afbeeldingen onder de aantallen die hierboven genoemd zijn. We stellen voor om te rekenen met een gemiddelde van 25% actieve gebruikers.

Rekenvoorbeeld variabele kosten

CHAT

input aantal letters gemiddeld : 500

input aantal tokens gemiddeld: 180

kosten input tokens (GPT-4O): $2,50 per 1M tokens

kosten input tokens per chatbericht: $0,00045

output aantal letters gemiddeld: 1000

output aantal tokens gemiddeld: 360

kosten output tokens (GPT-4O) $5 per 1M tokens

kosten output tokens per chatbericht: $0,0018

Totale kosten per chatbericht: $0,00225

Totale kosten voor 200 chatberichten per maand: $0,45

BEELD

Kosten per beeld 1024 x 1024 = $0,04

Totale kosten voor 20 beelden per maand: $0,80

OVERIG

Denk hierbij aan:

- Assitants API (instellen van assistenten)

- Audio verwerking m.b.v. Whisper (uploaden van audio om te kunnen chatten met de inhoud van het opgenomen gesprek)

- Beeldanalyse m.b.v. GPT-4O (Vision)

Ingeschat op $0,25

TOTAAL

Totaal per maand = $0,45 (chat) + $0,80 (beeld) + $0,25 (overig) = $1,50

Totale kosten per actieve gebruiker per maand is 1,5 euro per maand