OpenAI Decisions API maakt AI-beslissingen tien keer sneller

Hoe de OpenAI Decisions API routeert zonder volledig antwoord

AI-context. Op de gewone Responses API kost hetzelfde model gpt-6-luna nog altijd 0,50 dollar per miljoen outputtokens. Gecachete invoer kost daar 0,01 dollar per miljoen tokens. De Fast-laag van dat model loopt zelfs op tot 1 dollar per miljoen outputtokens. De Decisions API rekent uitsluitend 0,10 dollar per miljoen invoertokens. Outputkosten vervallen volledig. Bron, de prijspagina van OpenAI.

Een gewone aanvraag bij een taalmodel stuurt altijd een volledig antwoord terug. De Decisions API slaat die stap over. Een aanvraag bestaat uit een model, een invoer en een of meer vragen. Dat blijkt uit de technische documentatie van OpenAI. Een predicate-vraag toetst een voorwaarde. Bijvoorbeeld of een foto zichtbare schade toont. Het antwoord is dan een kans tussen 0 en 1. Een choice-vraag kiest uit vaste opties, zoals een afdeling. Een score-vraag beoordeelt een invoer tegen een reeks niveaus, bijvoorbeeld de ernst van een supportticket.

De invoer accepteert tekst en inline afbeeldingen als base64-data. Een gehoste link werkt niet. Een losse bestands-id ook niet. Ontwikkelaars moeten het beeldmateriaal dus zelf meesturen. Dat is een bewuste keuze. Elke extra stap in de keten kost tijd, en dat ondermijnt het hele idee van een sneller endpoint.

Wat dit betekent voor de rekening van ontwikkelaars

Bedrijven die nu classificatiewerk door een taalmodel laten doen, betalen voor elk antwoord zowel invoer- als uitvoertokens. Bij duizenden routeringsbeslissingen per dag telt dat op. De Decisions API schrapt de outputrekening volledig. Hij vraagt alleen voor wat erin gaat. Voor een supportdesk die elk ticket automatisch indeelt, is dat een directe besparing. Bij het gewone model valt die kostenpost nooit weg.

OpenAI noemt snelheid het grootste verkoopargument. Het bedrijf claimt dat het endpoint ongeveer tien keer sneller antwoordt dan dezelfde vraag via de Responses API. Dat meldde technieuwssite AlphaSignal na de lancering. Voor een app die binnen milliseconden moet beslissen, is dat het verschil tussen een vloeiende interactie en een merkbare vertraging. De dienst draait nog in publieke beta. Algemene beschikbaarheid volgt volgens OpenAI in de komende weken, meldde Mixed News dinsdagavond.

De timing valt samen met een drukke week voor OpenAI. Het bedrijf zag zijn eigen waardering deze maand oplopen naar 1,4 biljoen dollar. Tegelijk weigerde het op een hoorzitting in New York een harde garantie voor autonome AI-agents af te geven. Anthropic, Meta en Google deden dat ook.

De Europese rekensom

Voor Nederlandse en Europese bedrijven zit de interessantste regel niet in de prijs. Ze zit in de verwerking. De Decisions API ondersteunt regionale verwerking in de Verenigde Staten. Apart daarvan ook in de EER plus Zwitserland. Daar komt Zero Data Retention bij. OpenAI bewaart de invoer dan niet na verwerking. Voor gekwalificeerde klanten is het endpoint ook geschikt voor HIPAA-gevoelige gegevens.

Dat raakt direct aan de AVG. Een bedrijf dat kredietaanvragen, verzekeringsclaims of sollicitaties automatisch beoordeelt met een predicate- of score-vraag, voert geautomatiseerde besluitvorming uit over personen. De AVG eist dan uitleg over hoe die uitkomst tot stand komt. Betrokkenen moeten een menselijke toets kunnen vragen. Dataverwerking die binnen de EER blijft, maakt die verantwoording eenvoudiger. Gegevens die eerst naar servers in de Verenigde Staten reizen, maken dat lastiger.

Branchegenoot Anthropic koos deze week een andere invalshoek. Het bedrijf breidde zijn eigen cyberveiligheidsdienst uit voor beveiligingsteams. Europese bedrijven die AI-leveranciers vergelijken, kijken dus niet meer alleen naar modelprestaties. Ze kijken ook naar waar hun data mag staan.

Veelgestelde vragen

Wat is de OpenAI Decisions API?
Het is een apart endpoint, POST /v1/decisions, dat tekst en afbeeldingen beoordeelt. Het geeft een kans, een keuze of een score terug in plaats van een volledig antwoord in gewone taal.

Hoeveel kost de OpenAI Decisions API per miljoen tokens?
OpenAI rekent 0,10 dollar per miljoen invoertokens. Er zijn geen kosten voor output, cache-writes of cache-reads.

Kan de OpenAI Decisions API data binnen Europa verwerken?
Ja. De dienst ondersteunt regionale verwerking in de Verenigde Staten en in de EER plus Zwitserland. Zero Data Retention en HIPAA-geschiktheid zijn daarbij beschikbaar voor gekwalificeerde klanten.