OpenAI lancia Decisions API: l’IA che non scrive, ma prende decisioni

OpenAI ha rilasciato in beta la Decisions API, un nuovo servizio pensato per usare l’intelligenza artificiale non tanto per generare testo, quanto per prendere decisioni strutturate che possono essere utilizzate direttamente dal software. L’idea alla base è semplice, invece di ottenere una risposta libera da un modello linguistico, lo sviluppatore definisce in anticipo le possibili decisioni e lascia al modello il compito di scegliere quella più adatta, indicando anche quanto è sicuro della propria valutazione.

Si tratta di un approccio che rientra nella categoria dei cosiddetti decision model, un settore che OpenAI non ha inaugurato ma nel quale si è inserita dopo l’arrivo di soluzioni come Jev di TypeSafe AI, Decider di Perplexity e Clef di Cloudflare. Il principio comune è quello di fornire al modello un contenuto da analizzare e una serie di domande tipizzate, ottenendo in risposta probabilità, scelte o punteggi invece di testo generato.

Che cos’è e come funziona la Decision API

Un decision model può essere visto come una sorta di classificatore evoluto. Riceve, per esempio, il messaggio di un cliente e una domanda come “a quale reparto deve essere assegnato?“, quindi sceglie tra le risposte che lo sviluppatore ha stabilito in precedenza. Alla decisione associa anche una probabilità compresa tra 0 e 1, che indica il livello di sicurezza del modello.

La differenza rispetto a un normale modello linguistico è importante. Un LLM costruisce una risposta testuale e può quindi tradurre un contenuto non previsto dal programma, per utilizzarlo come classificatore è necessario chiedergli un’etichetta, interpretarla e controllare che rispetti lo schema atteso. Un decision model, invece, lavora direttamente all’interno di un insieme di possibilità definite in anticipo e calcola la probabilità associata alle varie risposte.

Un altro vantaggio è la velocità, OpenAI indica una rapidità circa dieci volte superiore rispetto alla Responses API, un aspetto particolarmente interessante per applicazioni che devono prendere decisioni rapidamente.

La Decisions API di OpenAI permette di sottoporre al modello testo o immagini e di definire un array di domande e, al momento, l’unico modello disponibile è GPT-6 Luna. Le immagini, nello specifico, devono essere inviate come dati codificati in base64 e non tramite un indirizzo web.

Segui TuttoTech.net su Google Discover

Pubblicità-36%

Amazon

Samsung Galaxy Book4 Edge

739€1.149€

Vai all'offerta

I tre tipi di domanda

Le domande supportate dalla Decision API sono di tre tipi, il primo è il predicate, che serve a stabilire se una determinata condizione è vera o falsa; per esempio, una fotografia può essere analizzata per verificare se un prodotto presenta un danno visibile, il risultato può essere una probabilità di 0,92.

Il secondo è il choice, con cui il modello deve scegliere una delle opzioni previste. È particolarmente utile per attività come lo smistamento automatico delle richieste di assistenza, per esempio distinguendo tra fatturazione, spedizioni e supporto tecnico. OpenAI consiglia inoltre di prevedere un’opzione di fallback, come altro, per gestire i casi che non rientrano nelle categorie stabilite.

Il terzo è lo score, che colloca il contenuto di una scala ordinata; può per esempio essere utilizzato per valutare la gravità di un problema, il risultato è una media pesata delle probabilità dei diversi livelli e può quindi trovarsi anche tra due valori della scala.

Un esempio rende più chiaro il funzionamento: davanti al messaggio “mi hanno addebitato due volte l’ordine“, il modello può assegnare al reparto fatturazione una probabilità di 0,95 e un indice di confidenza di 0,93. A quel punto sarà il programma a decidere come procedere, oltre una determinata soglia la richiesta potrà essere smistata automaticamente, mentre sotto tale limite potrà essere sottoposta a una persona.

Quanto costa Decisions API

La Decisions API ha un prezzo particolarmente contenuto, 0,10 dollari per un milione di token in input; l’output non viene addebitato e sono previste possibili maggiorazioni quando viene utilizzata una finestra di contesto lunga. L’API supporta inoltre Zero Data Retention, l’utilizzo in ambito sanitario secondo lo standard statunitense HIPAA per i clienti idonei e l’elaborazione negli Stati Uniti o in Europa.

Il costo va inserito nel contesto di un mercato nel quale i diversi decision model puntano proprio a ridurre la spesa rispetto ai normali modelli linguistici. Jev di TypeSafe, per esempio, costa 0,042 dollari per milione di token di input, mentre il modello di Perplexity arriva a soli 0,02 dollari.

Per esigenze più complesse, OpenAI continua comunque a indicare le Structured Outputs della Responses API e il function calling come strumenti più adatti quando è necessario ottenere uno schema JSON personalizzato oppure interagire con strumenti esterni.

Prima di considerare la Decisions API come una soluzione superiore alle alternative, però, c’è anche un aspetto da tenere presente: OpenAI non ha pubblicato al momento risultati di accuratezza direttamente confrontabili con quelli disponibili per gli altri decision model. Perplexity Decider, per esempio, raggiunge 62,8 punti nel Jev Decision Index contro i 60,1 di Jev. Il modello aperto Decision-2.0-Lux-9B, molto più piccolo e utilizzabile in locale, raggiunge invece 48,2 punti. Si tratta in ogni caso di un punteggio composito e non di una percentuale di accuratezza.

La Decision API si rivolge quindi soprattutto a sviluppatori che devono costruire sistemi di classificazione, rounting automatico e agenti IA, nei quali non serve una risposta discorsiva ma una decisione precisa che il software possa utilizzare immediatamente. La beta è già disponibile e OpenAI prevede di portare il servizio alla disponibilità generale nelle prossime settimane.