Il tema della sicurezza nell’intelligenza artificiale, in particolare quando si parla di agenti autonomi capaci di interagire con dati, servizi e sistemi reali, sta diventando sempre più centrale per le grandi aziende tecnologiche; non sorprende quindi che OpenAI abbia deciso di rafforzare le proprie capacità in questo ambito con una nuova acquisizione strategica.

La società ha infatti annunciato l’acquisizione di Promptfoo, startup specializzata nella sicurezza e nella valutazione dei sistemi basati su modelli linguistici di grandi dimensioni (LLM). L’operazione, il cui valore economico non è stato reso pubblico, permetterà di integrare la tecnologia dell’azienda direttamente all’interno di OpenAI Frontier, la piattaforma pensata per sviluppare e gestire agenti IA destinati all’ambito aziendale.

Come spesso accade in questi casi, l’obbiettivo non è soltanto ampliare il portafoglio tecnologico ma soprattutto rendere più affidabile e controllabile l’uso dell’intelligenza artificiale nei contesti produttivi reali, un aspetto che sta assumendo un peso sempre maggiore man mano che gli agenti diventano parte integrante dei flussi di lavoro delle aziende.

Offerta

Tineco Floor ONE S7 Stretch Ultra

Lavapavimenti aspirapolvere senza fili, ad umido e a secco, Design reclinabile a 180°zero grovigli, 50 minuti di autonomia, auto-pulizia FlashDry a 85°C

329€ invece di 499€
-34%
Amazon 🛒

Cos’è Promptfoo e perché interessa a OpenAI

Fondata nel 2024 da Ian Webster e Michael D’Angelo, Promptfoo sviluppa strumenti pensati per testare, valutare e mettere alla prova i sistemi basati su LLM, con particolare attenzione alla sicurezza.

La piattaforma mette a disposizione diversi strumenti utilizzati dagli sviluppatori per individuare vulnerabilità nei modelli IA, testare comportamenti indesiderati degli agenti, simulare attacchi informatici o tentativi di manipolazione, e verificare la conformità delle applicazioni IA alle policy aziendali.

Tra le tecnologie più utilizzate troviamo un’interfaccia a riga di comando e una libreria open source dedicate al cosiddetto red teaming degli LLM, ossia la pratica di simulare attacchi per individuare punti deboli prima che possano essere sfruttati da terze parti.

Secondo quanto dichiarato dall’azienda, oltre il 25% delle società Fortune 500 utilizza già gli strumenti sviluppati da Promptfoo, segno di una diffusione significativa soprattutto nei contesti enterprise.

Dal punto di vista finanziario, la startup ha raccolto circa 23 milioni di dollari di investimenti e, dopo l’ultimo round nel luglio 2025, sarebbe stata valutata circa 86 milioni di dollari (secondo i dati PitchBook).

Le nuove funzionalità in arrivo su OpenAI Frontier

Una volta completata l’acquisizione, la tecnologia di Promptfoo verrà integrata direttamente nella piattaforma OpenAI Frontier, che l’azienda utilizza per lo sviluppo e la gestione di agenti IA destinati alle imprese.

In particolare, OpenAI prevede di introdurre diverse funzionalità chiave:

  • test di sicurezza integrati -> i sistemi sviluppati da Frontier possono essere sottoposti automaticamente a test di sicurezza e red teaming, utili per individuare problemi come prompt injection, jailbreak dei modelli, perdita di dati sensibili, utilizzo improprio degli strumenti e comportamenti degli agenti non conformi alle policy
  • sicurezza integrata nel ciclo di sviluppo -> la sicurezza diventerà parte integrante del processo di sviluppo degli agenti IA, permettendo agli sviluppatori di identificare e correggere i problemi direttamente nei flussi di lavoro
  • governance e tracciabilità -> OpenAI introdurrà anche sistemi di monitoraggio, registrazione e documentazione delle attività, pensati per aiutare le aziende a rispettare i requisiti di governance, rischio e conformità sempre più richiesti nella gestione dell’intelligenza artificiale

Perché la sicurezza degli agenti IA è diventata cruciale

Negli ultimi mesi l’attenzione del settore tecnologico si è spostata con decisione verso gli agenti IA autonomi, cioè sistemi capaci di eseguire operazioni complesse (come analizzare dati, interagire con software aziendali o prendere decisioni operative) senza intervento umano diretto.

Se da un parte queste tecnologie promettono notevoli aumenti di produttività, dall’altra introducono nuove superfici di attacco per eventuali malintenzionati; un agente IA collegato a database aziendali o servizi interni potrebbe infatti diventare un punto vulnerabile se non adeguatamente protetto.

Proprio per questo motivo, l’acquisizione di Promptfoo rappresenta un passo importante nella strategia di OpenAI: dimostrare che gli agenti IA possono essere utilizzati in modo sicuro anche in contesti aziendali critici.

Il progetto open source continuerà

Un dettaglio interessante riguarda il futuro degli strumenti open source di Promptfoo, OpenAI ha infatti confermato che il progetto open source continuerà a essere sviluppato, mentre le funzionalità più avanzate verranno integrate nella piattaforma Frontier destinata alle imprese.

Una scelta che potrebbe aiutare a mantenere il forte legame della startup con la community degli sviluppatori, elemento che spesso rappresenta uno dei fattori chiave nella diffusione delle tecnologie legate agli LLM.

Cosa aspettarsi nei prossimi mesi

L’acquisizione non è ancora stata finalizzata, come di consueto la chiusura dell’operazione è soggetta alle normali condizioni di completamento, ma segna comunque una direzione piuttosto chiara.

Con l’espansione degli agenti IA nei flussi di lavoro aziendali, sicurezza, monitoraggio e governance diventeranno elementi sempre più fondamentali, e le piattaforme che permetteranno di gestire questi aspetti in modo semplice e integrato potrebbero avere un ruolo centrale nel mercato.

Nei prossimi mesi sarà dunque interessante capire come OpenAI integrerà concretamente la tecnologia di Promptfoo all’interno di Frontier e quali nuove funzionalità verranno messe a disposizione delle aziende che stanno costruendo applicazioni basate su agenti IA.

Potrebbero interessarti anche:

I nostri contenuti da non perdere: