Con l’enorme diffusione delle soluzioni di intelligenza artificiale registrata negli ultimi mesi sono divenute anche più frequenti le segnalazioni di problemi più o meno gravi generati dall’IA e ciò ha acceso i riflettori sul tema della sicurezza.
Sono in tanti, infatti, a temere che il settore dell’intelligenza artificiale sia esposto a rischi il cui possibile impatto forse è ancora persino da valutare e non c’è da stupirsi, pertanto, se un’azienda del calibro di Anthropic abbia deciso di affidare ad un’entità terza un controllo della sua infrastruttura.
Segui TuttoTech.net su Google Discover
Anthropic e la collaborazione con METR
Nei giorni scorsi Anthropic ha reso noto di avere incaricato METR, un’organizzazione no-profit che valuta i modelli di intelligenza artificiale all’avanguardia, di effettuare un controllo relativo ai modelli, alle pratiche di sicurezza e alla gestione del rischio di questo colosso del settore IA.
Anthropic ha anche precisato di avere garantito a un team di sei ricercatori di METR un accesso a livello di dipendente, fornendo loro hardware aziendale, spazi in ufficio e accesso a strumenti e sistemi interni sostanzialmente equivalenti a quelli a disposizione dei team di valutazione del rischio del colosso dell’IA.
Alla fine della valutazione, METR pubblicherà la sua analisi dei livelli di rischio, incidenti o pratiche di Anthropic, che non potrà porre il veto alla pubblicazione, anche se avrà la possibilità di richiedere che vengano oscurate le informazioni se rientrano in alcune categorie predefinite (come i dati sui clienti, le informazioni coperte dal segreto professionale o le informazioni sulle architetture dei modelli).
Stando a quanto è stato spiegato da Anthropic, con l’aumentare della potenza dei modelli sono diventate necessarie misure di sicurezza più rigorose e valutazioni del rischio più complesse e l’azienda vuole essere pubblicamente responsabile delle decisioni che prende.
Per ulteriori informazioni su come verrà condotta la valutazione da parte del team di METR vi rimandiamo all’articolo pubblicato da Anthropic.
I nostri contenuti da non perdere:
- 🔝 Importante: Volantino Lidl, da oggi lunedì 19 ottobre la seconda ondata Parkside
- 📚 Approfitta ora e studia (o gioca) meglio: i migliori notebook MSI in offerta per il Back To School 2026
- 💰 Risparmia sulla tecnologia: segui Prezzi.Tech su Telegram, il miglior canale di offerte
- 🏡 Seguici anche sul canale Telegram Offerte.Casa per sconti su prodotti di largo consumo