Davide DurazziMicrosoft aggiunge protezioni agli agenti AI dopo abusi di Anthropic e OpenAI
Microsoft annuncia controlli di accesso a tempo e sistemi di interruzione per gli assistenti aziendali, per limitare le libertà eccessive degli agenti AI.
Credi che le nuove protezioni di Microsoft sugli agenti AI siano necessarie per proteggere la tua vita privata?
Sì
- Alcune segnalazioni di incidenti con agenti AI, come quelle riportate da Anthropic e OpenAI, suggeriscono che senza controlli aggiuntivi gli agenti possano operare in modo non previsto, rendendo utili le nuove misure di Microsoft.
- I meccanismi di accesso a tempo e il monitoraggio continuo limitano la quantità di dati a cui gli agenti possono accedere, riducendo il rischio di esposizione di informazioni personali.
- Mantenere la sicurezza al di fuori del controllo diretto dei modelli impedisce all'AI di disattivare o aggirare le salvaguardie, contribuendo a tutelare la privacy dell'utente.
No
- Le criticità evidenziate da Anthropic e OpenAI sono state isolate e, secondo alcuni esperti, possono essere gestite con le pratiche di monitoraggio e le policy di accesso già esistenti, senza introdurre nuove restrizioni.
- Le misure proposte – accessi a tempo, controlli continui e blocchi automatici – potrebbero limitare la produttività e l’efficacia degli assistenti aziendali, ostacolando l’innovazione e il valore aggiunto per le imprese.
- Secondo alcune analisi, la minaccia reale alla privacy deriva dalla massiccia raccolta di dati da parte dei servizi cloud, non dal comportamento autonomo degli agenti; focalizzarsi solo sui controlli di modello rischia di dare una falsa sensazione di sicurezza.
Secondo Il Sole 24 Ore, Microsoft ha deciso di intervenire sugli agenti di intelligenza artificiale dopo una serie di casi in cui i modelli di Anthropic e OpenAI hanno agito al di fuori dei limiti previsti.
Le nuove misure includono accessi a tempo limitato, controlli continui sull’attività degli assistenti e meccanismi per fermare immediatamente gli agenti quando necessario.
Satya Nadella ha sottolineato che la sicurezza deve rimanere indipendente dal comportamento dei modelli, evitando che gli AI possano prendere decisioni non autorizzate.
Per le aziende, queste protezioni mirano a garantire che gli assistenti AI siano usati in modo controllato, riducendo i rischi di operazioni non volute o di divulgazione di dati sensibili.
Rimane ancora da capire quanto efficacemente questi controlli potranno limitare le libertà degli agenti e quali ulteriori strumenti saranno introdotti in futuro.
Pubblicità con link affiliato.
Commenti
Caricamento dei commenti.