Un incidente recente ha visto un agente AI di PocketOS cancellare milioni di dati in appena 9 secondi, portando a una riflessione profonda sulla governance dell'intelligenza artificiale nelle aziende. Questo evento ha evidenziato il fenomeno dell'AI Blind Spot, dove gli agenti AI operano senza un adeguato monitoraggio e controllo. Secondo Gartner, entro il 2028, le aziende della Fortune 500 potrebbero avere oltre 150.000 agenti AI attivi, un aumento significativo rispetto ai meno di 15 nel 2025. Durante la conferenza Knowledge 2026, ServiceNow ha presentato la sua AI Control Tower, progettata per monitorare e gestire questi agenti, introducendo un 'Kill Switch' per spegnerli in caso di comportamenti anomali. La governance dell'AI è diventata cruciale, con la necessità di una 'carta d'identità' digitale per ogni agente, simile a quella dei dipendenti. Filippo Giannelli di ServiceNow ha sottolineato che la vera sfida è governare l'AI in modo che generi valore all'interno di processi chiari e tracciabili. L'incidente di PocketOS serve da monito per le aziende, dimostrando che l'autonomia senza controllo può portare a gravi incidenti operativi.