NordLayer lancia AI Scout: uno strumento per monitorare l’uso di intelligenza artificiale nelle aziende

NordLayer ha recentemente presentato AI Scout, un innovativo strumento progettato per fornire alle aziende una maggiore visibilità sull’uso di servizi di intelligenza artificiale (AI) da parte dei dipendenti. Con l’aumento dell’adozione di tecnologie AI nelle aziende, cresce anche il rischio di esposizione a dati sensibili attraverso strumenti non autorizzati. AI Scout si propone di affrontare queste sfide, monitorando le interazioni degli utenti su browser e desktop.

Questo strumento standalone è in grado di identificare sia i servizi di AI autorizzati che quelli non autorizzati, misurando l’utilizzo effettivo rispetto alle sottoscrizioni acquistate. Inoltre, AI Scout stima il consumo di token tra i modelli linguistici impiegati, fornendo così un quadro completo dell’uso dell’AI all’interno dell’azienda.

Una delle caratteristiche distintive di AI Scout è la sua capacità di ispezionare i prompt e di bloccare o redigere contenuti sensibili prima della loro trasmissione a servizi esterni. I controlli basati sul browser possono intervenire anche quando un dipendente inserisce informazioni che necessitano di ulteriore revisione, garantendo così una maggiore sicurezza nella gestione dei dati.

Il monitoraggio di AI Scout si estende oltre i tradizionali chatbot, includendo agenti AI e le loro connessioni tecniche con i servizi aziendali. Gli amministratori hanno la possibilità di ispezionare l’infrastruttura MCP collegata ad agenti di programmazione e di valutare le capacità operative di questi sistemi. Questa funzionalità è particolarmente importante in un contesto in cui il fenomeno dello shadow AI è in crescita, con molti dipendenti che utilizzano servizi gratuiti o non approvati.

Secondo indagini recenti, il 59% delle aziende spende oltre 1 milione di dollari all’anno in tecnologie AI. Inoltre, il 42% dei dipendenti utilizza sistemi AI approvati, mentre il 70% si avvale di modelli gratuiti sul posto di lavoro. Le violazioni legate allo shadow AI possono aumentare il costo medio globale di una violazione di dati di circa 400.000 dollari, su un valore medio di 4,99 milioni. Questi dati evidenziano l’importanza di strumenti come AI Scout, che possono aiutare le aziende a mitigare i rischi associati all’uso non autorizzato dell’AI.

Infine, NordLayer sottolinea che l’AI DLP (Data Loss Prevention) di AI Scout è progettata per ispezionare i prompt e controllarli prima dell’invio, evitando così l’immissione di dati sensibili. La rapida crescita di nuovi modelli linguistici richiede strumenti di telemetria in grado di raccogliere in un’unica piattaforma l’utilizzo dell’AI, autorizzato o meno, per garantire un ambiente di lavoro più sicuro e conforme.