Segui Kryptus su Google News 
da Amanda Ortega de Castro Ayres
NIST
Negli ultimi anni le tecnologie che sfruttano l'intelligenza artificiale (IA) hanno rivoluzionato il nostro stile di vita. Nonostante i progressi e il benessere promossi per la società, essi impongono anche una serie di rischi, come analisi parziali e discriminatorie, l'eliminazione di alcuni tipi di lavoro operativo (che non richiedono più l'intervento umano), problemi legati alla privacy e alla sicurezza dei dati o addirittura preoccupazioni sociali e psicologiche, causate dall'uso eccessivo di applicazioni che utilizzano questo tipo di tecnologia. Questi e molti altri rischi possono avere un impatto negativo sugli individui, sui gruppi, sulle società o persino sull'ambiente e sul pianeta stesso.
A gennaio di quest'anno, l'agenzia governativa statunitense denominata NIST (National Institute of Standards and Technology) ha lanciato un'iniziativa per un Quadro di gestione del rischio dell'intelligenza artificiale. Questa iniziativa è il risultato di 18 mesi di discussioni collaborative con i settori pubblico e privato della società, tra cui aziende, agenzie governative, mondo accademico e organizzazioni non profit in tutto il mondo. Il framework è una guida per le organizzazioni che sviluppano o utilizzano soluzioni di intelligenza artificiale, in modo che possano gestire i rischi derivanti da questo tipo di tecnologia.
Il framework è composto da quattro funzioni di base: governo, mappatura, medicina e gestione. Ogni funzione è suddivisa in diverse categorie e sottocategorie, con azioni specifiche che le organizzazioni e gli individui devono intraprendere costantemente durante l'intero ciclo di vita delle applicazioni di intelligenza artificiale.
Governance
La governance è il principio di base per la gestione del rischio dell'intelligenza artificiale all'interno di un'organizzazione. Alcuni esempi di azioni che costituiscono la funzione di governance sono:
- Designare ruoli e responsabilità relativi ad altre funzioni principali (mappatura, misurazione e gestione);
- Sviluppare politiche e procedure per garantire la conformità legale e normativa delle applicazioni di intelligenza artificiale;
- Stabilire strumenti per raccogliere, stabilire le priorità e considerare il feedback proveniente da fonti esterne.
Mappatura
Stabilisce il contesto per inquadrare i rischi correlati alle applicazioni dell'intelligenza artificiale. Ciò implica la comprensione della complessa rete di attività interdipendenti da cui dipendono le applicazioni di intelligenza artificiale, il che rende più facile per gli attori dell'intelligenza artificiale anticipare gli impatti che potrebbero causare. I risultati di questa funzione alimentano le funzioni rimanenti (misurazione e gestione).
Medição
Utilizza strumenti, tecniche e metodologie quantitative, qualitative o miste per analizzare, valutare, confrontare e monitorare il rischio e l'impatto delle applicazioni di intelligenza artificiale. Utilizza la conoscenza dei rischi dell'IA identificati nella funzione di mappatura e informa la funzione di gestione. I sistemi di intelligenza artificiale devono essere testati prima di essere implementati e, anche quando sono in funzione, devono continuare a essere testati regolarmente.
Gestão
Comporta l'allocazione delle risorse ai rischi mappati e misurati come descritto nelle fasi precedenti e come definito dalla funzione di governance. Il trattamento del rischio comprende piani per rispondere a incidenti o eventi, per riprendersi e per comunicare in merito.
Gestione del rischio nell'intelligenza artificiale e nel settore della sicurezza informatica
L'AI Risk Management Framework pubblicato dal NIST fornisce una serie dettagliata di linee guida e azioni che le organizzazioni e gli individui coinvolti nell'intelligenza artificiale possono implementare nelle loro applicazioni. Di certo, le organizzazioni che applicano questo framework al loro modello di gestione saranno meglio preparate ad affrontare i rischi unici e spesso imprevedibili presentati dai sistemi di intelligenza artificiale. L'implementazione di questo framework è ancora più consigliabile per le organizzazioni che operano nell'ambito della sicurezza informatica, poiché inserite in contesti critici, nei quali guasti o malfunzionamenti possono comportare rischi ancora più dannosi per individui e organizzazioni.
D'altro canto, l'implementazione di questo quadro può comportare una serie di sfide all'interno di un'organizzazione. Il primo è la difficoltà nel comprenderne tutti i dettagli tecnici e nel saperli applicare in un contesto specifico. Inoltre, la sua attuazione richiede certamente l'allocazione di risorse all'interno dell'istituzione, siano esse in termini di tempo, denaro o conoscenze. È necessario mobilitare e formare team affinché l'implementazione di questo quadro venga condotta in modo da eliminare o almeno mitigare i rischi che i sistemi di intelligenza artificiale possono causare negli ecosistemi in cui sono inseriti.
Kryptus si occupa della sua piattaforma di controspionaggio e dell'analisi delle vulnerabilità umane utilizzando tecniche di intelligenza artificiale e apprendimento automatico, come uno dei suoi pilastri di innovazione. Per noi la gestione del rischio nell'intelligenza artificiale è sempre stata una preoccupazione. Collaboriamo a stretto contatto con un team di esperti in scienze umane e le discussioni sui rischi e sull'etica nell'intelligenza artificiale fanno parte della nostra routine di sviluppo. Per questo motivo, abbiamo accolto con grande interesse il lancio di questo framework da parte del NIST e abbiamo iniziato ad analizzarne tutti gli aspetti per implementarlo nella nostra organizzazione, tenendo conto di tutte le sfide che ciò comporterà sicuramente.
Di: Marcelo Buz, CEO di ITI di Kryptus, rilascia un'intervista esclusiva al sito web Portogente. “La pandemia avanza Per saperne di più
La soluzione verrà utilizzata in un nuovo programma ministeriale, che prevede un risparmio di R$ Per saperne di più
