Il 2 febbraio 2025 sono entrate in vigore le prime disposizioni vincolanti dell’AI Act, la normativa dell’Unione Europea che regola lo sviluppo e l’uso dell’intelligenza artificiale (IA) in base al livello di rischio associato. Queste prime misure si concentrano in particolare sui sistemi di IA avanzati capaci di riconoscere le emozioni umane.
Divieto del riconoscimento delle emozioni nei contesti lavorativi e scolastici
L’AI Act classifica come “pratiche ad alto rischio” l’utilizzo di sistemi di IA per il riconoscimento delle emozioni in ambienti lavorativi ed educativi, vietandone l’uso per scopi non medici o non legati alla sicurezza. Ad esempio, è proibito impiegare l’IA per dedurre emozioni durante colloqui di lavoro o periodi di prova, monitorare le emozioni degli studenti durante le lezioni, valutare lo stress dei lavoratori o le loro interazioni con i clienti.
Definizione di emozioni e chiarimenti sulle eccezioni
Il concetto di “emozioni” è inteso in senso ampio, includendo stati come felicità, tristezza, rabbia, sorpresa, disgusto, imbarazzo, eccitazione, vergogna, disprezzo, soddisfazione e divertimento. Tuttavia, non comprende stati fisici come dolore o affaticamento. Di conseguenza, sistemi utilizzati per rilevare la stanchezza di piloti o conducenti professionisti, al fine di prevenire incidenti, sono considerati autorizzati.
Rilevazione di espressioni e movimenti: quando è vietata?
Le linee guida specificano che la semplice rilevazione di espressioni, gesti o movimenti osservabili non rientra nel divieto, a meno che non siano utilizzati per identificare o dedurre emozioni. Ad esempio, un’emittente televisiva che utilizza un’IA per contare i sorrisi di un conduttore non viola la legge. Al contrario, sistemi che deducono, attraverso la voce o i gesti del corpo, che uno studente è furioso e sta per diventare violento, rientrano nella categoria del “riconoscimento delle emozioni” vietato.
Come l’IA legge le emozioni
L’intelligenza artificiale può interpretare le emozioni umane analizzando diversi input di dati, come espressioni facciali, toni di voce, linguaggio del corpo e contenuti testuali. Ad esempio, i sistemi di IA dotati di computer vision possono valutare i movimenti del volto—come sorrisi o cipigli—per determinare gli stati emotivi. Allo stesso modo, gli algoritmi di elaborazione del linguaggio naturale analizzano i modelli di voce, il tono e il timbro per identificare emozioni come felicità, rabbia o tristezza. Nell’analisi del testo, l’IA esamina la scelta delle parole e la struttura delle frasi per valutare il sentimento espresso. Queste tecnologie trovano applicazione in settori come il customer service, dove comprendere lo stato emotivo di un cliente può migliorare l’efficacia del servizio.
L’IA che legge le emozioni: quando è “ad alto rischio”
Tutti i sistemi di IA per il riconoscimento delle emozioni, che non rientrano nelle eccezioni previste dall’AI Act o che sono utilizzati al di fuori dei luoghi di lavoro o delle istituzioni educative, sono considerati comunque “ad alto rischio” e sono soggetti a requisiti specifici.
Critiche e prospettive future
Nonostante l’AI Act rappresenti un passo significativo nella regolamentazione dell’IA, alcune voci critiche sostengono che il divieto relativo al riconoscimento delle emozioni sia troppo limitato, poiché non copre usi discriminatori da parte delle autorità pubbliche. Un maggiore rigore normativo avrebbe potuto meglio tutelare i cittadini dell’Unione.
L’entrata in vigore di queste disposizioni rappresenta un passo significativo nella regolamentazione dell’IA nell’Unione Europea, con l’obiettivo di garantire un utilizzo etico e responsabile delle tecnologie emergenti.
