AI Act, dal 2 agosto scattano le nuove regole UE: chatbot e deepfake dovranno dichiararsi

Dal 2 agosto, entra in una nuova fase l’AI Act, il regolamento europeo sull’intelligenza artificiale. La Commissione europea avvia infatti l’applicazione di una parte significativa delle norme previste dalla legge, introducendo nuovi obblighi di trasparenza per i sistemi di IA e rafforzando i controlli sui modelli di intelligenza artificiale per finalità generali (GPAI), come quelli alla base dei principali chatbot e assistenti virtuali.

Le nuove disposizioni avranno effetti anche per aziende, pubbliche amministrazioni e utenti italiani che sviluppano, distribuiscono o utilizzano sistemi di intelligenza artificiale.

Chatbot e contenuti generati dall’IA: cosa cambia

Tra le principali novità c’è l’obbligo, per chatbot e altri sistemi di IA che interagiscono con le persone, di informare chiaramente gli utenti che stanno dialogando con un’intelligenza artificiale e non con un essere umano.

Scattano inoltre nuovi obblighi per i contenuti creati o modificati dall’IA. Immagini, video e audio realizzati attraverso tecniche di deepfake dovranno essere esplicitamente etichettati, mentre i contenuti generati dall’intelligenza artificiale dovranno includere marcatori leggibili automaticamente per facilitarne il riconoscimento.

L’obiettivo è limitare fenomeni di manipolazione e disinformazione, aumentando la trasparenza e consentendo ai cittadini europei di riconoscere più facilmente i contenuti artificiali.

Controlli più severi sui modelli di IA

Da oggi l’Ufficio europeo per l’Intelligenza artificiale (AI Office), istituito presso la Commissione europea, acquisisce anche poteri di vigilanza sui fornitori dei modelli di IA per finalità generali (General Purpose AI), cioè quelle tecnologie utilizzabili in numerose applicazioni, dagli assistenti virtuali agli agenti intelligenti.

Per i modelli considerati a rischio sistemico sono previsti obblighi aggiuntivi. Le aziende dovranno dimostrare di aver valutato e mitigato possibili rischi legati alla cybersicurezza, all’uso improprio dell’IA, alla tutela dei diritti fondamentali e ad altri scenari di danno su larga scala, compresi quelli legati ad attacchi informatici o alla perdita di controllo dei sistemi.

I fornitori saranno inoltre tenuti a documentare le caratteristiche dei modelli, adottare politiche sul rispetto del diritto d’autore e pubblicare una sintesi sufficientemente dettagliata dei contenuti utilizzati per l’addestramento.

Vietate le pratiche di IA più rischiose

Con l’entrata in vigore delle nuove disposizioni iniziano anche i controlli sulle pratiche di intelligenza artificiale considerate vietate dall’AI Act.

Tra queste rientrano i sistemi che manipolano il comportamento delle persone, sfruttano situazioni di particolare vulnerabilità o producono valutazioni discriminatorie tali da compromettere i diritti fondamentali degli individui.

L’attività di vigilanza sarà condivisa tra l’AI Office della Commissione europea, le autorità nazionali competenti dei singoli Stati membri e, per quanto riguarda le istituzioni europee, il Garante europeo della protezione dei dati.

Un impatto diretto anche sulle imprese italiane

Per le imprese italiane che sviluppano o integrano soluzioni basate sull’intelligenza artificiale, la nuova fase dell’AI Act rappresenta un passaggio operativo importante. Oltre agli obblighi di conformità, aumenta infatti l’attenzione verso trasparenza, governance dei dati e gestione dei rischi.

La Commissione europea ha inoltre pubblicato un primo elenco di oltre 180 organizzazioni che hanno aderito al Codice di buone pratiche sui modelli di IA per finalità generali, uno strumento pensato per facilitare l’applicazione delle nuove regole.

Nuovi strumenti per cittadini e aziende

Per favorire l’applicazione della normativa, Bruxelles ha messo a disposizione nuovi strumenti di monitoraggio. Cittadini, imprese e organizzazioni potranno segnalare presunte violazioni dell’AI Act attraverso un sistema dedicato, mentre chi opera all’interno delle aziende che sviluppano modelli di IA avrà accesso a un canale riservato per le segnalazioni (whistleblowing).

A supportare l’attività di vigilanza sarà anche un gruppo scientifico composto da 60 esperti indipendenti, chiamato a fornire consulenza tecnica all’AI Office nell’analisi dei modelli di intelligenza artificiale più avanzati.

Henna Virkkunen (FOTO) , Vicepresidente esecutiva per la Sovranità tecnologica, la sicurezza e la democrazia dichiara  “L’IA è una tecnologia trasformativa che può portare straordinari benefici alle nostre persone e alle nostre imprese. Ma stiamo anche vedendo che i danni possono verificarsi se l’IA non è adeguatamente progettata e utilizzata e i modelli più avanzati creano rischi su una scala completamente nuova. L’Europa ha anticipato questo sviluppo. Con la legge sull’IA abbiamo istituito un quadro chiaro, basato sul rischio e duraturo per un’IA affidabile, che offra agli innovatori certezza giuridica proteggendo nel contempo l’interesse pubblico. All’inizio dell’applicazione, stiamo compiendo un passo importante verso l’IA che le persone e le imprese possono comprendere e fidarsi e i cui benefici sono ampiamente condivisi in tutta la nostra società.”