Sempre più lavoratori utilizzano strumenti di intelligenza artificiale senza controlli o verifiche. Consumerismo porta alla Camera dei Deputati il dibattito su consapevolezza, sicurezza e tutela dei processi decisionali
L’intelligenza artificiale è ormai entrata nella nostra quotidianità lavorativa in modo silenzioso ma profondo. Sempre più spesso strumenti di AI generativa vengono utilizzati all’interno di aziende, istituzioni e professioni senza una reale governance, senza protocolli di sicurezza e, soprattutto, senza una piena consapevolezza dei limiti della tecnologia. Un problema che oggi non riguarda più soltanto il mondo tech, ma direttamente la qualità delle decisioni pubbliche, la sicurezza dei dati e l’affidabilità delle informazioni.
È proprio da queste riflessioni che nasce il workshop tenutosi presso la Camera dei Deputati dal titolo “Intelligenza Artificiale: limiti, responsabilità e vigilanza decisionale”, promosso dall’On. Massimo Milani e moderato da Luigi Gabriele, Presidente di Consumerismo No Profit, insieme al giornalista del Tg2 Lorenzo Lo Basso, con il supporto tecnico di Francesco Paolo D’Amico, esperto del comitato scientifico di Consumerismo.
Secondo i dati presentati durante il workshop, il 47% dei lavoratori italiani utilizza abitualmente strumenti di intelligenza artificiale sul posto di lavoro. Un dato enorme, che dimostra quanto queste tecnologie siano già penetrate nei processi professionali quotidiani. Ancora più significativo è il fatto che solo il 19% degli utenti utilizzi esclusivamente piattaforme ufficiali o autorizzate dalla propria organizzazione.
Questo significa che milioni di lavoratori utilizzano strumenti AI in modo autonomo, spesso caricando documenti, appunti, bozze di atti o materiali sensibili su piattaforme esterne senza alcuna supervisione.
È il fenomeno della cosiddetta “Shadow AI”: un utilizzo invisibile, non tracciato e fuori dal perimetro di sicurezza aziendale o istituzionale.
Ma c’è un altro dato che racconta quanto l’intelligenza artificiale stia già modificando il rapporto tra lavoratore e competenze: il 41% degli utenti afferma di riuscire a svolgere, grazie all’AI, attività che senza supporto tecnologico non sarebbe in grado di compiere autonomamente.
Durante il workshop si è parlato anche di uno dei rischi più delicati dell’AI generativa: la capacità di inventare informazioni inesistenti pur di colmare vuoti informativi. Normative inesistenti, sentenze mai emesse, dati errati o riferimenti completamente inventati possono apparire credibili grazie alla fluidità linguistica con cui vengono generati.
Ed è proprio questo uno degli aspetti più insidiosi: l’autorevolezza apparente della risposta rischia di abbassare il livello di controllo critico dell’utente.
Per questo, durante l’incontro alla Camera, è stata sottolineata la necessità di verificare sempre le fonti primarie prima di inserire contenuti generati dall’AI in atti formali, documenti pubblici o processi decisionali.
“Il nostro obiettivo non è frenare l’innovazione, ma promuovere un uso più consapevole, verificabile e responsabile dell’AI, soprattutto quando entra nei processi pubblici, professionali e decisionali. Se il 47% dei lavoratori adotta questi strumenti senza una governance chiara, significa che il rischio decisionale è già una realtà. Serve un presidio stabile di Educazione Artificiale per tutelare la qualità degli atti istituzionali e l’interesse dei cittadini”, ha dichiarato Luigi Gabriele, Presidente di Consumerismo No Profit.
Nel corso del workshop Francesco Paolo D’Amico ha evidenziato come il vero nodo non sia soltanto tecnologico, ma metodologico e culturale: l’intelligenza artificiale non può sostituire il controllo umano, soprattutto nei contesti istituzionali e professionali dove ogni errore può produrre conseguenze concrete.
“I rischi di un utilizzo non consapevole dell’intelligenza artificiale sono molteplici. Il primo è quello delle cosiddette allucinazioni, cioè risposte non verificate che appaiono corrette. Poi c’è l’effetto placebo digitale: quella sensazione di fiducia automatica che si crea davanti a una risposta ben costruita. Infine c’è il rischio di ottenere risultati sbagliati a causa di prompt formulati male: domande sbagliate generano inevitabilmente risposte sbagliate”, ha spiegato Francesco Paolo D’Amico, “Non bisogna mai affidarsi completamente all’output dell’intelligenza artificiale. È fondamentale verificare sempre le fonti da cui arrivano le informazioni e ottenere un riscontro ulteriore rispetto alla risposta fornita dalla macchina”.
Anche l’On. Massimo Milani ha richiamato l’attenzione sulla necessità che il legislatore acquisisca strumenti adeguati per comprendere davvero il funzionamento dell’AI e costruire regole capaci di accompagnare l’innovazione senza subirla passivamente.
“[…] Stiamo parlando di strumenti tecnici che l’uomo ha partorito e che tali devono rimanere: strumenti al servizio della persona umana. Questo non significa che dobbiamo averne paura, ma che dobbiamo conoscerli e utilizzarli nel modo corretto. Ogni innovazione tecnologica ha sempre spaventato le persone, ma oggi è importante capire come l’intelligenza artificiale possa diventare uno strumento di supporto anche nelle attività professionali e legislative”, ha dichiarato l’Onorevole Milani.
Il workshop ha così aperto una riflessione molto più ampia sul futuro della società digitale: chi controllerà i processi decisionali? Come evitare che la velocità dell’innovazione superi la capacità critica delle istituzioni? E soprattutto, come costruire una cultura dell’intelligenza artificiale che metta davvero al centro responsabilità, trasparenza e tutela dei cittadini?
di Elettra Nicotra