AI fuori controllo? Cosa devono fare CEO e CIO con l’AI Act

di Alessia Tupputi, Head of Project Management IT Governance, Derga
 

L’intelligenza artificiale è entrata rapidamente nei processi aziendali: strumenti di AI generativa, motori predittivi, chatbot, analytics avanzati e automazioni sono già presenti in molte organizzazioni, spesso in modo distribuito e non sempre governato.

In questo contesto, l’AI Act europeo rappresenta il primo quadro normativo organico pensato per regolamentare lo sviluppo e l’utilizzo dell’AI in Europa. Per le aziende, non si tratta soltanto di un tema tecnologico o legale: riguarda governance, accountability, gestione del rischio e capacità di innovazione.

Per questo motivo, oggi CEO e CIO sono chiamati ad assumere un ruolo diretto.

Perché il tema è critico oggi

In molte aziende l’intelligenza artificiale viene già utilizzata in attività operative, customer service, HR, finance o supporto decisionale, ma senza un framework strutturato di controllo.

Parallelamente, cresce l’attenzione su temi come:

• protezione dei dati;
• trasparenza degli algoritmi;
• bias e discriminazioni;
• responsabilità delle decisioni automatizzate;
• sicurezza e affidabilità dei sistemi.

L’AI Act nasce proprio per ridurre questi rischi, più un sistema AI può avere effetti rilevanti su persone o processi critici, più l’azienda deve dimostrare controllo e governance. Per le aziende, il punto centrale è che la compliance non può essere affrontata solo come un adempimento tecnico: richiede un presidio manageriale e decisionale.

Cosa vediamo oggi nelle aziende

Nella pratica, molte organizzazioni si trovano in una fase intermedia: l’AI è già presente, ma la governance spesso non è ancora matura. Uno degli aspetti più frequenti è la diffusione della cosiddetta “Shadow AI”: dipendenti e team utilizzano strumenti di AI generativa o piattaforme esterne senza policy condivise, senza processi di validazione e senza piena consapevolezza dei rischi.

Spesso queste soluzioni vengono adottate rapidamente per esigenze di efficienza e competitività, ma senza una mappatura completa degli utilizzi e delle responsabilità.

[Di questo e molto altro, parleremo nel prossimo evento Derga dedicato alle innovazioni legate all’AI in ogni ambito]

Questo espone le aziende a rischi operativi, reputazionali e normativi.

AI Act: perché riguarda subito CEO e CIO

L’AI Act non è solo una questione IT.

La normativa impatta direttamente il modello operativo aziendale, la gestione dei processi decisionali e l’accountability interna. Per questo CEO e CIO devono essere coinvolti fin dalle prime fasi.

Uno dei primi passi concreti è identificare dove e come viene utilizzata l’intelligenza artificiale. Molte aziende scoprono che l’AI non è presente solo nei progetti ufficiali, ma anche in strumenti adottati autonomamente dai team.

È quindi necessaria una mappatura puntuale ed efficacie che consenta di costruire un inventario dei sistemi AI e di comprendere quali applicazioni possano rientrare nelle categorie di rischio previste dall’AI Act.

AI Governance: chi decide, chi controlla, chi risponde

Per essere realmente pronti, le aziende devono costruire un modello di AI Governance.

Questo significa definire:

• ruoli e responsabilità;
• processi decisionali;
• criteri di approvazione;
• monitoraggio dei rischi;
• policy di utilizzo;
• controlli e audit.

Le funzioni coinvolte sono molteplici: CIO, CDO, Legal, Compliance, Risk Management e HR.

L’obiettivo è creare un presidio trasversale capace di garantire equilibrio tra innovazione e controllo.

La raccomandazione di Alessia

Per molte organizzazioni, la vera sfida non è soltanto comprendere la normativa, ma trasformarla in un modello operativo concreto. Serve un approccio strutturato che unisca governance ICT, gestione progettuale, controllo dei rischi e capacità di execution.

In questo scenario, Derga supporta le aziende attraverso una Line of Business specializzata nella governance ICT, offrendo supporto operativo completo di figure che lavorino al fianco del CEO, CIO e\o tutte le aree aziendali coinvolte per delineare il modello operativo adottato.

A seconda della complessità delle iniziative, il supporto può essere erogato da figure professionali specializzate quali Project Strategical Expert, Senior Project Manager, Project Manager, Project Consultant e Project Analyst, con esperienza maturata su progetti strutturati e consolidate metodologie di Project Management certificate.

L’obiettivo è garantire pianificazione accurata, monitoraggio continuo e controllo efficace delle tempistiche, supportando le aziende nell’introduzione di modelli di AI governance sostenibili, conformi e orientati ai risultati.

Perché oggi, più che adottare l’intelligenza artificiale, il vero tema è governarla in modo responsabile e tempestivo.

Derga vuole essere promotore di innovazione responsabile e governata perché crediamo fortemente che nessuna innovazione sia vincente senza un perimetro chiaro e responsabile di applicazione.

Vuoi sapere le nostre ultime novità? Parliamone!