L'altra faccia dell'AI

Gianluca Bisceglie è un ingegnere elettronico con MBA alla London Business School. Il suo lungo e intenso percorso professionale è su LinkedIn, dove si possono anche leggere, tra i tanti spunti proposti, gli articoli che da qualche tempo dedica all’AI, all’impatto su attività produttive, finanza, progettazione e realizzazione di infrastrutture e dispositivi tecnologici, ma anche ai rischi di un suo utilizzo troppo meccanico e acritico. Con questa nota, riadattata liberamente dall’Inglese, si iniziano a riproporre gli articoli di Gianluca sull’AI.

La facilità con cui l’AI ormai permette di generare codice per alimentare sistemi agentici non deve creare illusione che ci si possa affidare ciecamente once-and-for-all a soluzioni automatiche flessibili e onniscienti. Tutt’altro: man mano che l’AI diventa più capace, e ha la possibilità di compiere scelte operative, con effetti difficilmente reversibili o non reversibili affatto, l’intervento umano assume importanza cruciale: dalla fase di validazione dei modelli, alla messa a punto delle regole di ingaggio, alla lettura degli output. “Le organizzazioni che usciranno indenni dall’ondata di innovazioni radicali apertasi con l’AI non saranno quelle che hanno usato di più l’AI. Saranno quelle che si sono poste il problema, in modo deliberato e precoce, di fissare un chiaro confine tra dove finisce l’automatismo delegato all’AI e dove inizia la responsabilità umana”.

Piacevole da leggere, divulgativa e ricca di suggestioni, questa nota affronta un problema che in realtà, nei suoi tratti generali, si è presentato a economisti ed econometrici già da tanto tempo, e che l’arrivo dell’AI sta solo enfatizzando. Adesso che l’AI può aiutare a mettere assieme grandi dataset scandagliando e raccogliendo informazioni da tutta la rete, e può addirittura scrivere il codice di STATA, R, EViews, SPSS, PYTHON, etc., suggerendo anche tecniche di stima dei parametri di relazioni funzionali, diviene ancor più pericolosa la cosiddetta sindrome della black-box, quella di affidarsi ai software e ai tool preconfezionati perdendo contatto con la realtà sottostante.

“Quando un sistema agentico fraintende il contesto o sceglie l’azione sbagliata, non si limita a suggerire una cattiva idea come farebbe un chatbot. Esegue quella cattiva idea alla velocità della macchina. Il ruolo dell’ingegnere o del tecnico umano, invece di alleggerirsi, diventa più critico: qualcuno deve comunque costruire il sandbox, definire i permessi, progettare i trigger di rollback e gli interruttori di emergenza”.

Quello che Gianluca scrive sulle accresciute responsabilità di ingegneri e tecnici vale, mutatis mutandis, per gli economisti nei loro molteplici ambiti di lavoro coinvolti dai cambiamenti della AI.