di Massimo Mazzucco
Esattamente come gli umani, anche l’intelligenza artificiale ha imparato a mentire. Si inventa cose che non esistono.
Il problema è sorto di recente, da quando il sistema sanitario nazionale americano (HHS) ha introdotto un modello di intelligenza artificiale chiamato ELSA (Efficient Language System for Analysis). Lo scopo di ELSA doveva essere quello di sveltire le pratiche di approvazione dei nuovi medicinali, conducendo ricerche su larga scala su tutta la documentazione scientifica già esistente.
Ma, finchè si tratta di fare il riassunto di migliaia di ricerche scientifiche già pubblicate, l’Intelligenza Artificiale è sicuramente uno strumento molto efficace. Il problema nasce quando le si chiede di dare una sua valutazione sulla eventuale efficacia e sicurezza di un nuovo farmaco, perché a quel punto si è scoperto che ELSA, molto disinvoltamente, si inventa anche ricerche scientifiche che non sono mai esistite.
In gergo, si chiamano “allucinazioni”. Ma sono vere e proprie bugie.
Dall’articolo della CNN leggiamo: “Sei attuali ed ex funzionari della FDA hanno dichiarato alla CNN che Elsa può essere utile per generare appunti e riepiloghi di riunioni, o modelli di email e comunicati. Ma ha anche inventato studi inesistenti, noti come ‘allucinazioni’ o ricerche travisate dall’IA. Questo la rende inaffidabile per il loro lavoro più critico, hanno affermato i dipendenti.”
“Tutto ciò che non si ha il tempo di ricontrollare è inaffidabile. Si inventa cose con grande tranquillità” ha detto un dipendente, “ben lontano da quanto promesso pubblicamente”.
“L’IA dovrebbe farci risparmiare tempo, ma vi garantisco che spreco un sacco di tempo extra solo a causa della maggiore vigilanza che devo avere per verificare la presenza di studi falsi o travisati”, ha affermato un secondo dipendente della FDA.
Bisogna dire che in questo la IA mostra anche un aspetto umano, nel senso che sta imparando a mentire, esattamente come lo facciamo noi. In fondo, non c’è molta differenza fra le “invenzioni” di ELSA e un Burioni qualunque, che parlando in televisione si inventa serenamente “migliaia di studi scientifici che confermano la sicurezza” di un certo farmaco, quando noi sappiamo benissimo che quelle migliaia di studi esistono solo nel suo cervello.
Alla fine, gira e rigira, a furia di voler imitare il cervello umano, i creatori della intelligenza artificiale sono riusciti a replicare solo quello di Burioni: ovvero, la deficienza naturale.
Articolo di Massimo Mazzucco
Riferimenti: https://edition.cnn.com/2025/07/23/politics/fda-ai-elsa-drug-regulation-makary
Fonte: https://luogocomune.net/scienza-e-tecnologia/l%E2%80%99intelligenza-artificiale-ha-imparato-a-mentire
