▾ G11 Media Network: | ChannelCity | ImpresaCity | SecurityOpenLab | Italian Channel Awards | Italian Project Awards | Italian Security Awards | ...
InnovationCity

Come ridurre i pregiudizi sull’Intelligenza Artificiale?

Con il rilascio di DALL-E 2 e ChatGPT da parte di OpenAI, anche i singoli individui hanno avuto modo di iniziare a interagire con l’Intelligenza Artificiale (IA) osservandone il potenziale in prima persona, anche se in misura ridotta. Però ci si può fidare dell’Intelligenza Artificiale? Una risposta la fornisce Aaron Schneider, Associate Solutions Engineer di Couchbase.

Intelligenza Artificiale

Con il rilascio lo scorso anno di DALL-E 2 e ChatGPT da parte di OpenAI, anche i singoli individui hanno avuto modo di iniziare a interagire con l’Intelligenza Artificiale (IA) osservandone il potenziale in prima persona, anche se in misura ridotta. Si tratta di strumenti che possono sembrare magici, ricevono una richiesta testuale e forniscono una risposta. DALL-E trasforma il testo in un’immagine, ChatGPT avvia un’intera conversazione.

Ad esempio, chiedete un gattino addormentato a DALL-E e otterrete una selezione di splendide immagini. Chiedete a ChatGPT di scrivere un saggio sulla Rivoluzione americana e otterrete un testo coerente. Tuttavia, questi strumenti (e altri simili) non sono assolutamente magici e certo non infallibili. Infatti, se li guardiamo più da vicino, inizieremo a vedere come. Avete chiesto a DALL-E qualcosa relativo a mani o testo Probabilmente rimarrete delusi dalle “mani”, la tesi sulla Rivoluzione Americana? Beh, potrebbe avere qualche imprecisione o una formulazione non del tutto corretta. La viralità di questi due strumenti ci ha portato a confrontarci con le complesse ramificazioni sociali e legali relative alla democratizzazione degli strumenti di IA.

Ci si può fidare dell’Intelligenza Artificiale?

Nel momento del rilascio di ChatGPT in molti hanno reagito affermando che Google fosse nei guai. Perché usare Google per una ricerca, quando si può chiedere a ChatGPT? In realtà, con i suoi significativi investimenti in intelligenza artificiale, Google ha già realizzato uno strumento simile. Infatti, ha anche mostrato pubblicamente delle demo del proprio motore di linguaggio naturale, chiamato LaMDA AI, in cui l’utente può parlare con il pianeta Plutone e porgli tutte le domande che desidera. Tuttavia, Google non lo ha mai reso disponibile. Perché? In una recente riunione, il CEO di Google, Sundar Pichai, ha risposto a questa domanda citando il rischio di reputazione di un tale prodotto, facendo notare che i clienti si fidano intrinsecamente dei risultati di ricerca di Google e che “per le applicazioni di ricerca, i problemi di fattualità sono molto importanti, mentre per altre applicazioni sono fondamentali i problemi di parzialità, tossicità e sicurezza”. Mentre Google sta lentamente e metodicamente tracciando il suo futuro nell’IA, altri stanno cogliendo l’opportunità di sconvolgere lo status quo. Con il recente annuncio dell’intenzione di Microsoft di arricchire alcuni dei suoi prodotti principali (Office e Bing) con la tecnologia di OpenAI, dobbiamo guardare più da vicino per capire perché i motori di IA hanno il potenziale per essere disprezzati. Purtroppo, non è colpa dell’IA. Per capire perché, dobbiamo sbirciare dietro le quinte.

All’interno del cervello dell’IA

DALL-E e ChatGPT sono entrambi modelli di machine learning, utilizzano tecniche di modellazione ben studiate per creare sistemi predittivi che ricevono un input e restituiscono un output. DALL-E è stato alimentato con miliardi di coppie di immagini e didascalie provenienti da Internet e ha imparato come si relazionano, in modo tale che quando viene fornita una nuova didascalia possa generare un’immagine corrispondente. ChatGPT si basa sul modello linguistico GPT3, che ha ingerito testo da Internet e, quando gli viene chiesto di pronunciare una parola, può prevedere quale debba seguire. Il modello è stato poi implementato in un framework conversazionale. Il motivo per cui modelli come ChatGPT possono produrre risultati offensivi, razzisti o sessisti è che sono stati addestrati su un set di dati che conteneva milioni di esempi di contenuti negativi. Internet è pieno di persone che dicono cose terribili, usarlo come fonte di dati per addestrare un modello insegnerà senza dubbio a dire quelle stesse cose. Questo spiega perché aziende come Google approcciano con timore il rilascio di modelli di IA così complessi. Una volta terminato il complicato addestramento, non si può essere certi che, dato un particolare input, l’output prodotto sia accettabile. Il problema non è nuovo. Si parla di pregiudizi dell’IA quando un modello riflette i pregiudizi intrinseci del suo autore umano, impliciti nel set di dati. Cosa fare per ridurre questo rischio?

Shift Right: l’approccio ChatGPT

OpenAI era perfettamente consapevole di questo problema ben prima di rilasciare ChatGPT, tanto da aver previsto delle barriere per evitarlo. Il loro approccio era semplice: non permettete a ChatGPT di rispondere a domande che potrebbero suscitare risposte inappropriate. Il tool ha un elenco di parole chiave e frasi proibite alle quali non risponderà o risponderà in modo specifico.

Shift Left: l’approccio sicuro dal punto di vista della reputazione

Una strategia di più lungo termine consiste nel prendere in considerazione l’inizio del processo: se si eliminano i pregiudizi dal set di dati prima che il modello abbia la possibilità di apprenderli, si annulla di fatto la possibilità di creare un’intelligenza artificiale distorta. Sebbene OpenAI abbia cercato di limitare l’esposizione di GPT3 e DALL-E a testi e immagini inadeguati, non è stato efficace al 100%. La possibile soluzione? Realizzare prodotti di IA da applicare a casi d’uso più contenuti dove l’insieme di dati in ingresso è limitato.’’

Rimozione automatica dei pregiudizi, l’approccio di Couchbase

In qualità di custode dei dati, l’obiettivo di Couchbase è quello di mettere gli utenti in condizione di realizzare modelli di IA imparziali, consentendo ai ricercatori di rimuovere automaticamente le informazioni “rischiose” da un set di dati AI. Questo è possibile grazie al servizio Eventing, che consente di attivare in tempo reale sul server la logica di business definita dall’utente quando le interazioni dell’applicazione creano cambiamenti nei dati. In questo modo, è possibile verificare ed eventualmente rimuovere ogni contenuto potenzialmente controverso prima ancora che venga reso disponibile dal modello IA utilizzato, realizzando un incrocio virtuoso tra processi algoritmici e revisione umana e garantendo che il responso fornito dall’IA non vada contro i modelli di etica generalmente accettati, e promossi dalle aziende.

L’intelligenza artificiale è ormai onnipresente nella vita quotidiana di tutti e in futuro, dopo aver attraversato una fase di maturazione che ci permetterà di farvi sempre più affidamento, lo sarà ancora di più. Per questo è importante non sottovalutarla.

Tag correlati

Esplora altri articoli su questi argomenti

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato

Related news

Ultime Notizie

OpenAI amplia il programma ChatGPT

OpenAI offrirà ai ricercatori idonei, e ai loro collaboratori, l'accesso gratuito a ChatGPT Plus, oltre a formazione e supporto. Come impostazione predefinita, i dati dei ricercatori non vengono utilizzati per addestrare i modelli di OpenAI. Le candidature verranno accettate a partire da lunedì 23 novembre.

16-11-2026

Veeva Commercial Summit, l’Agentic AI per portare le medicine giuste a più pazienti

L’evento, che si terrà questa settimana a Copenaghen, prevede oltre 1200 esperti dei settori sanità e biopharma e più di 100 sessioni, tra cui le testimonianze di AstraZeneca, Angelini Pharma, Bayer, Bristol Myers Squibb, Grünenthal, Novo, Roche, UCB

16-11-2026

Microsoft down e il problema della “monocultura” digitale: il commento di Check Point Software

In passato esisteva una maggiore diversificazione e più possibilità di scelta; oggi, invece, troppe organizzazioni dipendono dallo stesso ristretto gruppo di fornitori, sia per la posta elettronica sia per i sistemi di autenticazione che consentono l'accesso ad altri servizi. Solo quest'anno, i danneggiamenti ai cavi sottomarini, la vulnerabilità PHP2Shell e un'importante interruzione dei servizi AWS hanno dimostrato quanto questa dipendenza ci renda vulnerabili.

16-11-2026

TeamSystem Wine, l’ERP cloud con AI per le aziende vitivinicole

TeamSystem Wine viene presentato in anteprima al SIMEI 2026, il Salone Internazionale delle Macchine per Enologia e Imbottigliamento, in programma a Fiera Milano Rho dal 17 al 20 novembre. LA nuova soluzione di TeamSystem è un ERP completo progettato specificamente per le aziende vitivinicole: un’unica soluzione per gestire i processi della cantina, dagli adempimenti di settore fino alla gestione commerciale e amministrativa.

16-11-2026

Notizie più lette

1 GreenGo in Puglia: ottenuta l'autorizzazione per l'impianto agrivoltaico "Zanotti" da 28,5 MWp

L'iniziativa firmata dalla SPV Orange nel Comune di San Severo porta a 87,1 MWp la potenza complessiva autorizzata dal gruppo nel 2026 e si inserisce in una manovra di project financing da 210 milioni di euro affiancata dai fondi FER X.

2 PoliMi: sviluppato un laser che "disegna" la superconduttività nanometrica per i dispositivi quantistici

Una ricerca internazionale guidata dall'ateneo milanese dimostra come la scrittura laser diretta permetta di modulare la concentrazione di ossigeno nei superconduttori ad alta temperatura, creando circuiti su misura senza degrado chimico.

3 Attacco hacker ai frigoriferi: ll frigorifero di casa mia è al sicuro?

Il commento a cura di Marco Fanuli, Technical Director di TrendAI Italia.

4 SACE, SMBC e Intesa Sanpaolo supportano Jinko Power: nuovo impulso agli impianti green in Italia

L'Export Credit Agency italiana, Sumitomo Mitsui Banking Corporation e Intesa Sanpaolo siglano un finanziamento green da 50 milioni di euro per sostenere un piano complessivo da 127 milioni dedicato alla realizzazione di nuovi parchi fotovoltaici, agrivoltaici e sistemi di accumulo in diverse regioni del Centro-Sud.

Iscriviti alla nostra newsletter

Join our mailing list to get weekly updates delivered to your inbox.

Iscriviti alla newsletter

www.innovationcity.it - 8.3.36 - 4.6.4