Gli assistenti di scrittura basati sull’IA influenzano le nostre opinioni?
Foto di Kaitlyn Baker su Unsplash
Negli ultimi tempi, gli assistenti di scrittura basati sull’intelligenza artificiale (IA) hanno guadagnato sempre più popolarità. Questi strumenti promettono di completare le frasi e offrire “risposte intelligenti”, facilitando così il processo di scrittura. Tuttavia, una nuova ricerca suggerisce che questi assistenti non solo guidano le persone nella scrittura delle parole, ma possono anche influenzare le loro idee. Maurice Jakesch, uno studente di dottorato nel campo della scienza dell’informazione presso la Cornell University, ha condotto uno studio che rivela come l’utilizzo di assistenti di scrittura basati sull’IA possa condizionare le opinioni degli utenti.
L’impatto degli assistenti di scrittura sull’opinione pubblica
Jakesch ha chiesto a più di 1.500 partecipanti di scrivere un paragrafo rispondendo alla domanda: “I social media fanno bene alla società?” I risultati hanno dimostrato che le persone che hanno utilizzato un assistente di scrittura basato sull’IA con un pregiudizio a favore o contro i social media avevano il doppio delle probabilità di scrivere un paragrafo che riflettesse l’opinione dell’assistente. Questi partecipanti erano anche più propensi a dichiarare di condividere l’opinione dell’assistente stesso.
Le implicazioni per la cultura e la politica
Questo studio solleva importanti riflessioni sulle implicazioni che i pregiudizi presenti negli assistenti di scrittura basati sull’IA possono avere sulla cultura e sulla politica. Secondo Mor Naaman, coautore dello studio e professore presso il Jacobs Technion-Cornell Institute, dobbiamo comprendere meglio le conseguenze di queste tecnologie prima di implementarle su larga scala. Oltre all’efficienza e alla creatività, gli assistenti di scrittura potrebbero influenzare il linguaggio e le opinioni delle persone, plasmando così la società in modi imprevisti.
Il ruolo dei modelli di intelligenza artificiale
Mentre in precedenza sono stati esaminati i modelli di intelligenza artificiale nel contesto della creazione di annunci persuasivi e messaggi politici, questo studio rappresenta la prima prova che l’utilizzo di assistenti di scrittura basati sull’IA può influenzare le opinioni degli individui. L’esperimento di Jakesch ha dimostrato che anche coloro che hanno dedicato più tempo a scrivere il proprio paragrafo sono stati influenzati in modo significativo dall’assistente. Ciò porta a farsi domande sul livello di consapevolezza che gli utenti hanno dell’influenza esercitata da questi strumenti. Lo scorso aprile Jakesch ha presentato lo studio, “Co-Writing with Opinionated Language Models Affects Users’ Views“, alla conferenza CHI (Computer Human Interaction) 2023 sui fattori umani nei sistemi informatici, dove il documento ha ricevuto una menzione d’onore.
La necessità di discussione e regolamentazione
La diffusione di disinformazione e l’effetto delle echo chambers sono fenomeni noti nell’ambito dei social media. Tuttavia, gli assistenti di scrittura basati sull’IA potrebbero generare cambiamenti di opinione simili, a seconda degli strumenti utilizzati dagli utenti. Alcune organizzazioni stanno già sviluppando alternative a ChatGPT progettate per esprimere punti di vista più conservatori. Queste tecnologie richiedono una discussione pubblica più ampia sul loro possibile uso improprio e sulla necessità di monitoraggio e regolamentazione.
Conclusioni
L’utilizzo degli assistenti di scrittura basati sull’IA sta diventando sempre più diffuso, ma dobbiamo considerare attentamente le implicazioni di tali strumenti. Lo studio di Jakesch evidenzia come l’utilizzo di assistenti di scrittura possa influenzare le opinioni delle persone, con potenziali ripercussioni su cultura e politica. È fondamentale comprendere come stiamo governando i valori, le priorità e le opinioni incorporate in queste tecnologie in continua evoluzione. Solo attraverso discussioni pubbliche e regolamentazioni adeguate possiamo assicurarci che queste tecnologie siano utilizzate in modo responsabile e rispettoso della diversità di opinioni nella nostra società.
Fonte: https://news.cornell.edu/stories/2023/05/writing-ai-help-can-shift-your-opinions
About Post Author
