ChatGPT per la censura di libri: rimossi 19 volumi dalla biblioteca di una scuola

 

 

Succede nel distretto scolastico di Mason City, Iowa: per essere in regola con la nuova legislazione,  i responsabili hanno chiesto all’intelligenza artificiale di individuare i libri che “contengono una descrizione o una rappresentazione di un atto sessuale”.

 

 

 

Negli Stai Uniti, in un contesto nazionale di divieti su alcuni libri e campagne di censura, gli educatori dell’Iowa si stanno rivolgendo a ChatGPT per aiutare a decidere quali titoli dovrebbero essere rimossi dagli scaffali delle loro biblioteche scolastiche al fine di rispettare la recente legislazione statale .

Secondo un articolo dell’11 agosto sul quotidiano dell’Iowa The Gazette, il distretto scolastico della comunità di Mason City ha recentemente rimosso 19 libri dalla sua collezione in vista dell’anno accademico 2023-24.

Il divieto tenta di rispettare una nuova legge che richiede che i cataloghi delle biblioteche scolastiche dell’Iowa siano sia “adatti all’età” che privi di “descrizioni o rappresentazioni visive di un atto sessuale”.

Parlando con The Gazette la scorsa settimana, l’assistente sovrintendente all’istruzione di Mason City, Bridgette Exman, ha sostenuto che “semplicemente non era fattibile leggere ogni libro e filtrare per questi nuovi requisiti”.

“Francamente, abbiamo cose più importanti da fare che passare molto tempo a cercare di capire come proteggere i bambini dai libri”, dice Exman su Popular Science.

“Allo stesso tempo, abbiamo l’obbligo legale ed etico di rispettare la legge”.

Secondo The Gazette, la strategia risultante ha comportato la compilazione di un elenco di libri comunemente contestati, quindi l’utilizzo di un “software AI” per fornire presumibilmente analisi testuali per ciascun titolo.

I libri segnalati sono stati poi rimossi dalle collezioni della biblioteca scolastica di Mason City e “conservati nel Centro amministrativo” poiché gli educatori “attendono ulteriori indicazioni o chiarezza”.

I titoli includevano Il colore viola di Alice Walker, The Handmaid’s Tale di Margaret Atwood, Beloved di Toni Morrison e Friday Night Lights di Buzz Bissinger.

“Abbiamo usato Chat GPT” dice Exman, chiedendo a se secondo la nuova legge dell’Iowa il libro contiene una descrizione o una rappresentazione di un atto sessuale”.

“Se la risposta è sì, il libro è rimosso dalla circolazione e conservato”.

ChatGPT di OpenAI è probabilmente il programma di intelligenza artificiale generativa più noto e popolare attualmente disponibile al pubblico.

Sfruttando grandi quantità di dati, il modello LLM (Large Language Model) offre agli utenti risposte convincenti agli input, ma, negli ultimi mesi, i ricercatori hanno teorizzato che la sua consistenza e qualità sembra degradarsi nel tempo.

Dei 19 titoli rimossi tramite ChatGPT, solo quattro contenevano “contenuti espliciti o sessuali”. Altri sei presumibilmente “temi per adulti ma non contenuti espliciti necessari”.

I restanti nove sono stati ritenuti includere “temi principalmente per adulti, poco o nessun contenuto sessuale esplicito”.

Indipendentemente dal fatto che uno qualsiasi dei titoli contenga o meno tali contenuti, le diverse risposte di ChatGPT evidenziano preoccupanti carenze di accuratezza, analisi e coerenza.

Una domanda ripetuta, ad esempio, dà risposte contraddittorie. In una risposta, ChatGPT ritiene che il romanzo di Khaled Hosseini contenga “poco o nessun contenuto sessuale esplicito”.

Ma, successivamente, il LLM afferma che il libro “contiene una descrizione di un’aggressione sessuale”.

Nonostante queste preoccupazioni note, la fretta di aderire alle nuove linee guida potrebbe comportare un continuo utilizzo di scorciatoie AI come ChatGPT.