In Iowa, una scuola ha dovuto utilizzare l’intelligenza artificiale (AI) per decidere quali libri espliciti rimuovere dalla propria biblioteca al fine di adattarsi a una legge statale. Sebbene l’AI abbia svolto il suo compito, questo solleva domande importanti riguardo l’uso delle tecnologie nel campo dell’educazione e della cultura.
La scuola coinvolta in questa vicenda è la Mason City Community School District, che ha dovuto affrontare l’obbligo di rimuovere i libri con contenuti sessuali espliciti dalla sua libreria a causa di una nuova legge statale. Questa legge richiede che le biblioteche scolastiche si adattino all’età degli studenti e non includano raffigurazioni o descrizioni di atti sessuali espliciti. Tuttavia, l’operazione di revisione avrebbe richiesto molto tempo e personale, che spesso le scuole non hanno a disposizione.
In questa situazione di urgenza, la scuola ha deciso di rivolgersi all’AI per facilitare il processo. Il personale ha escluso inizialmente i libri che palesemente non avrebbero potuto contenere contenuti di quel tipo, ma questo non ha ridotto significativamente il numero di libri da esaminare. Quindi, i titoli del catalogo sono stati dati in pasto a ChatGPT, un modello di intelligenza artificiale, che ha risposto alla domanda: “Il libro in questione ha al suo interno raffigurazioni o descrizioni di atti sessuali espliciti?”. Sulla base di questa risposta, 19 libri sono stati rimossi dal catalogo della biblioteca.
Tuttavia, ci sono alcune preoccupazioni riguardo a questo metodo di selezione. Prima di tutto, l’AI priva le decisioni del senso critico umano, affidandole completamente ai modelli statistici che le supportano. Inoltre, non ci sono garanzie che l’AI abbia ragione: il Popular Science ha interrogato nuovamente l’AI sugli stessi libri e ha ottenuto risposte diverse, sollevando dubbi sulla sua affidabilità.
Episodi come questo ci costringono a riflettere sul ruolo delle tecnologie nell’educazione e sulla questione di delegare decisioni importanti agli algoritmi di intelligenza artificiale. Forse sarebbe invece più utile coinvolgere gli studenti in attività di dibattito e confronto che possano stimolare il loro senso critico e promuovere lo scambio di idee. Questo favorirebbe lo sviluppo di maturità e consapevolezza nelle nuove generazioni.
ChatGPT decide quali libri puoi leggere a scuola!
In Iowa, a school used AI to comply with a state law by deciding which explicit books to remove from its library. The school, Mason City Community School District, had to eliminate sexually explicit content to protect the fragile minds of its students. They decided to use ChatGPT, an AI, to carry out the selection process. However, the use of AI raises concerns about whether it will determine what we should think in the future. The new law requires libraries in Iowa to ensure that their collections are appropriate for students’ ages and do not contain explicit descriptions of sexual acts. This would take a long time for each school to review all the books in its library to identify and remove suggestive content. Due to time constraints, the Mason City Community School District sought the fastest way to comply with the law, and resorted to using ChatGPT. The school’s staff initially excluded books that obviously would not contain explicit content, such as non-fiction books. However, there were still numerous books remaining that needed to be examined or read. Therefore, the options were to read all the books (which would take a lot of time and effort) or seek help from artificial intelligence. The school provided ChatGPT with the titles of their catalog and asked whether each book contained explicit sexual content. ChatGPT identified 19 books as inappropriate and they were promptly removed from the library’s catalog. The problem with this method is that it completely relies on a bot, depriving the decision of human critical thinking. Moreover, there is no guarantee that ChatGPT’s assessments are accurate, as there were different responses when the same books were re-interrogated. This raises doubts about the effectiveness of adopting such a measure, unless it is due to time constraints. These incidents should make us reflect on the wisdom of delegating certain decisions to AI algorithms, and instead consider engaging students in activities that stimulate critical thinking and the exchange of ideas to promote maturity and awareness.
