Come se non bastasse, non ci sono solo ChatGPT e gli altri modelli linguistici di grandi dimensioni a tentare gli studenti. Alla lista vanno aggiunti anche i cosiddetti word spinner, software AI in grado di riscrivere i testi e che possono essere più difficili da individuare per un insegnante. Annie Chechitelli, chief product officer di Turnitin, dichiara che il tool dell’azienda è stato aggiornato in modo da rilevare i word spinner, e che può segnalare anche i testi riscritti da servizi come Grammarly, il correttore ortografico dei testi in inglese che ora dispone di un suo strumento di AI generativa. In un periodo in cui i software familiari aggiungono sempre più funzioni di intelligenza artificiale generativa, il confine tra ciò che gli studenti possono o non possono usare diventa più confuso.
I limiti dei rilevatori dei testi AI
Ma anche gli strumenti di rilevamento sono soggetti a errori, che spesso prendono di mira soprattutto gli studenti di lingua inglese. Uno studio del 2023 ha per esempio riscontrato un tasso di falsi positivi del 61,3% nella valutazione degli esami del Toefl (Test of english as a foreign language, una delle più conosciute certificazioni del livello di inglese) da parte di sette diversi rilevatori di AI. Turnitin – che non era inclusa tra l’aziende prese in considerazione dallo studio – afferma di aver addestrato il suo rilevatore usando testi scritti da studenti di inglese e madrelingua. In una ricerca pubblicata a ottobre, lo strumento di Turnitin è risultato inoltre tra i più efficaci nel distinguere i testi realizzati da studenti universitari da quelli generati dall’AI.
Le scuole hanno avuto accesso al software di rilevamento dell’intelligenza artificiale di Turnitin per un periodo di prova gratuito, terminato all’inizio di quest’anno. Chechitelli spiega che la maggior parte dei clienti dell’azienda ha poi scelto di acquistare lo strumento. I rischi di falsi positivi e di bias hanno però spinto alcune università a mettere momentaneamente da parte questi strumenti. La Montclair state university del New Jersey, per esempio, ha annunciato a novembre che avrebbe sospeso l’uso del rilevatore AI di Turnitin, ricalcando quanto fatto dalla Vanderbilt university e dalla Northwestern la scorsa estate.
Secondo Chechitelli lo strumento Turnitin non dovrebbe essere l’unico fattore a determinare il voto di un tema o di un elaborato, ma andrebbe visto come uno strumento utile per dare il via a conversazioni tra studenti e insegnanti sulle le sfumature legate all’uso dell’IA generativa: “Le persone non sanno bene dove dovrebbe essere il confine“, commenta.
Questo articolo è apparso originariamente su Wired US.
Fonte : Wired
