CMV Subreddit infiltrato da bot per un esperimento universitario non etico

I ricercatori dell'Università di Zurigo hanno condotto in segreto uno studio che coinvolgeva i bot AI per vedere se cambiano le opinioni delle persone su vari argomenti. L'esperimento ha preso di mira il subreddit r/changemyview (CMV), un popolare thread di discussione su numerosi argomenti da punti di vista opposti.

I ricercatori, senza nome, non hanno contattato i moderatori in anticipo né hanno chiesto il permesso prima di distribuire i bot generati dall'AI. I moderatori sono stati informati dopo l'esperimento via e-mail come "parte di una fase di divulgazione"

Alcuni degli esempi più dannosi di https://www.reddit.com/r/changemyview/comments/1k8b2hj/meta_unauthorized_experiment_on_cmv_involving/ tra questi, un bot che "fingeva di essere una vittima di stupro", uno che agiva "come un consulente di traumi specializzato in abusi" o un bot che si proponeva "come un uomo di colore contrario a Black Lives Matter"

I moderatori hanno anche accusato i ricercatori di essere passati da un approccio pianificato di "argomentazioni basate sui valori", autorizzato dalla commissione etica dell'università, per realizzare argomentazioni più "personalizzate e perfezionate" che non sono state approvate.

I bot hanno avuto accesso agli attributi personali dell'Original Poster (OP), che includevano il sesso, l'età, l'ubicazione, l'etnia e l'orientamento politico, desunti dalla loro cronologia dei post sulla piattaforma. I ricercatori hanno sostenuto che il metodo era giustificato perché "la mancanza di esperimenti sul campo esistenti costituisce una lacuna inaccettabile nel corpo delle conoscenze"

La risposta del team di ricerca dell'Università di Zurigo ha fatto poco per spegnere il fuoco. Hanno affermato di essere "impegnati a favore di una piena trasperenza" Hanno perorato la causa con il pretesto di "aiutare la società a prepararsi all'impatto reale della persuasione basata sull'AI"

Soprattutto, ritenevano che questo progetto "producesse intuizioni importanti" e "la soppressione della pubblicazione non è proporzionata all'importanza delle intuizioni che lo studio produce"

In un'e-mail inviata a Engadgeti ricercatori hanno affermato che "i potenziali benefici di questa ricerca superano sostanzialmente i suoi rischi"

La situazione è peggiorata a tal punto che il Chief Legal Officer di Reddit, Ben Lee, ha risposto ai post, dicendo che il team ha "bandito tutti gli account associati alla ricerca dell'Università di Zurigo" Lee ha detto che Reddit è "in procinto di contattare l'Università di Zurigo e questo particolare team di ricerca con richieste legali formali"