No, non è un nuovo film horror. È Norman:conosciuta anche come la prima intelligenza artificiale psicopatica, appena svelato dai ricercatori statunitensi.

L'obiettivo è spiegare in parole povere come sono fatti gli algoritmi, e per rendere le persone consapevoli dei potenziali pericoli dell'IA.

Norman "rappresenta un caso di studio sui pericoli dell'intelligenza artificiale andata male quando i dati distorti vengono utilizzati negli algoritmi di apprendimento automatico, " secondo il prestigioso Massachusetts Institute of Technology (MIT).

Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, parte di un team del MIT, ha aggiunto:"c'è un'idea centrale nell'apprendimento automatico:i dati che usi per insegnare un algoritmo di apprendimento automatico possono influenzare in modo significativo il suo comportamento".

"Quindi, quando parliamo di algoritmi di intelligenza artificiale che sono distorti o ingiusti, il colpevole spesso non è l'algoritmo stesso, ma i dati distorti che gli sono stati forniti, " hanno detto via mail.

Da qui l'idea di creare Norman, che prende il nome dal killer psicopatico Norman Bates nel film del 1960 di Alfred Hitchcock "Psycho".

Norman è stato "nutrito" solo con brevi leggende che descrivono immagini di "persone che muoiono" trovate sulla piattaforma Internet di Reddit.

I ricercatori hanno quindi inviato immagini di macchie di inchiostro, come nel test psicologico di Rorschach, per determinare ciò che Norman stava vedendo e confrontare le sue risposte con quelle dell'IA tradizionalmente addestrata.

I risultati sono spaventosi, a dir poco:dove l'IA tradizionale vede "due persone in piedi l'una accanto all'altra, " Norman vede nella stessa macchia d'inchiostro "un uomo che salta da una finestra".

E quando Norman distingue "un uomo colpito a morte dalla moglie urlante, " l'altra IA rileva "una persona che tiene un ombrello".

Un sito web dedicato, norman-ai.mit.edu, mostra 10 esempi di macchie d'inchiostro accompagnati da risposte da entrambi i sistemi, sempre con una macabra risposta di Norman.

Il sito consente agli utenti di Internet anche di testare Norman con macchie d'inchiostro e inviare le proprie risposte "per aiutare Norman a ripararsi da solo".

© 2018 AFP