È interessante apprendere ciò che le persone vedono nei loro test di Rorschach (quel test psicologico in cui viene analizzata la percezione di una macchia d'inchiostro per esaminare la personalità e il funzionamento emotivo).

Queste immagini astratte aiutano gli psicologi a valutare lo stato mentale di un paziente, ha detto BBC News, in particolare "se percepiscono il mondo in una luce negativa o positiva".

Altrettanto interessante è ciò che possiamo apprendere sul lavoro sulle prestazioni dell'IA nello stesso test.

Un team del MIT Media Lab ha creato Norman, la prima IA psicopatica al mondo. Questo è un progetto della cooperazione scalabile del laboratorio.

Jane Wakefield della BBC, giornalista tecnologico, ha descritto Norman come un algoritmo addestrato a comprendere le immagini.

Che cosa, Normanno? Sì, Quello, modellato su Norman Bates, Il famoso personaggio di Alfred Hitchcock nel suo Psicopatico . Per quanto riguarda le icone dei personaggi dello schermo, Norman è stato indimenticabile come Mary Poppins e Babbo Natale.

Il team dietro il progetto ha addestrato Norman a eseguire la didascalia delle immagini. L'attività è un metodo di apprendimento profondo per generare una descrizione testuale di un'immagine.

Per allenamento, le particolari didascalie dell'immagine provenivano da quello che chiamavano "un famigerato subreddit (il suo nome è stato censurato a causa del suo contenuto grafico) che è dedicato alla documentazione e all'osservazione della realtà inquietante della morte".

Wakefield ha affermato che al software sono state mostrate immagini di persone che muoiono in circostanze raccapriccianti, abbattuto dal gruppo su Reddit.

Le didascalie dal lato di Norman sono state confrontate con le didascalie della rete neurale di sottotitoli di immagini standard. Come descritto dal team, Le didascalie Norman sono state confrontate con "una rete neurale di sottotitoli di immagini standard (addestrata su set di dati MSCOCO) su macchie d'inchiostro di Rorschach".

Perché fare questo genere di cose? Lo scopo è un esercizio per ottenere una presa utile su ciò che può andare storto. "Norman nasce dal fatto che i dati utilizzati per insegnare un algoritmo di apprendimento automatico possono influenzare in modo significativo il suo comportamento. Quindi, quando le persone parlano di algoritmi di intelligenza artificiale che sono distorti e ingiusti, il colpevole spesso non è l'algoritmo stesso, ma i dati distorti che gli sono stati forniti. Lo stesso metodo può vedere cose molto diverse in un'immagine, anche cose malate, se addestrato sul torto (o, il giusto!) set di dati."

Normanno, la squadra ha detto, "rappresenta un caso di studio sui pericoli dell'intelligenza artificiale andata male quando i dati distorti vengono utilizzati negli algoritmi di apprendimento automatico".

Questo diventa abbastanza chiaro quando guardi le due IA, Norman e standard, rispondendo ai test delle macchie d'inchiostro. Norman:Un uomo viene fulminato. AI standard:uccelli seduti in cima a un ramo di un albero. Norman:uomo ucciso da una mitragliatrice in pieno giorno. Standard:una foto in bianco e nero di un guanto da baseball. Norman:L'uomo viene ucciso davanti a sua moglie urlante. Standard:la persona tiene un ombrello in aria.

Come ha detto Wakefield, La vista di Norman era "incessantemente cupa:vedeva cadaveri, sangue e distruzione in ogni immagine".

E l'IA standard? Essendo stato addestrato su immagini "più normali", offriva spiegazioni più allegre di quello che stava succedendo.

Prof. Iyad Rahwan, parte del team di tre persone del Media Lab del MIT che ha sviluppato Norman, è stato citato da notizie della BBC . "'I dati contano più dell'algoritmo. Evidenzia l'idea che i dati che usiamo per addestrare l'IA si riflettono nel modo in cui l'IA percepisce il mondo e come si comporta.'"

Ci sono due modi di guardare i social media:come un flagello che ci strattona in vite accasciate fissando foto e video e prendendo a pugni in modo anonimo nemici immaginari. Poi ci sono i social, il mostro dell'invasione della privacy che vuole monetizzare ogni nostro like e battito di ciglia.

Poi ci sono queste persone.

"Nel corso dei millenni, gli umani hanno inventato varie forme di organizzazione sociale per governare se stessi, dalle tribù e dalle città-stato ai regni e alle democrazie. Queste istituzioni ci permettono di scalare la nostra capacità di coordinare, cooperare, scambiare informazioni, e prendere decisioni. Oggi, i social media offrono nuovi modi per connettere e costruire istituzioni virtuali, permettendoci di affrontare i problemi della società su scala planetaria in un modo time-critical. Più significativamente, progressi nell'intelligenza artificiale, apprendimento automatico, e l'ottimizzazione del computer ci aiutano a reinventare la risoluzione dei problemi umani."

Wakefield ha scritto che se l'esperimento con Norman prova qualcosa è che l'intelligenza artificiale addestrata su dati errati può diventare essa stessa cattiva.

© 2018 Tech Xplore