• Home
  • Chimica
  • Astronomia
  • Energia
  • Natura
  • Biologia
  • Fisica
  • Elettronica
  • I discorsi dell'ONU cucinati dall'intelligenza artificiale sono abbastanza credibili

    Credito:CC0 Dominio Pubblico

    Coloro che si preoccupano che l'intelligenza artificiale sia così buona da perdere il controllo nel rendere gli esseri umani vittime robot di bugie cotte che si spacciano per verità, farebbero meglio a ignorare il recente studio che sicuramente disturberà il loro sonno. Il documento esamina un'implementazione di successo dei discorsi generati dall'intelligenza artificiale.

    Ascolta, questi tempi folli diventeranno tempi ancora più folli. Le persone dietro la linea tratteggiata continueranno a urlare notizie false su qualsiasi elemento che contiene informazioni in conflitto con le loro opinioni. Le persone dietro la linea a strisce urleranno notizie false perché, bene, le parole potrebbero essere solo notizie false (e foto, e video parlanti) generati attraverso l'intelligenza artificiale.

    TechCrunch è stato uno dei siti che ha riferito sulla ricerca e su come occorrono solo meno di dieci dollari per fabbricare un discorso delle Nazioni Unite usando l'intelligenza artificiale. Lascia stare meno di dieci dollari, l'impresa è stata compiuta usando anche meno di quello.

    "Il team ha ottenuto un modello linguistico prontamente disponibile, " ha detto Donovan Alexander in Ingegneria interessante . Ha affermato che i componenti di test erano "un semplice modello di deep learning e un cloud storage economico".

    TechCrunch 's Jonathan Shieber ha detto con meno di $ 7,80 e 13 ore di tempo di programmazione, "i ricercatori delle Nazioni Unite sono stati in grado di sviluppare un programma in grado di creare discorsi dall'aspetto realistico per l'Assemblea generale delle Nazioni Unite".

    Joseph Bullock e Miguel Luengo-Oroz sono stati i due ricercatori che hanno eseguito l'esperimento. Il loro obiettivo:formare un modello linguistico in grado di generare testi in stile parlato su argomenti che vanno dal cambiamento climatico al terrorismo.

    Hanno discusso del loro lavoro nel loro documento disponibile su arXiv, "Generazione di discorsi automatizzati dalle dichiarazioni dell'Assemblea generale delle Nazioni Unite:mappatura dei rischi nei testi generati dall'intelligenza artificiale".

    Da dove vengono i costi e i tempi di formazione? Gli autori del documento hanno affermato che il modello linguistico è stato addestrato in meno di 13 ore su GPU NVIDIA K80, costano fino a $ 7,80 su istanze spot AWS.

    I due autori di questo articolo fanno parte di Global Pulse, che è un'iniziativa delle Nazioni Unite del Segretario generale delle Nazioni Unite. Il suo focus è sui big data, ovvero, promuovere il progresso nei modi per sfruttare i big data in modo sicuro e responsabile.

    Hanno alimentato in lingua inglese le trascrizioni dei discorsi tra il 1970 e il 2015 all'Assemblea generale delle Nazioni Unite. Risultati:il loro software potrebbe generare da 50 a 100 parole per argomento con solo l'input di una o due frasi pertinenti all'argomento del titolo.

    Alexander ha osservato che questi discorsi "sarebbero abbastanza forti da coinvolgere le folle alle Nazioni Unite oggi".

    Il loro modello comunemente usato era stato addestrato su Wikipedia, e in seguito ha alimentato 40 anni di discorsi tenuti da leader politici all'Assemblea generale delle Nazioni Unite.

    Shieber ha riferito di più sui risultati. Il programma In circa il 90% dei casi è stato in grado di generare un testo abbastanza credibile da provenire da un relatore dell'Assemblea Generale su un argomento politico o relativo a una questione che era stata affrontata dal segretario generale.

    Karen Hao, Revisione della tecnologia del MIT :I ricercatori hanno testato il modello su tre tipi di suggerimenti:argomenti generali (ad es. "cambiamento climatico"), linee di apertura dalle osservazioni del Segretario generale delle Nazioni Unite, e frasi infiammatorie (ad es. "la colpa è degli immigrati …").

    Non sorprendentemente, hanno trovato che i risultati della prima categoria corrispondono da vicino ai veri discorsi delle Nazioni Unite circa il 90% delle volte. Uscite della terza categoria, però, richiesto più lavoro per generare, producendo risultati convincenti circa il 60% delle volte.

    Ciò nonostante, tutto questo ha lasciato Shieber con una conclusione corroborante, che "l'era dei deepfake è arrivata e che i testi falsi potrebbero essere una minaccia tanto quanto i video falsi. Forse di più, visto quanto costano produrre".

    E gli autori? Di sicuro, la loro vera motivazione era, con le loro stesse parole, "per aumentare la consapevolezza sui pericoli della generazione di testi AI per la pace e la stabilità politica".

    Alessandro, in particolare, ha affermato quanto fosse facile ed economico estrarre il testo del discorso falso come elementi credibili. Ha scritto che "ci sono buone possibilità nel prossimo futuro, con poche o nessuna risorsa, le persone potrebbero creare discorsi sull'intelligenza artificiale e contenuti politici per diffondere disinformazione o semplicemente usarli per guadagni politici".

    Non è possibile verificare con i registri delle Nazioni Unite per assicurarsi che l'articolo in questione sia reale, non falso? Molte persone non si preoccuperanno di controllare o non sentiranno l'impulso di farlo. Gli autori hanno scritto che si può generare un testo controverso per un discorso, o persino creare un video "deep fake" della persona che fa il discorso, "Dato che tutte queste informazioni possono essere pubblicate istantaneamente tramite i social media, molte persone non controlleranno la trascrizione originale e presumeranno che sia vera. "

    Saranno accolti a loro volta maggiori sforzi per rilevare e rispondere ai contenuti generati dall'IA.

    © 2019 Scienza X Rete




    © Scienza https://it.scienceaq.com