Max Weiss '20 ha condotto una ricerca sui bot e ha violato una sezione di commento del sito web del governo con 1, 000 commenti falsi. Credito:Stephanie Mitchell/fotografa dello staff di Harvard
Max Weiss non ha mai avuto intenzione di hackerare il governo. La sua scoperta di quanto sia facile da fare, delineata in un nuovo articolo da lui scritto, è arrivata con le migliori intenzioni.
Weiss, un concentratore del governo di Cincinnati, stava svolgendo un lavoro di advocacy per l'espansione statale e la difesa di Medicaid la scorsa estate, un progetto che ha unito i suoi interessi nelle politiche pubbliche e nella sanità. Durante lo studio dei modi in cui i vari gruppi di advocacy possono influenzare la legislazione in sospeso, ha imparato quanto questi gruppi trovino prezioso il periodo di commento del governo federale, quando i membri del pubblico sono invitati a intervenire sulla legislazione nuova o in sospeso tramite moduli online. Si rese conto di quanto sarebbe stato facile manipolare i risultati utilizzando i bot, programmi per computer che generano risposte automatizzate, per inondare i siti di risposte false a favore o contro qualsiasi proposta.
Il 21enne ha dettagliato le sue scoperte in un recente Scienza della tecnologia pezzo, "I contributi Deepfake Bot ai siti Web di commenti pubblici federali non possono essere distinti dai contributi umani."
"Stavamo spendendo molto tempo ed energie per ottenere commenti di alta qualità dagli elettori, " ha detto Weiss. "Volevo assicurarmi che queste agenzie federali capissero le potenziali conseguenze delle loro politiche, e ho avuto l'idea che avrei potuto usare un bot e inviare molti commenti falsi."
Fece una pausa, riconoscendo che corrompere il processo è stato arduo:"Questo sarebbe un male per la democrazia".
Ma il residente di Leverett House non poteva scrollarsi di dosso l'idea, e iniziò a ricercare la fattibilità di un tale schema. Si scopre che l'invio è facile da automatizzare. Le agenzie federali hanno un certo margine di manovra per scartare i commenti che sono ovviamente duplicati o irrilevanti. Ma le tipiche difese tecnologiche contro gli attacchi, compresi CAPTCHA, rilevamento delle anomalie, e la verifica esterna, tutte integrate nell'attività online, dall'attività bancaria all'accesso alla posta elettronica, erano praticamente assenti.
Figura 1. Esempio di sostituzione di sinonimi utilizzata per creare frasi in una campagna di commenti pubblici FCC di grandi dimensioni. La figura mostra cinque esempi di frasi (pannello inferiore) costruite da otto componenti di frase, ciascuno con tre opzioni a breve termine (pannello superiore). Le opzioni a breve termine utilizzate per costruire combinazioni per una frase sono state prese direttamente da una sola campagna di commenti FCC (comprendente 1,3 milioni di commenti) scoperta e sezionata da Jeff Kao [1]. Date solo le opzioni a breve termine mostrate, 38 =6, Si potrebbero creare 561 varianti di questa stessa frase.
"La maggior parte di questi siti web ha solo una casella di testo per i tuoi commenti pubblici e poi un pulsante di invio, " Egli ha detto.
Nel corso della scrittura del Scienza tecnologica carta, Weiss si è reso conto che da anni gli esperti di sicurezza informatica lanciano l'allarme sulla vulnerabilità dei siti web federali, ma le precedenti trasgressioni avevano utilizzato metodi di sostituzione relativamente poco sofisticati. "Nel 2017, ci sono stati 22 milioni di commenti pubblicati per la proposta della FCC di abrogare la neutralità della rete, " ha ricordato. "E si è scoperto che il 96 per cento di quelli facevano parte di campagne duplicate".
Weiss ha utilizzato metodi di intelligenza artificiale per generare un volume elevato di commenti deepfake unici su una proposta di esenzione da Medicaid. Ha quindi scritto un programma che ha automatizzato il processo di invio, e lo ha eseguito da un laptop nella sua stanza del dormitorio nel corso di alcuni giorni. Ha presentato più di 1, 000 commenti falsi che costituivano il 55% del totale degli invii e che sono stati trovati dagli intervistati come indistinguibili dai commenti umani. in seguito, ha informato i centri federali per i servizi Medicare e Medicaid quali commenti facevano parte della sua dimostrazione per prevenire la loro interferenza con l'autentica valutazione dei commenti pubblici.
Tra le rivelazioni più spaventose c'era l'ammissione di Weiss di aver avuto successo senza essere un programmatore esperto e senza attrezzature speciali. "Ho imparato a programmare negli ultimi quattro anni, solo attraverso una serie di progetti personali e lavori estivi, e una classe, " disse Weiss, che ha seguito alcuni corsi del nuovo programma in scienze tecnologiche. "Penso che uno dei risultati molto importanti dello studio sia che qualcuno come me, che è un programmatore molto alle prime armi, è riuscito a farsi strada su Google attraverso l'hacking del governo.
"Sono sempre stato molto interessato alle politiche pubbliche, " disse Weiss, che ama anche scrivere e recitare commedie. "La maggior parte del mio studio governativo ha riguardato la politica sanitaria o la politica tecnologica o la tecnologia di interesse pubblico, quindi questa era solo una sorta di sintesi di molte cose diverse che avevo imparato al Dipartimento del governo e solo alcuni progetti tecnologici personali che ho fatto in passato."
"Max ha fatto un lavoro rivoluzionario, esattamente il tipo di lavoro a impatto reale che incoraggiamo a fare i nostri studenti" nelle lezioni di scienze tecnologiche, disse Latanya Sweeney, professore di governo e tecnologia in residenza e direttore del Data Privacy Lab presso l'Istituto per le scienze sociali quantitative, che ricopre il ruolo di caporedattore di Technology Science.
"Grazie al lavoro di Max, diversi gruppi all'interno del governo federale stanno ora apportando attivamente modifiche per combattere questo tipo di vulnerabilità, " lei ha aggiunto.
Questa storia è pubblicata per gentile concessione della Harvard Gazette, Il giornale ufficiale dell'Università di Harvard. Per ulteriori notizie universitarie, visita Harvard.edu.
