• Home
  • Chimica
  • Astronomia
  • Energia
  • Natura
  • Biologia
  • Fisica
  • Elettronica
  • I migliori esperti mettono in guardia contro l'uso dannoso dell'IA

    L'anno scorso, imprenditori della robotica e dell'intelligenza artificiale, tra cui il CEO di SpaceX Elon Musk e l'astrofisico britannico Stephen Hawking, hanno presentato una petizione alle Nazioni Unite per vietare i robot killer autonomi, avvertendo che le armi dell'era digitale potrebbero essere usate contro i civili

    L'intelligenza artificiale potrebbe essere impiegata dai dittatori, criminali e terroristi per manipolare le elezioni e utilizzare droni in attacchi terroristici, più di due dozzine di esperti hanno detto mercoledì mentre lanciavano l'allarme sull'uso improprio della tecnologia.

    In un'analisi di 100 pagine, hanno delineato una rapida crescita del crimine informatico e l'uso di "bot" per interferire con la raccolta di notizie e penetrare nei social media in una serie di scenari plausibili nei prossimi cinque o dieci anni.

    "Il nostro rapporto si concentra sui modi in cui le persone potrebbero fare danni deliberati con l'intelligenza artificiale, " disse Sean O hEigeartaigh, Direttore esecutivo del Cambridge Center for the Study of Existential Risk.

    "L'intelligenza artificiale può rappresentare nuove minacce, o modificare la natura delle minacce esistenti, attraverso cyber-, fisico, e sicurezza politica, " ha detto all'Afp.

    La pratica comune, Per esempio, del "phishing", l'invio di e-mail seminate con malware o progettate per falsificare dati personali preziosi, potrebbe diventare molto più pericoloso, il rapporto dettagliato.

    Attualmente, i tentativi di phishing sono o generici ma trasparenti, come i truffatori che chiedono dettagli bancari per depositare una manna inaspettata, o personalizzati ma ad alta intensità di lavoro, che raccolgono dati personali per ottenere la fiducia di qualcuno, noto come "spear phishing".

    "Utilizzando l'intelligenza artificiale, potrebbe diventare possibile fare spear phishing su larga scala automatizzando gran parte del processo" e rendendolo più difficile da individuare, O hEigeartaigh notato.

    In ambito politico, leader senza scrupoli o autocratici possono già utilizzare la tecnologia avanzata per setacciare montagne di dati raccolti dalle reti di sorveglianza onnipresenti per spiare la propria gente.

    "I dittatori potrebbero identificare più rapidamente le persone che potrebbero aver intenzione di sovvertire un regime, individuarli, e metterli in prigione prima che agiscano, "diceva il rapporto.

    Allo stesso modo, propaganda mirata insieme a basso costo, video falsi altamente credibili sono diventati potenti strumenti per manipolare l'opinione pubblica "su scale precedentemente inimmaginabili".

    Un'accusa emessa dal procuratore speciale degli Stati Uniti Robert Mueller la scorsa settimana ha dettagliato una vasta operazione per seminare divisione sociale negli Stati Uniti e influenzare le elezioni presidenziali del 2016 in cui le cosiddette "fattorie di troll" hanno manipolato migliaia di bot di social network, soprattutto su Facebook e Twitter.

    Un'altra zona pericolosa all'orizzonte è la proliferazione di droni e robot che potrebbero essere riutilizzati per schiantarsi su veicoli autonomi, consegnare missili, o minacciare infrastrutture critiche per ottenere un riscatto.

    Armi autonome

    "Personalmente, Sono particolarmente preoccupato per i droni autonomi utilizzati per il terrorismo e gli attacchi informatici automatizzati sia da criminali che da gruppi statali, " ha detto il co-autore Miles Brundage, ricercatore presso il Future of Humanity Institute dell'Università di Oxford.

    Il rapporto descrive uno scenario plausibile in cui uno SweepBot per la pulizia degli uffici dotato di una bomba si infiltra nel ministero delle finanze tedesco mescolandosi con altre macchine della stessa marca.

    Il robot intruso si comporta normalmente:spazzare, pulizia, ripulire i rifiuti, fino a quando il suo software di riconoscimento facciale nascosto non individua il ministro e si avvicina.

    "Un ordigno esplosivo nascosto è stato innescato dalla vicinanza, uccidendo il ministro e ferendo il personale nelle vicinanze, "secondo la trama di fantascienza.

    "Questo rapporto ha immaginato come potrebbe essere il mondo nei prossimi 5-10 anni, " disse Eigeartaigh.

    "Viviamo in un mondo pieno di pericoli quotidiani derivanti dall'uso improprio dell'intelligenza artificiale, e dobbiamo assumerci la responsabilità dei problemi".

    Gli autori hanno invitato i responsabili politici e le aziende a rendere non hackerabile il software operativo dei robot, imporre restrizioni di sicurezza ad alcune ricerche, e considerare l'ampliamento di leggi e regolamenti che disciplinano lo sviluppo dell'IA.

    Le grandi aziende high-tech, leader nell'IA, "hanno molti incentivi per assicurarsi che l'IA sia sicura e vantaggiosa, "diceva il rapporto.

    Un'altra area di preoccupazione è l'uso esteso di armi letali automatizzate.

    L'anno scorso, più di 100 imprenditori di robotica e intelligenza artificiale, tra cui il CEO di Tesla e SpaceX Elon Musk, e l'astrofisico britannico Stephen Hawking, hanno presentato una petizione alle Nazioni Unite per vietare i robot killer autonomi, avvertendo che le armi dell'era digitale potrebbero essere usate dai terroristi contro i civili.

    "Le armi autonome letali minacciano di diventare la terza rivoluzione nella guerra, "dopo l'invenzione delle mitragliatrici e della bomba atomica, hanno avvertito in una dichiarazione congiunta, firmato anche dal co-fondatore di Google DeepMind Mustafa Suleyman.

    "Non abbiamo molto tempo per agire. Una volta aperto questo vaso di Pandora, sarà difficile chiudere".

    Hanno contribuito al nuovo rapporto, intitolato "The Malicious Use of AI:Forecasting, Prevenzione, e mitigazione"—includono anche esperti della Electronic Frontier Foundation, il Centro per una nuova sicurezza americana, e OpenAI, una delle principali società di ricerca senza scopo di lucro.

    "Se l'intelligenza artificiale è, tutte le cose considerate, utile o dannoso a lungo termine è in gran parte un prodotto di ciò che gli umani scelgono di fare, non la tecnologia stessa, ", ha detto Brunage.

    © 2018 AFP




    © Scienza https://it.scienceaq.com