Quando un fondo di venture capital sostenuto dalla CIA si interessò alla tecnologia di scansione facciale di Rana el Kaliouby per rilevare le emozioni, l'informatico e i suoi colleghi hanno fatto un esame di coscienza e poi hanno rifiutato i soldi.

"Non siamo interessati alle applicazioni in cui spii le persone, " disse el Kaliouby, il CEO e co-fondatore della startup di Boston Affectiva. L'azienda ha addestrato i suoi sistemi di intelligenza artificiale a riconoscere se gli individui sono felici o tristi, stanco o arrabbiato, utilizzando un archivio fotografico di oltre 6 milioni di volti.

I recenti progressi nella visione artificiale basata sull'intelligenza artificiale hanno accelerato la corsa alle auto a guida autonoma e alimentato le funzionalità di foto-tagging sempre più sofisticate presenti su Facebook e Google. Ma poiché questi "occhi" indiscreti dell'intelligenza artificiale trovano nuove applicazioni nelle file di pagamento dei negozi, telecamere del corpo di polizia e zone di guerra, le aziende tecnologiche che li sviluppano stanno lottando per bilanciare le opportunità di business con difficili decisioni morali che potrebbero scoraggiare i clienti oi loro stessi lavoratori.

El Kaliouby ha affermato che non è difficile immaginare di utilizzare il riconoscimento facciale in tempo reale per rilevare la disonestà o, nelle mani di un regime autoritario, monitorare la reazione al discorso politico al fine di sradicare il dissenso. Ma la piccola impresa, derivato da un laboratorio di ricerca del MIT, ha fissato dei limiti su ciò che farà.

La società ha evitato "ogni sicurezza, aeroporto, anche roba per scoprire le bugie, " disse el Kaliouby. Invece, Affectiva ha collaborato con le case automobilistiche cercando di aiutare i conducenti dall'aspetto stanco a rimanere svegli, e con i marchi di consumo che vogliono sapere se le persone rispondono a un prodotto con gioia o disgusto.

Tale nausea riflette nuovi scrupoli riguardo alle capacità e ai possibili abusi dell'onniveggenza, guardando sempre i sistemi di telecamere AI, anche se le autorità sono sempre più desiderose di usarli.

All'indomani della sparatoria mortale di giovedì contro un giornale ad Annapolis, Maryland, la polizia ha detto che si è rivolta al riconoscimento facciale per identificare il sospetto non collaborativo. Lo hanno fatto toccando un database statale che include foto segnaletiche di arrestati passati e, più polemicamente, tutti coloro che si sono registrati per una patente di guida del Maryland.

Le prime informazioni fornite alle forze dell'ordine hanno affermato che la polizia si era rivolta al riconoscimento facciale perché il sospettato aveva danneggiato le sue impronte digitali in un apparente tentativo di evitare l'identificazione. Quel rapporto si è rivelato errato e la polizia ha affermato di aver utilizzato il riconoscimento facciale a causa dei ritardi nell'identificazione delle impronte digitali.

Nel mese di giugno, L'aeroporto internazionale di Orlando ha annunciato l'intenzione di richiedere scansioni di identificazione del volto dei passeggeri su tutti i voli internazionali in arrivo e in partenza entro la fine di quest'anno. Diversi altri aeroporti degli Stati Uniti hanno già utilizzato tali scansioni per alcuni, ma non tutto, voli internazionali in partenza.

Le aziende e i comuni cinesi stanno già utilizzando telecamere intelligenti per svergognare i jaywalker in tempo reale e per sorvegliare le minoranze etniche, sottoponendo alcuni a detenzione e indottrinamento politico. Più vicino a casa, le telecamere e i sensori sopraelevati nel nuovo negozio senza cassiere di Amazon a Seattle mirano a rendere obsoleto il taccheggio monitorando ogni articolo che gli acquirenti raccolgono e ripongono.

Le preoccupazioni sulla tecnologia possono scuotere anche le più grandi aziende tecnologiche. Google, ad esempio, ha recentemente affermato che uscirà da un contratto di difesa dopo che i dipendenti hanno protestato contro l'applicazione militare della tecnologia AI dell'azienda. Il lavoro ha comportato l'analisi al computer di riprese video dei droni dall'Iraq e da altre zone di conflitto.

Preoccupazioni simili sui contratti governativi hanno suscitato discordia interna ad Amazon e Microsoft. Da allora Google ha pubblicato linee guida sull'intelligenza artificiale che sottolineano gli usi "socialmente vantaggiosi" e che evitano "pregiudizi ingiusti".

Amazzonia, però, ha finora deviato la crescente pressione dei dipendenti e dei sostenitori della privacy per fermare Rekognition, un potente strumento di riconoscimento facciale che vende ai dipartimenti di polizia e ad altre agenzie governative.

Dire no a qualche lavoro, Certo, di solito significa che lo farà qualcun altro. Il progetto di riprese con droni che coinvolge Google, soprannominato Project Maven, finalizzato ad accelerare il lavoro di ricerca di "modelli di vita, cose sospette, indicazioni di potenziali attacchi, " ha detto Roberto Lavoro, un ex alto funzionario del Pentagono che ha lanciato il progetto nel 2017.

Anche se fa male perdere Google perché sono "molto, molto bravo, "Il lavoro ha detto, altre società continueranno questi sforzi.

L'interesse commerciale e governativo per la visione artificiale è esploso dalle scoperte all'inizio di questo decennio utilizzando una "rete neurale" simile al cervello per riconoscere gli oggetti nelle immagini. Addestrare i computer per identificare i gatti nei video di YouTube è stata una delle prime sfide del 2012. Ora, Google ha un'app per smartphone che può dirti quale razza.

Un importante incontro di ricerca:la Conferenza annuale su Computer Vision e Pattern Recognition, tenutasi a Salt Lake City a giugno, si è trasformata da un sonnolento raduno accademico di "persone nerd" a una fiera commerciale della corsa all'oro che attira grandi aziende e agenzie governative, ha detto Michael Brown, un informatico alla York University di Toronto e un organizzatore di conferenze.

Brown ha affermato che ai ricercatori sono stati offerti lavori ben pagati sul posto. Ma poche delle migliaia di documenti tecnici presentati alla riunione affrontano preoccupazioni pubbliche più ampie sulla privacy, pregiudizi o altri dilemmi etici. "Probabilmente non stiamo discutendo tanto quanto dovremmo, " Egli ha detto.

Le startup stanno forgiando le proprie strade. Brian Brackeen, il CEO della società di software di riconoscimento facciale Kairos con sede a Miami, ha stabilito una politica generale contro la vendita della tecnologia alle forze dell'ordine o per la sorveglianza del governo, sostenendo in un recente saggio che "apre la porta alla cattiva condotta grave da parte dei moralmente corrotti".

La startup di Boston Neurala, al contrario, sta realizzando un software per Motorola che aiuterà le videocamere indossate dalla polizia a trovare una persona in mezzo alla folla in base a ciò che indossa e al suo aspetto. L'amministratore delegato Max Versace ha affermato che "l'intelligenza artificiale è uno specchio della società, "quindi l'azienda sceglie solo partner di principio.

"Non facciamo parte di quel totalitario, schema orwelliano, " Egli ha detto.

© 2018 The Associated Press. Tutti i diritti riservati.