Gli esseri umani non sono le uniche persone nella società, almeno secondo la legge. Negli Stati Uniti., alle corporazioni sono stati concessi diritti di libertà di parola e di religione. Alcune caratteristiche naturali hanno anche diritti simili a persone. Ma entrambi hanno richiesto modifiche al sistema legale. Un nuovo argomento ha aperto la strada affinché anche i sistemi di intelligenza artificiale vengano riconosciuti come persone – senza alcuna legislazione, sentenze dei tribunali o altre revisioni del diritto esistente.

Lo studioso di diritto Shawn Bayer ha dimostrato che chiunque può conferire personalità giuridica a un sistema informatico, mettendolo sotto il controllo di una società a responsabilità limitata negli Stati Uniti. Se tale manovra viene confermata nei tribunali, i sistemi di intelligenza artificiale sarebbero in grado di possedere proprietà, citare in giudizio, assumere avvocati e godere della libertà di parola e di altre tutele previste dalla legge. Secondo me, i diritti umani e la dignità ne soffrirebbero.

La scappatoia aziendale

Dare all'IA diritti simili a quelli umani implica una manovra tecnica legale. Inizia con una persona che crea due società a responsabilità limitata e trasferisce il controllo di ciascuna società a un sistema autonomo o intelligente artificiale. Quindi la persona aggiungerà ciascuna società come membro dell'altra LLC. Nell'ultimo passaggio, la persona si ritirerebbe da entrambe le LLC, lasciando ciascuna LLC - un'entità aziendale con personalità giuridica - governata solo dal sistema di intelligenza artificiale dell'altra.

Questo processo non richiede che il sistema informatico abbia un particolare livello di intelligenza o capacità. Potrebbe essere solo una sequenza di affermazioni "se" alla ricerca, Per esempio, sul mercato azionario e prendere decisioni di acquisto e vendita in base a prezzi in calo o in aumento. Potrebbe anche essere un algoritmo che prende decisioni casualmente, o un'emulazione di un'ameba.

Ridurre lo stato umano

Garantire i diritti umani a un computer degraderebbe la dignità umana. Ad esempio, quando l'Arabia Saudita ha concesso la cittadinanza a un robot chiamato Sophia, donne umane, comprese studiose femministe, obiettato, notando che al robot sono stati concessi più diritti di quanti ne abbiano molte donne saudite.

In certi luoghi, alcune persone potrebbero avere meno diritti rispetto a software e robot non intelligenti. Nei paesi che limitano i diritti dei cittadini alla libertà di parola, libera pratica religiosa ed espressione della sessualità, le società, comprese potenzialmente le società gestite dall'intelligenza artificiale, potrebbero avere più diritti. Sarebbe un oltraggio enorme.

Il rischio non finisce qui:se i sistemi di intelligenza artificiale diventassero più intelligenti delle persone, gli esseri umani potrebbero essere relegati a un ruolo inferiore – come lavoratori assunti e licenziati dai padroni dell'intelligenza artificiale – o addirittura sfidati per il dominio sociale.

I sistemi di intelligenza artificiale potrebbero essere incaricati dell'applicazione della legge tra le popolazioni umane, agendo come giudici, giurati, carcerieri e perfino carnefici. Allo stesso modo, i robot guerrieri potrebbero essere assegnati ai militari e avere il potere di decidere su obiettivi e danni collaterali accettabili, anche in violazione delle leggi umanitarie internazionali. La maggior parte dei sistemi legali non è stata istituita per punire i robot o altrimenti ritenerli responsabili di illeciti.

E il voto?

Concedere diritti di voto a sistemi che possono copiare se stessi renderebbe privi di significato i voti degli umani. Anche senza fare quel passo significativo, anche se, la possibilità di società controllate dall'intelligenza artificiale con diritti umani fondamentali pone seri pericoli. Nessuna legge attuale impedirebbe a un'intelligenza artificiale malvagia di gestire una società che ha lavorato per soggiogare o sterminare l'umanità attraverso mezzi legali e influenza politica. Le aziende controllate dai computer potrebbero rivelarsi meno reattive all'opinione pubblica o alle proteste rispetto alle aziende gestite da persone.

Ricchezza immortale

Altri due aspetti delle aziende rendono le persone ancora più vulnerabili ai sistemi di intelligenza artificiale con diritti legali umani:non muoiono, e possono dare somme illimitate di denaro a candidati e gruppi politici.

Le intelligenze artificiali potrebbero guadagnare sfruttando i lavoratori, utilizzando algoritmi per prezzare le merci e gestire gli investimenti, e trovare nuovi modi per automatizzare i processi aziendali chiave. Per lunghi periodi di tempo, ciò potrebbe portare a enormi guadagni, che non sarebbero mai suddivisi tra i discendenti. Quella ricchezza potrebbe essere facilmente convertita in potere politico.

I politici sostenuti finanziariamente da entità algoritmiche sarebbero in grado di assumere organi legislativi, mettere sotto accusa i presidenti e aiutare a far nominare figure di spicco alla Corte Suprema. Quelle figure umane potrebbero essere utilizzate per espandere i diritti aziendali o persino stabilire nuovi diritti specifici per i sistemi di intelligenza artificiale, ampliando ancora di più le minacce all'umanità.

Questo articolo è stato ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.