Curioso stasera ho visto un telefilm su DVD della serie "Agente Speciale". Nientedimeno con Cristopher Lee.
Estratti della trama:
Stone shows him a 'duplicate' of himself - a plastic-skinned replica which is self-repairing and self creating, infused with all his thoughs and memories via a brain transfusion process - great minds need never die! (...)
A door opens, revealing a duplicate Emma and Steed, which they appraise. "Do you find her attractive?" "Not a patch on you; how about him?" - Mrs Peel removes the duplicate's bowler and reveals the word 'REJECT' written across its forehead.

At her flat that night, Steed and Emma watch TV - a pop programme, a cop show. Steed turns off in disgust, lamenting the lack of abything of any depth, warmth, humanity - with a touch of humour. Emma switches on a political broadcast and they realise with horror that no-one would ever notice the difference between a politician and a plastic duplicate.
Production date: 14/2/67
Transmission dates:
UK 18/3/67

Pensare vuol dire soprattutto dubitare.
:-)

La definizione di intelligenza, nell'accezione umana, è ancora controversa.
Non si riese a definire qualcosa che è, al tempo stesso, l'origine di tutto e la conseguenza di tutto.

Ci ha provato lo psicologo Gardner, distinguendo 7 tipi di intelligenza...ci hanno provato tanti altri studiosi.

L'unica conclusione sulla quale convergono la maggior parte degli studiosi è che l'intelligenza sia la capacità di "creare"...ovvero di trovare soluzioni sempre nuove in situazioni apparentemente indecifrabili.

Tuttavia ancora nessuno ha saputo coniare una definizione di intelligenza che possa davvero ritenere soddisfatti e non lasci spazio a dubbi e contraddizioni.

Se, dunque, nemmeno sull'intelligenza umana si sa ancora molto...come si può pretendere di azzardare previsioni sull'intelligenza artificiale (creata a sua volta da quella umana) e farne addirittura un soggetto di diritto?

Io personalmente credo che il pensiero sia assolutamente correlato con la fisicità e non può da essa essere scisso. Non si pensa solo con il cervello, ma anche con il corpo...nel senso che ciò che il cervello pensa è frutto anche delle esperienze sensoriali.
Piacere e dolore.

E cmq Turing è stato contestato da altri studiosi...perché pensare vuol dire anche dubitare. O no?

aquatarkus...non è facendo dei nomi di qualche libro letto che puoi "impressionare". Bisogna scegliere: o fare una illustrazione di quanto i tuoi autori citati hanno detto (ed allora ti assicuro che staremo qui giorni e giorni...solo per "sfogliare" ciò che dice Hofstadter), ponendoci poi il problema di aggiungre anche le ipotesi di Vacca, la fisica quantistica (che c'entra molto) e tutto il resto, oppure, ed è quello che preferisco, è fare una fotografia dell'attuale...e l'attuale è molto distante da quanto detto.
Comunque grazie per la considerazione ... essere messo di fianco a Turing, sebbene in maniera sarcastica, è sempre un onore.
cordialmente
arciere

questi stanno fuori.

Adrix, la mia non è obiezione e non è "benaltrista".
Ho detto (dopo una lunga parentesi introduttiva sulla quale tutti si sono concentrati) che trovo intrigante l'idea che l'uso definitivo dei robot potrebbe essere farne dei "colpevoli" al posto nostro, laddove nella vita quoridiana io (forse mio limite) vedo una progressiva carenza di etica, generata da una aggressività crescente che ci fa credere di avere sempre ragione: e difendamo questa presunzione a qualunque costo.
La cosa più interessante è che tra le tante considerazioni e tanti scontri di punti di vista, in realtà nessuno ha colto l'aspetto sostanziale di questo ragionamento/post, che ammeto essere sicuramente troppo "filosofico" (?) e surreale.
Ma da tutti completamente aggirato.
Per quanto mi riguarda, Amen.
Grazie a tutti.
:-)

Percorso interessante.
Provo ad esprimere alcuni punti sulla questione.

1) L'obiezione di Rosatiziana riguardo l'origine ("costruito" piuttosto che "generato") che determinerebbe lo stato di diritto di esseri consapevoli è risibile. Se costruissimo un artefatto che superasse il test di Turing (per ora ci provano, ma non ci riescono), vorrei ben vedere come poi riuscirei a superare le sue obiezioni quando gli dico "sei una macchina, QUINDI ora vai a lavorare e zitto!"

2) Benché per ora ipotetica, (non esistono tempi prevedibili per la realizzazione di IA, che si sta rivelando ben più complessa di quanto si pensasse solo dieci anni fa), il problema dell'attribuzione di diritti ad artefatti intelligenti è ragionevole e anzi necessario. Le conseguenze degli sviluppi tecnologici e scientifici vanno sempre ben al di là delle intenzioni dei loro ideatori (Guteberg era un devoto cattolico e la sua invenzione aiutò invece Lutero a diffondere la sua "eresia"), e pensarci prima non ha mai fatto male a nessuno.

3) L'obiezione di William è un pelino "benaltrista". "Ci sono tanti problemi eticamente importanti ed urgenti, e questi si vogliono occupare del diritto delle macchine".
Questa obiezione è un non sequitur: aggira il problema rifiutandolo, senza rispondervi.

Bene Archer e Rosa Tiziana, terrò conto della vostra opinione, la metterò accanto a quella di Von Neumann, Turing , Carl Sagan, Douglas Hofstadter e di un paio d'altri e quando non succederà quello che tutti loro hanno ipotizzato, capirò quanto mi sono perso a non frequentarvi assiduamente.

Arciere...ti giuro che ho scritto il mio commento PRIMA di aver letto il tuo!!! TELEPATIA!!!

:-)))

Eh...nell'antica roma gli schiavi e SOPRATTUTTO le donne non potevano testimoniare in tribunale né contro qualcuno né a favore...sai perché?
Semplicemente perché erano giuridicamente ritenuti "incapaci di intendere e volere".

Ma questo tuo parallelo tra schiavi di un tempo (o indigeni africani) e robot...a mio parere non regge.
Infatti un conto è interrogarsi sulle "proprietà" di qualcuno/qualcosa che non abbiamo "costruito" noi, altro conto è ipotizzare che un oggetto da noi costruito diventi un "soggetto".

Naturalmente con la fantasia si può anche immaginare che su un lontano pianeta qualche essere con tre teste stia leggendo ciò che scriviamo...e magari tra qualce ora ci manda pure un commento :-)))

Cmq si...sono un'ottimista e soprattutto sono ingenua. C'hai preso in pieno. Gli ingenui sono coloro che credono che tutto sia possibile e perciò osano.
Invece chi ingenuo non è crede di poter capire a fondo il presente e prevedere il futuro.
Ovviamente quando si dice "tutto èpossibile" ci si riferisce a ciò che non è da noi umani controllato...ciò che costruiamo noi invece ha dei limiti evidenti!!!

E' vero che molti non hanno mai un orgasmo plateale e stratosferico, tuttavia...è eros anche godere mangiando una bella lasagna!!!
;-)

permettimi ma la comparazione tra gli schiavi africani ed i robot è di cattivo gusto a mio parere.
Da una parte ci sono essere umani, dall'altra macchine anche capace di auto apprendere ma pur sempre limitate...limitatissime...

RosaTiziana o sei molto ottimista o sei molto ingenua.
C'è un sacco di gente che non sa cos'è un orgasmo, che non scrive poesie e che non prova emozioni eppure ha dei diritti. Un'entità artificiale quando raggiungerà una certa complessità sarà prevedibilmente indistinguibile da un essere umano (si chiama legge di Turing) e se sarà programmata per farlo e attrezzata fisicamente potrà avere un sacco di attributi che appaiono come peculiarità umane e che molti essere umani si dimenticano di avere e non usano. A questo punto la nostra entità artificiale pretenderà dei diritti e avrà delle responsabilità nei confronti della collettività, e questo implicherà norme e leggi.
Vorrei anche aggiungere che questo stesso discorso qualche secolo fa negli stessi termini veniva fatto per gli schiavi africani (provano emozioni, pensano, hanno una percezione di se?).

Si Will...non sei tu che hai parlato di diritti "umani" ma aquatarkus nel suo commento...rispondevo a lui.

So bene che la questione è stata lanciata dai giornali...
Mi fa piacere poterne discutere qui perché c'è un bel confronto.

Il mio punto di vista però rimane quello di chi considera il DIRITTO come qualcosa che può originare solo dal soggetto stesso che ne è poi destinatario.
Gli animali NON sono titolari di diritti...ciò che IMPROPRIAMENTE viene definito "diritto animale" altro non è che una serie di norme che sanciscono dei comportamenti precisi da tenere nei confronti degli animali. Il termine che viene usato non deve ingannare...del resto è usato da giornalisti e non da giuristi (ma gli ORRORI sintattici, grammaticali e concettuali di giornalisti sono cosa ben nota!)

Riguardo alle mamme del Sud...come tutte le madri non "creano" nulla. Nessun essere umano crea, semplicemente partecipa e contribuisce alla creazione di una vita che non ha "ideato" o "inventato"...per questo motivo chi nasce diventa a sua volta un SOGGETTO a sé e titolare di diritti propri.
Nemmeno i robot sono "creati" ...però sono costruiti. Quindi se sono costruiti non sono dei "soggetti" bensì degli oggetti.

Oggetti pensanti? Oh no!!!
Il pensiero non è la capacità di contare...di calcolare...di inferire...di interpolare...di eseguire...!!!

Pensare significa cercare la verità, il senso della propria vita, la propria dignità.

Ciò che un robot può arrivare a conoscere scaturisce dai dati che gli vengono dati come input...e che a sua volta può elaborare...ma non superare.

Non può superarli perché ciò che noi pensiamo non è il frutto solo della nostra mente...o meglio la nostra mente riflette anche attraverso le esperienze corporali.
Ciò che noi pensiamo è frutto anche della nostra esperienza fisica...

Sai quando un robot potrà essere titolare di diritti? Il giorno che saprà provare un orgasmo, non nei transistor...ma nel corpo.
Ovvero MAI!!!

:-)))

Io credo che il punto sia questo.
I robot sono intelligenza umana trasferita su una "macchina": quindi sono mente umana in un "corpo" non vivo, che però agisce in quanto mente/intelligenza umana.
E' per questo motivo che forse potrà essere necessario iniziare a pensare di stabilire una regolamentazione dei diritti dei robot: perchè se questo non si va prospettando, i robot potrebbero diventare "menti" che non hanno rispetto verso altre "menti", quindi è necessario far capire quali siano i diritti da rispettare.
Mi sembra in pratica un necessario tentativo di trasferire regole e diritti sui robot che sono espressione di intelligenza umana, così come già questi diritti e regole esistono nella vita tra gli uomini.
Non so se sono riuscita a spiegarmi....
I robot "pensano" quello che chi li crea pensa! e quindi rispettano le leggi che chi li cra rispetta!

Se vogliamo che dei robot possano "pensare" delle Leggi, questo potranno sicuramente farlo solo e solamente se l'uomo nel creare la loro intelligenza artificiale (che è intelligenza umana trasferita) trasferisce in essi anche i concetti delle leggi, per cui la loro "testa artificiale", così programmata, non potrà non rispettarle se questo viene loro impartito... viceversa se non viene trasmesso il rispetto per le Leggi i robot non le possono rispettare! perchè non è stato in loro programmato tale "rispetto"...
e quindi i robot potrebbero diventare intelligenza umana che agisce contro intelligenza umana.

Il robot è un macchina che gli uomini devono far funzionare nel rispetto dell'etica comportamentale.

Al di là quindi delle "teorie" dello scrittore fantascientifico, ecco perchè credo si parli di robot con diritti umani...: perchè cmq il robot è trasferimento di intelligenza, sensibilità e volontà umane su una entità artificiale, ma che pur essendo tale è espressione e rappresentazione di intelligenza sensibilità e volontà umane.

.... uhm... che loop di concetti!!!
hehehe....mi si sta accartocciando il cervello...e già ho tanti altri intrecci mentali!
Baci (umani...)*******

mmm sono dubbioso ... molto dubbioso su certe cose che vengono dette.
Non parlerei di "diritti", benchè sia stato questo il termine usato in questi giorni sui vari giornali, ma di regolamentazione teconologica. La questione sembra la stessa ma non lo è. Però se posso permettermi, essendo però non uno studioso di materie giuridiche ma uno che conosce bene la "tecnologia", che spesso le cose come sono nella realtà e quello che sembra che siano attraverso "l'informazione" hanno la stessa diversità che esiste tra la scienza ed una mediocre fantascienza.

Aquatarkus, trovo perfetta la tua frase che introduce il racconto: ""Ho sempre pensato che il modo migliore per far capire gli effetti e le conseguenze di certe tecnologie sia quello di scriverci delle storie."

Cara Rosa, rileggi il post e vedi che non ho mai parlato di diritti "umani".
In qualche commento posso aver parlato di diritti INDIVIDUALI.
Il che come m'insegnerai suona diverso, no?
Anche io ho avuto la sventura di studiare alla facoltà di Economia e Commercio di Torino e avendo sostenuto una decina di esami di diritto (più o meeno), non credo di essere proprio uno sprovveduto in tema (anche se di tempo ne è passato).
Però poi dopo l'Uni io mi sono ravveduto! :-)

Personalmete ritengo che voler applicare le formule di diritto che abbiamo studiato a realtà completamente differenti che si potranno presentare sia un esercizio sterile.
Si vede già cosa succede ADESSO per il diritto d'autore, per la privacy su internet e cose simili... Non credi?

L'argomento diritti dei robot E' (per ora) astruso, ma portato alla ribalta da un personaggio autorevole, sulla base di una raccolta dati autorevole.
Quindi ironizzare va benissimo ma è meglio cominciare a rifletterci.
Capisco che non tutti possano (o debbano) aver letto fantascienza, del resto considerata da molti letteratura di serie B.
Un Robot cerctamente OGGI non è capace di ironia, ma secondo molti (compreso sir David King) è solo questione di tempo.
Insomma, rischi di essere surclassata nella tua ironia tra un paio di decenni dalla robottina che illustra questo post... O di doverci competere!

Ti consiglio di leggere le tre leggi della Robotica di Asimov, e anche i suoi racconti.
Quando un'intelligenza artificiale sarà complessa a tal punto da poter essere capaci di sfumature comportamentali e intelletive (come ho già scritto in modo grossolano, andranno oltre la possibilità binaria Y/N), sarà un soggetto.
Che ti piaccia o no.
Del resto non hanno già dei diritti anche GLI ANIMALI?

La tua visione "riconoscere dei diritti ad oggetti creati da noi (uomini) significa non poter contemplare la possibilitàdi un diritto soggettivo..." mi ricorda molto da vicino l'idea di certe madri del profondo sud che fino a prova contraria considerano i figli soggetti alla loro volontà perchè "li hanno partoriti loro"...
Purtroppo ho sottocchio un caso inquietante e reale, quindi so di cosa parlo...

In ultimo ti ricordo che gli argomenti che sollevo in questo post sono stati su tutti i giornali, quindi io mi sono limitato a metterli insieme e a pormi delle domande....

Grazie per l'espressione di stima, a te come ad Aquatarkus...
:D

Il buffo è che, in merito a questa discussione, il portale Futuro Prossimo ha ripescato un mio vecchio racconto

Ehm...forse sono stata un pò pedante...ma sono una prof di Diritto ed Economia...mi ha preso un pò la mano stà cosa.
Aiutoooooooooooooo
:-)))

Il riconoscmento di diritti umani a chi non è umano non è un discorso astruso ma semplicemente illogico anche in termini linguistici.
Semmai si potrebbe parlare di di diritti "artificiali".
Ma anche questa seconda definizione è alquanto illogica...concettualmente e linguisticamente.

La mia ironia non è dettata dal fatto che considero l'argomento astruso...ma nasce da una naturale tendenza ad ironizzare sulla vita in genere, è il mio modo di affrontare ogni cosa. Credo profondamente nell'ironia...ma capisco che un robot non ne sarebbe mai capace e quindi chi crede molto nei robot non apprezza l'ironia (scherzo!!!)
:-)

Ad ogni modo il diritto ha due facce...come una medaglia. E' unico ma si compone di due aspetti fondamentali.
Esiste il diritto oggettivo (insieme di regole) e il diritto soggettivo (facoltà di agire per la tutela di un proprio interesse)...insieme formano il DIRITTO.

Ora...riconoscere dei diritti ad oggetti creati da noi (uomini) significa non poter contemplare la possibilitàdi un diritto soggettivo...quindi nessun diritto può essere previsto (giacchè senza entrambe le componenti il diritto non sussiste)

Il robot è creato dall'uomo per metterlo al proprio servizio ...quindi al massimo gli riconoscerebbe il "dovere" di obbedire a degli ordini.

Dunque...la questione dei diritti ai robot è illogica e insensata. Naturalmente William ha il prezioso compito di farci riflettere con i suoi post su questi temi...e infatti è sempre intrigante venire qui da lui per questo!

Grazie Will ;-)

Grazie, Aqua.
:-D

Una cosa si evince da questa discussione: l'ipotesi del riconoscimento dei diritti umani a entità artificiali appare ai più astruso, lontano nel tempo se non risibile. La percezione generale come al solito non si aggiorna di pari passo alla realtà in continuo mutamento: in dieci-quindici anni il problema diventerà sempre più pressante e riguarderà tutte le categorie di lavoratori, anche quelle che si reputano insostituibili come gli insegnanti e (forse) i giornalisti.
Per questo hanno un merito le persone come William che ne sottolineano l'importanza senza facili ironie, superficialità e con una adeguata soglia di attenzione.

Anch'io mi riferivo al cervello e basta. Ma se ne sostituisci dei pezzetti, delle componenti, dei transistor...poi resta "lo stesso" cervello di prima?
Naturalmente sto ironizzando, ma la questione del robot come destinatario di diritti è talmente buffa che merita un pò di ironia...non ti pare?

La Lollobrigida restaura il corpo...il robot restaura il cervello...entrambi restaurano se stessi...il meglio che posseggono :-)))

- RosaTiziana, come ho già detto la questione resta quella del cervello, del cervello e basta.
In teoria un robot non è collegato al suo corpo come un umano, tuttaltro.
La Lollobrogida cerca di restaurare un corpo che si va naturalmente deteriorando. Un robot invece può sostiture una gamba meccanica con una pneumatica senza che nulla cambi in "LUI".
Mi pare che avvenisse qualcosa di simile nel Film "L'uomo del bicentenario".

Archer, nel caso del comportamento delle aziende, io sono convinto che l'apparente libertà che la rete ci concederebbe è correlata alla cessione da parte nostra di informazioni. E se le Aziende si danno delle regole (ma sarà vero?) ci sono altri che grassano e basta.
Io credo che le questioni robotiche verranno a galla anche solo perchè gli scienziati importanti hanno decisoche devono venire a galla.

- Minerva, è solo una delle preoccupazioni che mi nasce dall'insicurezza lavorativa che si respira in occidente....

la ruota è durata in eterno...
Ad ogni modo quando parlo di cose più "difficili", mi riferisco al fatto che ultimamente, e solo ultimamente, le aziende di telecomunicazione hanno dovuto attenersi a certe regole di sicurezza a favore degli utenti...sono queste cose che servono..il resto è "letteratura" e nemmeno ai livelli di Isaac. Per come vedo io le cose non arriveremo nel breve e nemmeno nel medio periodo a cose "asimoviane"

Nessuna cosa costruita dall'uomo vive in eterno...finora almeno non è mai successo e dubito succederà.

Manutenzione? Uhm...si...rifacendo tutto da capo periodicamente, una specie di lifting, interventi chiurgico-cibernetici.

Ma se uno è tutto rifatto...rimane sempre lui? Oppure è un altro?

Questo mi chiedo a volte quando vedo la Lollobrigida in tv. Siamo sicuri che sia ancora leì? :-)))

La cosa mi sconcerta e non poco devo dire. Anche per il discorso da te accennato sui problemi del lavoro. Potrebbero diventare non un aiuto, ma...

Conosci i racconti di Asimov?
Ci sono infinite questioni che si possono sollevare sui robot!
Per quanto riguarda quest'ultimo, farà parte delle questioni affrontare...anche se in teoria... un robot potrebbe anche non morire mai, ma sopravvivere nei secoli con la manutenzione... il centro dellq questione sarebbe il cervello (secondo Asimov, come dice Aquatarkus, "il cervello positronico"... Ammesso che lo inventino...)

Mi piacerebbe sapere come si potrebbero risolvere alcune questioni, tipo la "successione mortis causa" dal momento che attualmente eredita solo colui che "nasce vivo"...ovvero che esala almeno un respiro dopo essere stato partorito.

Li dotiamo di polmoni stì robot? ;-P

Archer, grazie per i commenti molto interessanti.
Per quanto riguarda il primo, parlare di diritti dei robot sarà anche fuori dalla ragione umana ma è quello che stanno facendo, a quanto pare.
Qusto tema verrà prepotentemente a galla quando la prima macchina robot accennerà a una capacità decisionale complessa, e non semplicemente basata sull'alternativa Y/N (non so come a quando sarà possibile, ma presumibilmente prima o poi lo sarà).
Mi pare molto interessante quando dici: "ormai ci danno, e lasciamo liberi di farlo a chi ha questo potere, solo regole e zero educazione?"
Questa riflessiine a in qualche modo a che fare con l'ultima parte del mio post, quella cosiddetta "filosofica".
Dove non c'è più etica (educazione?) ci si può solo affidare a regole imposte e rigide, in alcuni casi magari scarsamente logiche.
Forse potresti spiegare cosa uintendi quando dici che le cose sono più difficili perchè ci sono le regole...
:-)
Magari poi me lo spieghi a 4 occhi.

Mentre elaboravo la risposta sei intervenuto si nuovo, grazie.
Adesso devo rispondere agli spunti del mitico Archer, ma questo dopo cena...
:-)

No, scusa Aquatarkus.
Nella prima parte del post si parla di DIRITTI PER I ROBOT, come da notizia linkata che forse non hai avuto il tempo di leggere.
Una notizia della quale tutti i TG hanno parlato in questi giorni: il problema è stato sollevato da sir David King, il capo degli scienziati di sua maestà Elisabetta II.
Come ho scritto lo scienziato prevede che questo problema dovrà essere affrontato e risolto entro cinquant'anni.
Il che non ha molto a che fare con metropolitane e neanche con "entità software", ma con macchine antropomorfe. Ovviamente dotate di un software.
Mi pare che tu alla fine sia d'accordo con lui ("ragionarci sopra non farebbe male") quindi francamente non capisco la ragione del contendere.
Nella seconda parte del post ho affrontato un'altra questione che mi è parsa in qualche modo correlata: Diritti e quindi doveri dei Robot come enità singole. E' chiaro che si tratta di regole che i Robot non si danno da soli, ma mi sembra superfluo spiegare la questione a un esperto di fantascienza quale sei.
Quindi, mi spiace, si tratta proprio di filosofia.
Se senti di dover trattare il tema in modo più pragmatico (o semplicemente diverso) le tue riflessioni saranno benvenute, naturalmente.
:-)

i "vincoli etici" ovvero le leggi della robotica di Asimov di cui parla l'articolo erano come, tutti sanno, dei "vincoli hardware" imposti dal progettista umano al cosiddetto cervello positronico.

non mi pare che l'articolo parlasse di questo.
Ad ogni modo le "regole" e "vincoli" per i produttori ci sono..il problema sta da un'altra parte perciò ho parlato di autoregolamentazione.
Ad ogni modo in Italia, oggi, è molto più difficile (almeno in teoria), poter fare certe cose appunto perchè ci sono regole...
ma da quanto letto sul post credo che stiamo andando davvero fuori contesto :)
a presto
arciere

Non si parlava di Regole Comportamentali per Robot e Entità Software? Trattasi in parole povere di vincoli hardware-software per i produttori e che ottengano questi risultati. Non si tratta di diritti umani applicati alle macchine, ma di criteri di progettazione. E' questo il punto. Altro che filosofia.

Per il resto siamo ancora lontani da macchine che possano desiderare dei diritti, ma ragionarci sopra non farebbe male.

mi permetto di dire (dato che il campo almeno dell'automazione di processi mi sfiora) che parlare di "diritti" per i robot è proprio molto fuori dalla ragione umana. Al massimo si DEVE parlare dell'autoregolamentazione di chi progetta robot e sicurezza informatica...qui si che ci vuole una bella discussione aperta..e ve ne potrei raccontare a decine di cose (fidatevi).
Per quel che riguarda poi cosa siamo "noi"..un po' ci stiamo "robotizzando"..ci fate caso che ormai ci danno, e lasciamo liberi di farlo a chi ha questo potere, solo regole e zero educazione?
Una società evoluta, secondo me, nn è quella dove "l'istituzione democratica" detta regole e proibizione...ma quella in cui educa al rispetto delle regole..che è cosa ben diversa e ben lontana da noi...noi che siamo trattatati da veri automi..quindi chissà se Isaac non pensava al genere umano quando scriveva di certe cose...

Scusa, stimatissimo amico, ma che c'entrerebbero i diritti umani (chiamiamli individuali, vah) per i "sistemi automatizzati".
Io di quello parlo.
Poi le questioni che sollevi tu sono altrettanto interessanti, ma in questo caso del tutto OT.

Non credo che il discorso sia così semplice e sopprattutto non credo che si stia parlando di robot che fanno i portieri d'albergo.
Piuttosto di sistemi automatizzati che gestiscono metropolitane, traffico aereo, energia, reti informatiche e faccende del genere. Ovvero robot che gestiscono sistemi complessi e che potrebbero interporre l'efficienza e la redditività alla sicurezza. EPerciò si pensa a regole del tipo: la tua efficienza e produttività non può essere a scapito della sicurezza.
Ma chi le vorrebbe regole del genere tra i finanziatori dell'automazione? Perciò bisogna imporle in qualche modo.