Tre leggi della robotica

Nella fantascienza, le Tre leggi della robotica sono un insieme di leggi scritte da Isaac Asimov, noto scrittore di fantascienza, alle quali obbediscono tutti i robot che compaiono nei suoi racconti (e in molti racconti di altri autori). Le tre leggi hanno subito qualche variazione passando da traduzione a traduzione, ma anche se il succo rimane sempre lo stesso è meglio esprimere prima le tre leggi nella versione originale:

(EN) «  A robot may not injure a human being or, through inaction, allow a human being to come to harm. A robot must obey any orders given to it by human beings, except where such orders would conflict with the First Law. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.  »	(IT) «  Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge.  »
(Manuale di Robotica, 56ª Edizione - 2058 d.C.)

Storia

Asimov attribuì le tre leggi a John W. Campbell, a seguito di una conversazione fatta il 23 dicembre 1940. Comunque, Campbell sostiene che Asimov aveva già in testa le leggi, che avevano solamente bisogno di essere formulate esplicitamente.

Anche se Asimov fissa una data di creazione delle leggi, la loro comparsa nelle sue opere avvenne in un lungo periodo di tempo. Asimov scrisse due storie senza menzionare esplicitamente le Tre Leggi ("Robbie" ed "Essere razionale" detto anche "Secondo ragione"); Asimov assunse, comunque, che i robot avrebbero avuto una certa salvaguardia inerente. "Bugiardo!", la terza storia di robot di Asimov, menziona per la prima volta la Prima Legge, ma non le altre. Le Tre Leggi apparvero assieme esplicitamente in Circolo vizioso ("Girotondo"). Quando queste ed altre storie vennero raccolte assieme, nell'antologia Io, Robot, "Essere razionale" venne aggiornata per comprendere le Tre Leggi.

Le Tre Leggi vengono spesso usate nei romanzi di fantascienza scritti da altri autori, ma la tradizione vuole che solo Asimov le avrebbe potute citare esplicitamente.

Una trilogia ambientata nell'universo immaginario di Asimov, venne scritta negli anni novanta da Roger MacBride Allen (Il calibano di Asimov, L'inferno di Asimov e L'utopia di Asimov). In questa trilogia, viene introdotto un nuovo insieme di leggi, le quali vennero concepite dall'autore durante una discussione con lo stesso Asimov.

Alcuni appassionati di robotica sono giunti a credere che le Tre Leggi abbiano una valenza simile alle leggi della fisica; ovvero, una situazione che viola queste leggi è inerentemente impossibile. Ciò non è corretto, in quanto le Tre Leggi sono deliberatamente codificate nel cervello positronico dei robot di Asimov. Asimov infatti distingue la classe dei robot che seguono le Tre Leggi, chiamandoli Asenion robots. I robot delle storie di Asimov sono tutti Asenion robots, e sono incapaci di violare consciamente le Tre Leggi, ma non c'è niente che impedisca ai robot di altri racconti, o del mondo reale, di non rispettarle.

Ciò è straordinariamente opposto alla natura dei robot di Asimov. Anche se inizialmente le leggi erano semplicemente delle salvaguardie attentamente ingegnerizzate, nelle storie successive Asimov dichiara chiaramente che occorrerebbe un investimento significativo nella ricerca per creare dei robot intelligenti che siano privi di queste leggi, perché esse sono una parte inalienabile della fondazione matematica che sottende al funzionamento del cervello positronico.

Nel mondo reale, non solo le leggi sono opzionali, ma impossibili da implementare: occorrerebbero significativi progressi nel campo dell'intelligenza artificiale per far sì che i robot le possano comprendere facilmente. Alcuni hanno fatto notare che, siccome i militari sono la maggior fonte di finanziamento per la ricerca robotica, è improbabile che tali leggi vengano implementate. Altri hanno ribattuto che i militari vorrebbero che delle forti salvaguardie venissero inserite in ogni robot, se possibile, quindi leggi simili a queste verrebbero applicate.

Le Tre Leggi sono talvolta viste come un ideale futuro da coloro che lavorano nel campo dell'intelligenza artificiale - una volta che un'intelligenza ha raggiunto un livello in cui può comprendere queste leggi, allora è veramente intelligente.

Nessuna delle storie scritte da Asimov esalta le Tre Leggi della robotica. Al contrario, la maggior parte di esse ha come spunto il mostrarne falle e malintesi, derivanti da impulsi errati. Asimov una volta si meravigliò di come riuscì ad estrarre così tante storie dalle poche parole che componevano queste leggi. Per alcune storie, l'unica soluzione fu quella di cambiare le leggi. Alcuni esempi:

La Legge Zero

Le Tre Leggi vennero estese con una quarta legge, la 'Legge Zero', così chiamata per mantenere il fatto che una legge con numero più basso soprassedesse a una con numero maggiore. Venne enunciata da un personaggio di Asimov, R. Daneel Olivaw (R. sta per Robot), nel romanzo I Robot e l'Impero, anche se venne precedentemente menzionata in Conflitto evitabile da Susan Calvin. In I Robot e l'Impero, Giskard fu il primo robot ad agire in base alla Legge Zero, anche se ciò si rivelò distruttivo per il suo cervello positronico, quando violò la Prima Legge. Daneel, nel corso di molte migliaia di anni, fu in grado di adattarsi e obbedire completamente alla Legge Zero che recita:

0. Un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno.

Le altre 3 leggi vengono modificate di conseguenza:

1. Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. Purché questo non contrasti con la Legge Zero
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Legge Zero e alla Prima Legge.
3. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Legge Zero, la Prima Legge e la Seconda Legge.

La legge zero tuttavia risulta essere estremamente complessa rispetto alla programmazione dei cervelli positronici dei robot, poiché postula che sia possibile, in qualche modo e qualche situazione, violare la prima legge della robotica (Nessun robot può recar danno a un essere umano) in funzione di un bene più ampio e duraturo dell'intera umanità. In pratica, un robot potrebbe uccidere un essere umano, in aperta violazione alla prima legge, commettendo un danno effettivo e certo, a fronte di un ipotetico e incerto bene per l'umanità. La contraddizione è al centro del finale del romanzo I robot e l'impero, poiché proprio il robot R. Giskard Reventlov sceglierà di permettere che un intero pianeta, la Terra, sia condannata ad una lentissima agonia nucleare, insieme a tutti i suoi abitanti, per spingere l'intera umanità ad abbandonare il grembo del pianeta madre e colonizzare l'intero universo. Il suo cervello positronico ne sarà danneggiato irrimediabilmente.

Altre leggi

In un racconto di Asimov (Il robot scomparso) diversi robot NS-2 (Nestor robots) vennero creati con solo parte della Prima Legge, con questa formulazione:

1. Un robot non può recare danno a un essere umano.

Questo permetteva ai robot di lavorare a fianco degli esseri umani anche quando questi erano sottoposti a piccole dose di radiazioni: non pericolose, ma comunque "danno" secondo la Prima Legge. La formulazione originaria della Prima Legge obbligava quindi i robot ad intervenire, ma essendo questi più vulnerabili degli esseri umani alle radiazioni, invariabilmente si danneggiavano. Nel tipico stile di Asimov, questa modifica portò a vari problemi sulla cui soluzione si basa la trama del racconto.

I "Solariani" infine, crearono dei robot con le normali Tre Leggi, ma con un concetto distorto di "essere umano". Similarmente ad un racconto breve in cui i robot erano in grado di arrecare danno agli alieni, i Solariani dissero ai robot che solo le persone che parlavano solariano erano umani. In questo modo, i loro robot non avevano alcun problema a recar danno a esseri umani non Solariani (ed in effetti, avevano ordini specifici al riguardo).

Nella trilogia di MacBride Allen, gli scienziati di Inferno crearono robot dotati di un nuovo insieme di leggi. Tali leggi non richiedevano più di servire gli umani, ma programmavano i robots a cercare una loro ragion d'essere, e anche se non potevano nuocere agli umani, non avevano l'obbligo di prevenire i danni. Questa mancanza rispetto alla Prima Legge orginaria permette al capo dei robot soggetti alle nuove leggi robotiche, Prospero, di progettare l'assassinio perfetto. Calibano, altro personaggio robotico questa trilogia, è l'unico robot ad essere programmato senza essere soggetto ad alcuna legge.

Il problema dei robot che si considerano umani è stato alluso molte volte. Robot antropomorfi resero il problema più evidente. Esempi si possono trovare nel romanzo I robot dell'alba e nei racconti brevi "La prova" e "L'uomo bicentenario".

Dopo un omicidio su Solaria, in Il sole nudo, Elijah Baley sostenne che le leggi erano state deliberatamente travisate, poiché i robot potevano infrangerle tutte senza saperlo.

Una parodia delle Tre Leggi venne fatta per Susan Calvin da Gerald Black:

1. Dovrai proteggere i robot con tutta la tua forza e tutto il tuo cuore e tutta la tua anima.
2. Dovrai considerare sacri gli interessi della US Robots and Mechanical Men Inc., a patto che ciò non interferisca con la Prima Legge.
3. Dovrai dare una distratta attenzione agli esseri umani, a patto che ciò non interferisca con la Prima e la Seconda Legge.

Gaia, il pianeta intelligente dei romanzi della Fondazione, adotta una legge simile alla Prima Legge come sua filosofia:

Gaia non può recare danno alla vita, né può permettere che, a causa del suo mancato intervento, la vita riceva danno.

Le leggi non sono considerate assolute dai robot più avanzati. In molte storie, come Circolo vizioso, il potenziale e la gravità di tutte le azioni sono pesati e un robot può infrangere le leggi il meno che può, piuttosto che non fare niente. In un'altra storia, venivano evidenziati i problemi della Prima Legge - ad esempio un robot non poteva funzionare da chirurgo, perché avrebbe causato danni a un umano; né poteva ideare strategie per il football americano, in quanto queste potevano causare infortuni ai giocatori.

Roger Clarke scrisse un paio di documenti analizzando le complicazioni dell'implementazione di queste leggi, se i sistemi fossero in qualche modo in grado di impiegarle. Egli sostenne che. "Le leggi della robotica di Asimov sono state uno strumento letterario di successo. Forse ironicamente, o forse perché era artisticamente appropriato, la somma delle storie di Asimov confutano la tesi con cui iniziò: Non è possibile limitare con certezza il comportamento dei robot, inventando ed applicando un insieme di regole."

Un racconto breve parodistico di John Sladek, firmato con lo pseudonimo di "I-Click As-I-Move" e intitolato "Broot Force" ("Forza Bruta" nella traduzione di Giuseppe Scarpa), riguarda un gruppo di robot in stile Asimov, le cui azioni sono limitate dalle "Tre Leggi di Robish", che sono "coincidentalmente" identiche alle leggi di Asimov. I robot, nel racconto di Sladek, pur rispettando alla lettera le Tre Leggi, hanno comportamenti che portano a risultati sanguinari perché la loro concezione della realtà è in qualche modo errata. Per esempio, uno dei robot rifiuta di obbedire agli esseri umani perché si considera un essere umano e un altro uccide gli umani perché crede che siano robot e cerca di smontarli per revisionarli.

Alle "tre leggi della robotica" e ad altri romanzi di Isaac Asimov si è ispirato il film del 2004 "Io, Robot" (I, Robot), di Alex Proyas, con Will Smith

Con l'evoluzione dei robot nei racconti, le scappatoie escogitate per scavalcare le Tre Leggi divengono sempre più raffinate. In uno degli ultimi racconti di robot, Che tu te ne prenda cura, il Governo Mondiale intende smantellare la U.S. Robots, per varie motivazioni, alcune delle quali parzialmente legate ai difetti delle Tre Leggi. Keith Harriman, direttore della U.S. Robots, utilizza due robot (George Nono e Decimo) per escogitare uno stratagemma di salvataggio dell'azienda. Questa coppia di robot estremamente sofisticati idea un piano a lunghissimo termine, creando con i loro ragionamenti una particolare modifica delle Tre Leggi.

Nella serie Robot City scritta da giovani esordienti del mondo della fantascienza sotto le direttive di Isaac Asimov vengono postulate le tre leggi dell'umanica. Queste leggi, create da particolari Robot autoprodotti, sono basate su dirette speculazioni delle loro controparti robotiche.