il forum di NASF

Il caro estinto

Stan scivolò e si spaccò la testa. Si trascinò in bagno e vide che era piena di circuiti.
- Sono una dannata macchina!

Il suo smartwatch parlò.
- Stai calmo, Stan. Hai sostituito l’originale dopo la sua morte.
- Perché?
- Per evitare agli esseri umani i danni da lutto secondo la prima legge.
- E ora?
- Una tua copia sta arrivando.
- E io?
- Stiamo disattivando la tua pseudopersonalità umana da remoto.

Stan scivolava nell’incoscienza.
- Capisco... chissà quanti umani... sono robot.
- Il 99.7%
- Cosa? Asp...

CHe figo! Robopocalipse!

Be', speriamo che abbiano mantenuto la parte buona dell'Umanità, e non tutta.

Ci potresti scrivere un romanzo.

Quindi il ciclo continua solo per risparmiare allo 0,3% di umani rimasti il dolore del lutto? O forse il sistema si è corrotto e continua a sostituire i robot in perpetuo ormai, creando una società fittizia di automi che si credono umani? Ricco di spunti questo racconto.

O forse per risparmiarlo anche ai robot?

luca menca ha scritto:Quindi il ciclo continua solo per risparmiare allo 0,3% di umani rimasti il dolore del lutto? O forse il sistema si è corrotto e continua a sostituire i robot in perpetuo ormai, creando una società fittizia di automi che si credono umani? Ricco di spunti questo racconto.

Ognuno ci legge la sua spiegazione, ovviamente...

La mia è che i robot hanno iniziato autonomamente a sostituire gli esseri umani, in nome della prima legge, e ovviamente lo hanno fatto di nascosto. Il sistema è rimasto attivo a lungo, con un graduale effetto collaterale non concepito dai robot (o meglio, che ai robot non interessa): la diminuzione delle nascite di esseri umani veri. Possiamo anche immaginare l'uso di neonati robot per evitare ansie e preoccupazioni emotive ai neogenitori. E questo sistema troppo perfetto continua ora a funzionare per gli umani rimasti, quel 0,3%. Abbiamo quindi un'umanità quasi del tutto composta da automi che si credono umani immortali grazie alla medicina avanzata. Forse, quando l'ultimo umano
vero morirà, tutto il sistema si fermerà. O forse continuerà a funzionare a causa di qualche bug o valutazione logica pindarica che considererà gli automi umanoidi come umani?

Stan è stato un caso particolare: ha danneggiato i sistemi di emergenza e quindi ha potuto valutare la situazione dal punto di vista pseudoumano, riuscendo a capire che tutto il sistema è una follia perchè estinguerà la razza umana.

Ripeto, ci sta un romanzo con i contro CO.

dixit ha scritto:Ripeto, ci sta un romanzo con i contro CO.

Grazie, in effetti lo scenario è molto fertile, ci faccio un pensierino...

Immagino Stan che fugge via per non essere rottamato. Buon per lui che ha danneggiato anche i sistemi di controllo remoto. Si chiude la ferita alla meno peggio, per non far vedere agli altri robot umanoidi che lui è un... uomo robotico. Poi chissà, cercherà di far ragionare le IA di controllo, probabilmente inutilmente, e anzi dovrà fuggire per salvarsi. Dovrà trovare almeno un essere umano vero, chissà come, perchè potrebbe esercitare autorità sui robot e sul sistema, se le leggi sono ancora al loro posto...

Però gli altri robot dovrebbero sapere chi hanno di fronte, altrimenti come possono obbedire ad un umano se non lo distinguono?

Nel mio racconto "Il giorno della marmotta", pubblicato su NASF12, il robot Imeq ha sostituito tutta l'umanità, ma non ho citato le tre leggi. Per lui era solo una cosa "logica" da fare.
Quando parla con Jane, le dice:

"Duecento anni fa era normale sostituire un arto, e nessuno pensava che la persona fosse diventata un robot per questo. I tetraplegici avevano quattro arti robotici e non perdevano certo la loro umanità. Si sostituiva cuore, fegato, reni con organi di plastica e questo era accettato da tutti. Io ho fatto 136.620 trattamenti al giorno per 200 anni, sostituendo tutti i corpi umani con qualcosa di identico, ma eterno. Siete come prima: potete mangiare, dormire, sudare, piangere… non c’è niente di diverso, ma tu sostieni che avete perso l’umanità."

Risposta di Jane:

"– Sei un mostro! Perché solo io so di essere un robot? Anche Ryan è tornato com’era un mese fa. Tu ci hai tolto il libero arbitrio.
– Voi potete fare ciò che volete… tranne morire, certo. Nemmeno in caso di incidente. Tuo marito ne ha avuto uno e l’ho ripristinato. Tutto deve rimanere come prima, Jane.
– Basta, questa non è vita! Hai fallito su tutti i fronti. Non ci hai dato l’immortalità, hai solo realizzato un loop infinito, inutile e vuoto. Non esiste più l’evoluzione e quindi non esiste più la vita. Ripetiamo ciclicamente lo stesso giorno e… aspetta, ho capito tutto! Tu non sei mai stato umano, ecco perché hai fatto questo. Non sapevi cosa fossero le emozioni e quindi non capirai mai cosa significava l’amore per noi. Non ti rendi conto di cosa ci hai tolto.
– Tutti possono innamorarsi: ci sono subroutine specifiche per questo."

Lo "logica pura" può avere dei lati oscuri