Probleme etice ale roboților: cum să încalci legile roboticii. Cum funcționează cele trei legi ale roboticii ale lui Isaac Asimov și de ce au fost inventate

Cele trei legi ale roboticii, care ocupă un rol foarte important în science fiction, sunt pur și simplu necesare în regulile comportamentului robotului. Inițial, aceștia au fost implicați în povestea „Round Dance”, a celebrului scriitor Isaac Asimov.

La rândul lor, aceste legi citesc:

• Un robot nu va putea niciodată să facă rău umanității. Dar există o variantă alternativă: robotul nu este capabil să aducă lucruri rele unei persoane, în timp ce nu face nimic.
• Un robot nu poate decât să urmeze ordinele pe care le dă o persoană. Dar și aici există și excepții: dacă ordinele sunt contrare Legii întâi, atunci sunt imposibil de îndeplinit.
• De asemenea, robotul nu poate decât să aibă grijă de propria sa siguranță în măsura în care nu contravine legii primei și a doua categorii.

Toate aceste Trei Legi, care conțin atât cauzele, cât și consecințele neîndeplinirii lor, au fost dedicate și publicate unei întregi colecții de povești de către autorul Asimov și toate vorbesc despre roboți.

Există și alte povești care s-au referit la stadiul în care nu pot fi prevăzute consecințele implementării tuturor celor Trei Legi de către roboți. De exemplu, o astfel de poveste poate fi considerată „Reflecție în oglindă”.

Într-una dintre povestirile sale, autorul a pus capăt bazei, care era cadrul etic al celor Trei Legi. Potrivit acestuia, un robot care îndeplinește toate cele Trei Legi este, ca atare, un robot sau o persoană foarte bună. La urma urmei, moralitatea este dată unei persoane astfel încât să o urmeze. Într-o oarecare măsură, o persoană, care îndeplinește o cantitate mare de diverse condiții, legi, este și un robot. Așadar, de ce nu poate această „creatură” de fier să pretindă titlul de „om”?!

Legea zero pentru roboți

În 1985, într-unul dintre numeroasele sale romane despre roboți, autorul îndrăznea să menționeze și despre Legea zero, a cărui esență a fost următoarea: robotul nu va provoca niciodată rău și rău unei persoane și, de asemenea, prin propria inacțiune, nu va permite rău.

În principiu, trebuie menționat că în toate legile menționate există o parte din ceea ce trebuie gândit. Lumea nu stă pe loc și nu se știe la ce mai pot aștepta astfel de ingenioși - astăzi viitorul aparține tinerei generații, care are în cap sute de tot felul de idei.

Se mai poate spune că toate cele trei legi ale roboticii sunt și subiectul ideilor fantastice ale lui Asimov. Aceasta include și ciclul, care este foarte strâns legat de întregul subiect dedicat roboților.

Care este morala celor Trei Legi

Este imposibil să treci fără a menționa rațiunea planului etic. Într-una dintre poveștile numită „Dovezi”, autorul a descompus foarte bine rațiunea moralității tuturor celor Trei Legi. De regulă, o persoană nu dorește să facă rău altei persoane, ci pur și simplu încearcă să se abțină de la aceste acte. Dar există excepții, ca în orice regulă. În război, această justificare pur și simplu nu funcționează.

Simțind responsabilitatea față de societate, o persoană urmează instrucțiunile acelor oameni care sunt reprezentanți ai medicilor, profesorilor și așa mai departe. Aici intervine manifestarea celei de-a doua legi.

Faptul că o persoană se îngrijorează și se protejează absoarbe Legea a treia. Astfel, toate aceste legi sunt foarte interconectate și pur și simplu nu pot exista unele fără altele. Este posibil ca Prima Lege să funcționeze, iar apoi să se poată muta fără probleme în a Doua, și apoi în a Treia Lege. Aici, morala și elementele de ficțiune merg mână în mână.

În ceea ce privește viitorul, singura problemă care poate fi este nivelul fanteziei, care în orice moment se poate transforma în realitate. Cu cât tehnologia se dezvoltă mai profund, cu atât oamenii vor avea mai puține probleme cu ea în viitor.

Este utopic să presupunem că cele trei legi ale roboticii ale lui Asimov ar putea fi puse la baza programării inteligente.<…>Dar nici măcar un robot echipat cu un fel de personalitate ersatz nu poate fi făcut complet sigur pentru mediu, având în vedere o astfel de reflecție, care, totuși, nu poate fi considerată o dovadă, ci duce la urma sa.<…>În principiu, o evaluare morală a unui astfel de act nu poate fi dată decât în ​​măsura în care este posibil să se urmărească pe cât posibil lanțurile cauzale declanșate de această acțiune. Cel care caută mai departe și observă astfel de posibile consecințe ale acțiunilor sale, pe care altcineva în locul lui nu este în stare să le prevadă, acționează uneori diferit față de acesta. Dar cu cât predicția consecințelor unei acțiuni merge mai departe în viitor, cu atât mai semnificativă va fi participarea factorilor probabilistici la predicție. Binele și răul, mai degrabă ca o excepție, formează o dihotomie polară: includerea unui element probabilistic în evaluare face luarea deciziilor din ce în ce mai dificilă. Prin urmare, un robot ipotetic, având o apărare foarte puternică din punct de vedere axiologic, în cursul evenimentelor reale, prezentându-și gradul inerent de complexitate, ar îngheța cel mai adesea, neștiind ce să facă, devenind astfel ca acei înțelepți orientali care onorau mai mult inacțiunea decât acțiunea. , care în situații complicate este pur și simplu nu poate fi riscant din punct de vedere etic. Dar un robot, paralizat în situații care necesită activitate, nu ar fi cel mai perfect dintre toate dispozitivele tehnice și, prin urmare, până la urmă, designerul însuși ar trebui să lase puțin joc de siguranța lui axiologică.
Cu toate acestea, acesta este doar un obstacol printre multe dintre ele, deoarece teoria deciziei ne-a arătat relativ recent, să zicem, folosind exemple precum așa-numitul paradox al săgeții.<…>. Ceea ce este logic imposibil, nici o mașină digitală, nici vreun robot, la fel ca o persoană, nu va putea realiza. Mai mult – și acesta este al treilea punct al dovezii – un dispozitiv inteligent nu este altceva decât un complex de autoprogramare, adică un dispozitiv capabil să transforme – chiar și fundamental – legile propriului comportament care erau în vigoare înainte de aceea sub influența experienței (sau a învățării). Și din moment ce este imposibil de prevăzut exact ce sau cum va învăța un astfel de dispozitiv în avans, indiferent dacă este o mașină sau o persoană, este imposibil să se garanteze constructiv apariția siguranțelor de activitate perfecte din punct de vedere etic. Cu alte cuvinte, „liberul arbitru” este un semn al oricărui sistem dotat cu proprietățile pe care le identificăm cu intelectul. Probabil că ar fi posibil să se monteze un anumit minim axiologic într-un sistem ca un robot, dar s-ar supune acestuia doar în măsura în care o persoană se supune unor instincte deosebit de puternice (de exemplu, instinctul de autoconservare). Cu toate acestea, se știe că până și instinctul de autoconservare poate fi depășit. Prin urmare, programarea axiologiei unui sistem asemănător creierului poate fi doar probabilistică, ceea ce înseamnă doar că un astfel de dispozitiv poate alege între bine și rău. - parte - o parafrază de idei nu Lem

În opinia mea, conceptele de bine și rău, la rândul lor, sunt strâns asociate cu conceptul de sens al vieții. Este imposibil de spus dacă o anumită acțiune umană este spre bine sau spre rău, atâta timp cât nu se știe care ar trebui să fie scopul comportamentului uman în general.

Cu toate acestea, în cadrul roboticii lui Asimov, acest lucru poate fi rezolvat pur și simplu până la vulgaritate.
Unul dintre romanele sale descrie modul în care un robot umanoid a fost încorporat în circuitul dorinței de dreptate - definind dreptatea ca pur și simplu respectarea legilor statului. — Și dacă legea este nedreaptă? - „O lege nedreaptă”, a răspuns robotul, „aceasta este o contradicție terminologică”.

Dacă acționați într-un mod atât de vulgar, atunci puteți defini cu ușurință conceptul de rău, dar astfel de roboți nu vor fi de folos ...

Răspuns

După cum știe distinsul public, dezvoltarea celor mai noi tehnologii, și cu atât mai mult în domeniul roboticii, este concepută mai întâi pentru a satisface nevoile industriei de apărare și abia apoi restul umanității. Cred că este clar că în astfel de condiții Prima Lege va fi modificată semnificativ. Și nu în direcția pacificării universale.

Răspuns

• Amintiți-vă cuvintele celebrului scriitor Kurt Vonnegut: „Indiferent la ce lucrează un om de știință, el ajunge cu o armă”.
  Probabil cu o premisă similară, care guvernează psihologia umană (și nu numai în rândul oamenilor de știință), Pământul nu are viitor... așa cum nu l-au avut cei care au trăit înaintea noastră. În general, dorința noastră de distrugere și autodistrugere este un tipar natural... totul se străduiește pentru echilibru (la entropie pozitivă), doar fiecare corp și esență din Natură face acest lucru în felul său. „Steaua îmbătrânește și explodează, în timp ce o persoană, după ce a atins limita cunoașterii, arde la 10.000 de grade Celsius pe secundă în cazanul războiului nuclear.
  Gândiți-vă la aforismul Drenerim - „Fiecare națiune este demnă de conducătorul ei! ..” De ce de mii de ani oamenii au fost conduși de troglodiți cu bâte, nu pentru că avem puterea în cinste, în care creierul nu este nevoie?
  Dar cel mai rău este atunci când creierul, pentru a supraviețui în lumea troglodiților, încep să-i servească pe acești troglodiți. Pentru că „Force” nu interesează prea mult opinia creierului, ci doar rezultatele: de exemplu, o formă mai letală de incisivi pe un club...

  Răspuns

  • Implementarea legilor menționate mai sus de către un robot este încă perspectiva unui viitor foarte îndepărtat... (Dacă vine deloc!)
    Dintre cele mai recente sisteme inteligente care sunt acum create pe baza rețelelor neuronale artificiale, se poate evidenția modelul RRS-EX (Rezoning Robotic sistems - Exployer). Această structură este cât mai aproape de structurile neurologice bionice... dar! RRS-EX pur și simplu nu are inteligența capabilă să analizeze configurația obiectivă în schimbare rapidă a mediului. Totul se bazează pe limita algoritmică a binarului ("DA-NU" și în intervalul "NU ȘTIU"). Pentru a învăța un robot să gândească și să-și extrapoleze concluziile, este nevoie de un segment străin de aleatorie, denumit altfel „Abordare intuitivă pentru inteligența artificială” sau altfel (privat, individual). Pentru a face acest lucru, este necesar să ieșim din teoria standard a algoritmilor matematici, care este capabilă doar să stabilească un program de acțiuni și asocieri pentru sistemele AI, dar nu poate oferi acestor sisteme metode de conexiuni private în circuite neuronale, dintre care există un miliard de miliarde în creierul biologic, plus influențe și impulsuri transversale (conștientizarea reflexă). Pe scurt, sistemele AI au nevoie de o matrice de individualitate atât pentru auto-învățare, cât și pentru capacitatea de a reflecta în mod adecvat nu numai faptele, ci și după fapt, precum și de a lua propriile decizii pe baza celor stabilite anterior (instruire, educație) logic dominant (logica binelui sau a logicii răului). Nu mai este posibil să se limiteze sistemele AI la trei legi. Dacă totuși este posibil să introduceți aceste trei legi în sistem, atunci câmpul gândirii individuale va fi închis, prin urmare, obiectul ghidat de aceste legi nu va fi altceva decât o mașină de calcul stupid. Și orice hacker talentat va mesteca și scuipa aceste legi ca pe niște semințe... Ai observat? Totul este ca și cum oamenii au EDUCAȚIE și INSTRUIRE! În caz contrar, se dovedește un simplu computer...

    Răspuns

    • Nu sunt puternic de acord cu tine, iubitor de știință. De ce atât de mulți oameni destul de deștepți își exprimă uneori, desigur, părerea că intuiția este oarecum legată de întâmplare?

      Intuiția (latina târzie intuitio - contemplare, din latină intueor - I regard), capacitatea de a înțelege adevărul prin discreția sa directă fără fundamentare cu ajutorul dovezilor. Găsirea inconștientă a unei soluții, înțelegere.

      În opinia mea, intuiția nu este în nici un fel legată de aleatoriu și poate fi complet determinată. La fel și comportamentul unei creaturi „vii” (AI) complet rezonabile. Acest determinism poate fi specificat de program. Sau spui că majoritatea acțiunilor tale nu sunt rezonabile și aleatorii? Ei mint?

      Declarație de imposibilitate:

      >> Nu mai este posibil să se limiteze sistemele AI la >>trei legi. Dacă, totuși, este posibilă introducerea acestor trei >>legi în sistem, atunci câmpul pentru gândirea individuală va fi închisă, >>prin urmare, obiectul ghidat de aceste legi nu va fi altceva decât o >>mașină de calcul stupid.

      O consider nefondată. Deși întrebarea este cu siguranță complexă. Asemenea afirmații, cred, ar fi bine argumentate în detaliu.

      Răspuns

Cred că merită adăugat la acest articol că Isaac Asimov a fost prima persoană care a rostit cuvântul Robot! el este cel care este fondatorul acestei culturi printre scriitorii de science fiction. În plus, nu sunt de acord cu articolul de mai sus despre „ficțiunea unei imagini bogate”, deoarece acesta este un fel de canon pentru munca unui creier robotic într-un mediu uman. și, cel mai important, amintiți-vă că chiar și Sir Yesak Newton la un moment dat a fost numit și charlotte, iar legile pe care le „emitea” erau o prostie sau, într-o formă blândă, „ficțiuni de bogată imaginație”...

Răspuns

Vreau să clarific că cuvântul „Robot” nu a fost inventat de Asimov. În 1920, Karel Capek, un scriitor ceh, a folosit acest cuvânt în piesa „R.U.R.”;.
http://ru.wikipedia.org/wiki/Chapek
Isaac Asimov s-a născut abia în 1920, ceea ce nu diminuează cu nimic valoarea lucrărilor sale.
http://en.wikipedia.org/wiki/Asimov%2C_Isaac

Răspuns

dacă iluzii:
Intelectul nostru este o suprastructură care protejează și aderă la interesele corpului (funcționare, replicare).
Pentru intelect, mi se pare, principalul lucru este motivația - scopul principal. Acest obiectiv va fi fundația pentru auto-învățare și alte lucruri.
Binele și răul sunt doar „+” și „-” pentru intelect, adică „beneficiu” și „daune” în cele mai complicate complexități de combinații și diferite lanțuri precum „I-familie-societate” (beneficiu - se apropie de principalul obiectiv sau aderarea la modalitățile de a-l atinge). Să spunem că scopul principal este supraviețuirea...

Răspuns

Cisco a anunțat crearea comunității de dezvoltatori Linksys. Acesta va include experți care creează aplicații pentru noile routere Linksys Smart Wi-Fi. Comunitatea va deveni parte a popularului Cisco® Developer Network, care conectează Cisco cu dezvoltatorii externi de hardware și software. Colaborarea pe această rețea are ca rezultat soluții interoperabile testate pentru clienții obișnuiți. Cisco, un pionier al rețelelor la domiciliu, a vândut peste 70 de milioane de routere Linksys la nivel global și se angajează să-și consolideze liderul cu soluții de rețea acasă de ultimă generație.
Routerele Linksys Smart Wi-Fi au o arhitectură unică bazată pe cloud, care permite dezvoltatorilor să creeze aplicații pentru dispozitivele electronice ale oricărui utilizator. Pentru a facilita dezvoltarea, comunității i se va oferi un kit de dezvoltare software (SDK) simplu și ușor de utilizat, tutoriale și mostre de cod.
„Suntem în pragul unei mari schimbări care aduce utilizatorilor de rețele de acasă un serviciu la care nu au visat niciodată. Noua platformă software și Comunitatea de Dezvoltatori Linksys sunt oportunități cu adevărat nelimitate pentru dezvoltatori”, a spus Vikas Butaney). servicii, de la cele mai simple, cum ar fi monitorizarea de la distanță acasă, până la cele mai complexe, dezvoltatorii pot contribui la crearea de soluții valoroase și utile pentru utilizatorii finali.”
Unii dezvoltatori au profitat deja de platforma Linksys Developer Community, SDK și alte instrumente Cisco pentru a accelera și simplifica dezvoltarea aplicațiilor. Rezultatul sunt șase aplicații create de Axentra Corporation, Fresh Consulting LLC, Gemini Solutions Inc., PacketVideo Corporation, Stratedge Adroitent J.V. și Xoriant Corporation. Noile aplicații oferă o conexiune ușoară a dispozitivului (un singur clic), un control îmbunătățit al accesului și noi capabilități de partajare media. Aceste aplicații sunt primul pas în deblocarea întregului potențial al routerelor Wi-Fi inteligente Linksys pentru utilizatorii finali.
Dezvoltatorii interesați să se alăture comunității de dezvoltatori Linksys pot vizita http://referati.do.am pentru a se înregistra și a începe să creeze noi aplicații pentru routerele Wi-Fi inteligente Linksys. Cisco oferă dezvoltatorilor resurse tehnice, de marketing și de vânzări, sprijinind membrii comunității pe tot parcursul procesului de afaceri și de dezvoltare.

Fluturii, desigur, nu știu nimic despre șerpi. Dar păsările care vânează fluturi știu despre ei. Păsările care nu recunosc șerpii sunt mai probabil să...

Ele nu pot fi ocolite, dacă sunt luate literal. Dar este ușor odată ce această idee începe să se concretizeze.
Imaginați-vă că un programator încearcă să scrie aceste legi. Iată primul, cel mai important: „Un robot nu poate face rău unei persoane sau, prin inacțiunea sa, îi permite unei persoane să fie rănită”.

Robot - ce este? Bine, acesta este el, adică nu trebuie să-i scrieți că este o mașinărie, este suficient să includeți clauza că ACEST nu poate dăuna. Și „acesta” este ce? O persoană are propriul „eu”, așa că nu crede că mâna lui este altceva, e tot așa, el, continuarea lui, adică conceptul de „robot” nu este atât de simplu. Toate acestea sunt părți ale „corpului” lui. Si cum este scris? Un robot, spre deosebire de o persoană, nu are o personalitate, sau trebuie să se simtă mai întâi ca o persoană, și nu să fie un set de detalii. Înțelegeți scopul sarcinii? Pentru a împinge prima lege a roboticii într-un robot, el trebuie să aibă o conștiință integrală, cu înțelegerea că toate părțile sale, toate șuruburile, firele, panourile și motoarele sunt un întreg și chiar ceea ce va folosi - alte mecanisme sau obiecte. că el controlează, că este responsabil pentru ele. Mă uit la o mașină - chiar și cel mai inteligent computerizat cu greu înțelege că roțile fac parte din ea. Adică, fiecare parte, precum și alte „părți” pe care le poate folosi robotul, trebuie să fie incluse într-un singur sistem subordonat unui singur centru de control și să monitorizeze locația în spațiu pentru fiecare parte a corpului său. Aceasta este o sarcină atât de dificilă încât radarele simple nu o pot face. Există un decalaj imens între un mecanism și o ființă vie. Primele nu au sistem nervos, nu există receptori pe toată suprafața. Un braț robot este doar o bucată de metal, nu poți pune un senzor de urmărire pe fiecare centimetru, brațul nu simte nimic și, prin urmare, robotul nu este capabil să deseneze o imagine tridimensională a lui însuși, înțelegând la fiecare moment în care fiecare dintre detaliile sale este în contact cu lumea exterioară.

Imaginați-vă că o persoană a uitat unde este scaunul său și se așează pe podea. Se întâmplă foarte rar, nu? Ca o curiozitate. Ne amintim întotdeauna nu numai unde suntem, ci și unde sunt obiectele din jurul nostru. Și facem o treabă foarte bună de a ne orienta. Cu toate acestea, se întâmplă incidente și putem sugruma accidental un pisoi sau alergăm peste un câine pe drum. Înțelegem că nu poți urmări totul și că putem ucide din greșeală o altă persoană. Cum le putem interzice roboților să nu facă niciodată rău oamenilor dacă oamenii pot cădea literalmente în brațul robotului? Deci, trebuie să facem ajustări la prima lege. Nu se poate dăuna în special, de exemplu. Și chiar acolo este o problemă. Poate nu intenționat? Bine, să fie „fă tot ce-ți stă în putere pentru a nu provoca rău”. Și cine va stabili dacă a făcut totul? Este singur? Adică, roboții vor avea un anumit procent din probabilitatea ca acesta să provoace rău. Ni se arată tot timpul cum un robot oprește literalmente un braț sau un picior de un păr, pentru a nu ucide o persoană, ci inerție? Și mișcarea care se apropie a unei persoane, s-a sinucis împotriva unui robot din accelerație? Un munte de accidente, iar robotul, în principiu, ca orice obiect care se mișcă în spațiu, nu poate garanta că nu va răni pe cineva și, prin urmare, nu va face rău prin acțiunea sa. Prima lege nu este îndeplinită.

O persoană va pune o mască, va fi mânjită în noroi și nu va mai fi o persoană? Adică unele fotografii încărcate în memoria robotului pentru identificare nu sunt suficiente. Cum va determina robotul că în fața lui există o persoană și nu un manechin, nici o persoană moartă, nici o imagine, nici o hologramă, nici un alt robot umanoid? Chipsuri. Grozav. Am intrat în programul de cip, am schimbat codul de identificare și gata, poți deschide focul pentru a ucide. Sau robotul va identifica oamenii după radiațiile emanate de ei? Deci bărbatul în costum este un cadavru. Crezi că este atât de ușor să înțelegi că o persoană se află în fața ta? Și aici nu este. Există o mulțime de situații controversate când ne îndoim. Casa s-a prăbușit, sunt oameni acolo? Sunt în viață? O umbră fulgeră, este o persoană? Și uneori facem greșeli. Luăm un manechin pentru o persoană, nu observăm că sub o grămadă de gunoi cineva a supraviețuit sau cineva a fost în spatele acestui zid. Nu am stiut. Iar robotul nu este clarvăzător. El va face o greșeală și va schilodi, sau chiar va ucide o persoană, sau nu o va salva, sau va da respirație artificială unui manechin. Pentru a ocoli legea, este suficient să editați definițiile „robot” și „uman”, dar el însuși se va descurca, deoarece nu se poate obține acuratețea perfectă a definițiilor.

Legea nu a fost scrisă pentru roboți. El presupune că mecanismul este atât de perfect încât nu poate fi greșit. Vede totul, evaluează situația într-o fracțiune de secundă și are abilități paranormale cu mult superioare celor umane. Deci impresia este că legea a fost scrisă pentru Dumnezeu. Cel care ne este atât de dor. Toți cei care au zei nu intervin într-adevăr în viața noastră și ne îmbolnăvim, suferim, murim. Avem nevoie de un alt Dumnezeu care să nu ne privească din cer, ci să ne dea de fapt o mână de ajutor. Și, în același timp, nu va dăuna, înțelegând intuitiv unde este răul și unde este beneficiul. Robotul ca o ființă superbă. Și dacă da, atunci astfel de roboți nu vor fi niciodată creați de om. Și, prin urmare, toate cele trei legi ale roboticii nu vor fi niciodată descrise în forma despre care a vorbit Asimov. Va fi o versiune complet diferită, trunchiată, conform căreia roboții vor face rău oamenilor. Fie întâmplător, fie din cauza unei erori de identificare, fie din cauza imperfecțiunii sistemului său de determinare a poziției corpului în spațiu. Ați văzut pe macarale inscripția „nu sta sub braț”, „derapează doi metri” la mașini lungi? Cam aceleași restricții vor fi pentru roboți.

O persoană în sine nu poate decât să facă rău altor oameni și altor ființe vii, indiferent cât de mult și-ar dori. Și asta în ciuda întregii perfecțiuni a dispozitivului său în domeniul recunoașterii obiectelor, înțelegerea ce și cum să faci și ce să nu faci pe baza principiilor morale, care sunt și ele convenționale și este îndoielnic că pot fi scrise ca program. Acțiunile pot fi cumva prescrise pas cu pas, dar de îndată ce este vorba de identificare, definire în spațiu și mai ales de a simți ca un întreg obiect și de a înțelege toate consecințele acțiunilor cuiva, apar dificultăți de netrecut. Un fel de robot va dăuna cu siguranță unei persoane și atunci cum poate „trăi” cu asta? A încălcat legea. Și la fel ca Sunny în film, va ajunge la concluzia că nimeni nu este perfect și că este necesar sau în regulă să ucizi oameni uneori. Ceea ce neagă complet ideologia celor trei legi.

Acestea au scopul de a asigura funcționarea unei mașini care este absolut sigură pentru oameni. În același timp, problema este cumva ocolită că și roboții mai puțin avansați vor ucide oameni fără să știe. Pentru noi, acești roboți sunt prezentați ca mecanisme care nu sunt capabile de acest lucru. Dar, din moment ce nu sunt Sunny, nu vor suferi din cauza experiențelor. Ei bine, a zdrobit pe cineva. Se întâmplă tuturor. „Nu sta sub săgeată”. Oricum, ajungem la rezolvarea celei mai importante probleme morale pentru o persoană - unde este granița dintre rău și beneficiu, iar dacă o persoană nu a rezolvat-o, atunci mecanismul este și mai mult. Pur și simplu pentru că el este un obiect al lumii materiale și, dacă există, poate face rău cuiva.

Deci, cred că civilizația nu va urma calea de a urma aceste trei legi, iar imposibilul nu va fi cerut de la mașini. Dar oamenii vor încerca să se îmbunătățească. Genetic sau prin implantarea (atârnată) dispozitive și mecanisme, sau ambele opțiuni simultan - nu este ideea. Roboții din literatură și cinema sunt alter ego-ul creatorului, al omului. Vrea să se vadă ca fiind puternic, rezistent, fără să simtă durere, fără să cunoască boli, ușor de reparat, etern. Rămânând uman. Ceva între Sunny și Del Spooner. Ei bine, pentru ca trupul să fie viu, pentru a primi toate bucuriile vieții, dragostea, sexul, riscul, experiențele din tot spectrul, și să nu strănut din noua versiune a gripei, să nu moară din libații sau din cauza unui accident. Visul de a se îmbunătăți se desfășoară ca un fir roșu în aproape toate lucrările fantastice, de la Avatar la Iron Man și Spider-Man. Teza „suntem oameni în timp ce suntem slabi” nu ne convine. Și cu problema „să nu ucizi” ne vom da seama cumva. Cele trei legi în termeni ideali nu sunt pentru noi. La urma urmei, nu suntem bucăți de fier fără suflet și înțelegem cât de dificil este să distingem binele de rău, răul de beneficiu și cât de concepte situaționale și relative sunt acestea și știm exact cum vrem uneori să lovim pe cineva. Și nimeni nu ne va lua dreptul de a ne da seama de acest sentiment pur și simplu pentru că există o singură modalitate de a-l lua - de a ne pune în celule solitare confortabile, cu pereți moi. De preferat legat de pat. Deci, cum a vrut VIKI să o facă din filmul „I, Robot”. Adevărata umanitate poate fi realizată doar în acest fel - prin privarea unei persoane de liberul arbitru. Adică transformându-i în roboți.