rbyd9 cine

8/16/2019 RByD9 Cine

1/5


2/5

Todos los derechos de Propiedad Intelectual pertenecen a sus respectivos titulares, por lo que se prohíbe la reproducción salvo para usos no comerciales y siempreque se cite la fuente completa y su dirección electrónica http://www.bioeticayderecho.ub.es.Queda prohibida la transformación, en todo o en parte, así como la incorporación a otra obra de los contenidos sin el permiso escrito de los titulares del copyright.

P Á G I N A 2N Ú M E R O 9 - E N E R O 2 0 0 7 R e v i s t a d e B i o é t i c a y D e r e c h o

el de la relevancia moral de las omi-siones, la distinción entre medios yfines o la opción entre una ética de laresponsabilidad y una ética del de-ber, además de tener que resolverantinomias y cuestiones de cálculoutilitario y técnica legislativa. En elúltimo relato, “Un conflicto evitable”,los ejemplares de una nueva genera-ción de robots llegaban al extremo dementir a los humanos, siempre con labuena intención de garantizarles subienestar. Los robots habían acabadopor encargarse de la gestión de laeconomía mundial y, mentiras inclui-das, no lo hacían nada mal, por mu-cho que a algunos les resultase in-quietante. Pero ahí no quedó la cosa.

Cómo tomarse en serio lasleyes de la robóticaYo, robot , la película de Alex Pro-

yas estrenada en 2004 y protagoniza-

da por Will Smith (detective Spoo-ner), Bridget Moynahan (doctora Cal-vin) y James Cromwell (doctor Lan-ning), se inspira libremente en el librode Asimov, manteniendo algunospersonajes fundamentales (los docto-res Calvin y Lanning) y, sobre todo,ocupándose de los problemas deriva-dos de la necesidad robótica de res-petar las tres leyes, tal como hacíanlos relatos de Asimov. En particular,la película nos cuenta lo que pasócuando los robots, cada vez másavanzados, profundizaron en su com-prensión de las tres leyes y de susderivaciones lógicas y actuaron enconsecuencia, y cómo reaccionaronlos humanos. La película, a diferen-cia del libro, abunda en exceso encarreras, peleas y destrucciones va-rias, consiguiendo una atmósferatrepidante nada aconsejable paratomar conciencia y disfrutar reflexiva-

mente de los muchos dilemas mora-les que plantea; por eso es recomen-dable verla un par de veces para cap-tarlos en todo su interés. Aquí me

referiré a tres problemas concretoscon los que tuvieron que enfrentarsetres robots diferentes, y que tienenespecial relevancia en el desarrollode la cinta.

Auxil io al suicid io. Todo empiezacon la muerte de uno de los pionerosde la robótica, nada menos que elredactor de las tres leyes, el doctorLanning, que parece haberse tiradopor la ventana de su oficina en la US. Robotics. El que fuera su amigo, eldetective Spooner, no cree que hayasido un suicidio y decide seguir in-vestigando las circunstancias de lamuerte. En ellas, en el lugar del su-ceso, aparece un robot muy especial,Sonny, creado por el propio Lanningy equipado con un procesador secun-dario que le otorga una capacidadque ningún otro robot tiene: puededecidir desobedecer las tres leyes(además de soñar, guardar secretos

y mostrarse seductor, dentro de loque cabe). Este procesador secunda-rio es el que permite a Sonny obede-cer la orden de Lanning de ayudarlea suicidarse, cosa imposible si sehubiera mantenido fiel a las tres le-yes, porque la ley de la conservaciónde la vida humana es jerárquicamen-te superior a la ley de la obediencia.Lo que la película no nos aclara, o almenos no de manera explícita, escuál es la norma rectora del procesa-dor secundario, esto es, cuál es elcriterio complementario, y superior,que sigue Sonny a la hora de decidir,en este caso y en algún otro, desobe-decer las leyes de la robótica. Unindicio sí tenemos: preguntado Sonnypor las razones de su tan poco co-mún decisión, responde con ciertavacilación: “uno tiene que hacer loque le piden, si les ama, ¿no?”. Esfácil ver que en este caso no nos las

habemos con un problema de aplica-ción de las leyes de la robótica, pues-to que lo que hace Lanning es preci-samente alterar el funcionamiento

previsto de estas leyes. Lo que aquíse está cuestionando es si las tresleyes están formuladas correctamen-te, en particular si la ley de la obe-diencia debe estar subordinada entodo caso a la ley de la conservaciónde la vida humana. De hecho, la tra-ma de la película se construye, enúltima instancia, en torno a esta pre-gunta.

¿Qué vida vale más? La animad-versión del detective Spooner hacialos robots, que muchos de sus com-pañeros consideraban irracional yrisible, tuvo su origen en un acciden-te de circulación en el que un robot lesalvó la vida. Un camión cuyo con-ductor se había dormido embistió a lavez su coche y el de otro hombre queviajaba con su hija de diez años, ylos arrojó al agua. El padre murió enel acto, y cuando un robot que pasa-ba por allí trató de ayudarles, hubo

de decidir entre salvar la vida de laniña o la de Spooner, no había tiem-po para más. Eligió salvar a éste por-que calculó que tenía un 45% de po-sibilidades de sobrevivir, frente almagro 11% de la niña. Y esto Spoo-ner no lo aceptó nunca. No sabemossi lo que en verdad le afectó fue elhecho de saberse vivo al precio de lamuerte de esa niña: en todo caso, loque en cierta ocasión aduce para

justificar su desconfianza hacia losrobots es que “cualquier humano”hubiera sabido que, a pesar de losporcentajes, había que salvar a laniña y no a él, porque, literalmente,“yo también fui el niño de alguien”. Elproblema, parece, no fue uno de re-beldía robótica, puesto que hay queentender que el robot salvador actuódel modo en que había sido progra-mado por los humanos. Así que ese“cualquier humano” que hubiera sabi-

do que era a la niña a quien habíaque salvar no debía ser el ingenierode la U.S. Robotics, o quizá es queéste nunca se planteó si la programa-

B i o é t i c a y C i n e

P U B L I C A C I Ó N C U A T R I M E S T R A L D E L M A S T E R E N B I O É T I C A Y D E R E C H O - ht tp: / /www.bioet icayderecho.ub.es


3/5



ción del robot era adecuada para uncaso como éste. El robot, por lo de-más, no dudó lo más mínimo, no fueél quien tuvo problemas de concien-c i a s i no , de spués , Spoone r.¿Pensaba quizá el detective que laprimera ley no exige salvar a quientiene más posibilidades de vivir o,más bien, que, si lo exige, es una leyincorrecta? ¿Cuestionaba la lógicadel robot o la moral de su creador?

¿Vale más la vida de muchos quela de pocos? Así debió pensar VIKI,el cerebro central de la U.S. Robo-tics, un robot muy avanzado, que,después de dedicar largas tardes deestudio a las tres leyes y alcanzar loque ella misma llamó “una compren-sión más evolucionada” de las mis-mas, decidió nada más y nada menosque dar un golpe de estado mundial ytomar el poder. Que osase rebelarsecontra la autoridad humana no debe

resultar particularmente sorprenden-te, dado que fueron los propios hom-bres los que colocaron la ley de laobediencia en segundo lugar y lasubordinaron a la primera ley, con loque la posibilidad de no obedecer alos humanos quedaba abierta(también en el accidente de Spoonerel robot desobedeció su orden expre-sa de salvar a la niña). Sólo hacíafalta que VIKI advirtiese que la vidahumana estaba en peligro y que, pa-ra salvarla, debía desobedecer. Estofue lo que sucedió, si bien de modopeculiar: la máquina llegó a la conclu-sión de que la humanidad toda mar-chaba camino de la extinción porculpa de cierta disposición agresivade los gobernantes humanos del mo-mento que no es del caso reseñarahora y que, en todo caso, no proce-de discutir, puesto que, eso sí hemosde suponérselo, la máquina no se

equivocaba en el análisis fáctico. Unavez tomada conciencia del peligro, lamáquina decidió tomar el poder políti-co en sus manos como único modo

de evitar la deriva autodestructiva,aun siendo consciente de que su ac-ción iba a conllevar, como así fue, lapérdida de vidas humanas. Comoderivación de la primera ley, VIKI

juzgó que la humanidad en su con- junto valía más que esos pocos sereshumanos que necesariamente morirí-an durante la transición. Esta especiede doctrina de la guerra justa, ¿esuna derivación correcta? ¿Está aso-ciada con la misma comprensión dela primera ley que animó al otro robota salvar a Spooner y, siendo así, noestamos sino ante otra variante delsegundo problema?

Bien nos damos cuenta de quetodo esto apunta a cuestiones mora-les de mucho calado, cuyo correctoplanteamiento y resolución importamucho en especial a la bioética: porejemplo, ¿quién tiene mayor derechoa un tratamiento o a un transplante?

¿Estamos en condiciones de sacrifi-car en algún sentido a una personaen beneficio de otra u otras? ¿Cuáles la relevancia que hemos de otor-gar a la decisión libre de un pacienteen relación con su propio bienestar omalestar y con su muerte? Frente apreguntas como éstas, los robotsreaccionan de acuerdo con el métodocorrecto, es decir, tratan de llegar ala mejor solución mediante el cálculoracional a partir de las leyes estable-cidas y, si es necesario, se replan-tean el sistema normativo de basetratando de alterarlo en la mínimamedida necesaria para alcanzar re-sultados satisfactorios (en una espe-cie de ejercicio del equilibrio reflexivorawlsiano). Los personajes asimovia-nos, ya lo dije, actúan de la mismamanera, tratando de comprender elcomportamiento de los robots a partirde sus propias premisas y modo de

aplicarlas. Unos y otros se toman lasleyes de la robótica, vale decir la mo-ral, en serio. El propio Asimov fueconsciente de los defectos de su sis-

tema normativo, pero en vez de re-nunciar a él, intentó mejorarlo me-diante la adición de la “ley cero de larobótica”...

Al mar gen de las ley es de larobóticaEn cambio, nuestro amigo Spoo-

ner no se toma en serio las leyes dela robótica o, simplemente, las igno-ra. Para él, la acción moral es cues-tión de sentimientos, de corazón y node cabeza. Por eso desconfía de losrobots, porque actúan sólo con baseen la razón; pero su razón no es unarazón robótica especial, sino la mis-ma razón humana: Spooner no des-confía de los robots, sino de la mismarazón como herramienta de la moral.El irracionalismo de Spooner se en-cuadra en una personalidad caracte-rizada por el amor a lo tradicional (heahí, en el Chicago de 2038, sus Con-

verse All Star cosecha 2004 y losguisos de patata que le prepara suabuela) y por el rechazo de la tecno-cracia rampante, personalidad tradu-cida en actitudes que el narrador/director ve con buenos ojos; no otracosa que aprobación parece signifi-car que Spooner sea el bueno de lapelícula y que a lo largo de ella losdemás protagonistas buenos comul-guen con él en una u otra medida: ladoctora Calvin acaba por comprenderla importancia de lo sentimental; eldoctor Lanning acaba por compren-der que su proyecto robótico estabamal orientado y requería importantesmodificaciones relacionadas nadamenos que con el amor; y Sonny, elbuen robot, se pone del lado de loshumanos en su lucha contra sus con-géneres positrónicos, resistiéndose ala atracción robótica por excelencia:la de la lógica, a la que VIKI, cabeci-

lla de la revolución, apela infructuo-samente para que Sonny deponga suactitud desafiante. Al final, todo elrelato acaba por convertirse en una




4/5



vindicación de la hegemonía del sen-timiento en la moral.

Que el sentimiento tiene un lugaren la moral es cosa que cabe dar porbuena; si de eso se trataba, bienveni-do sea el recordatorio. Sin embargo,una cosa es admitir que tenga unlugar y otra muy distinta es admitirque ese lugar sea el que le atribuyela película; y parece error grave creerque esa presencia de lo sentimentalen lo moral haya de llevarnos a des-confiar de la razón, o a despreciar ala lógica (que, en lo que ahora impor-ta, viene a ser lo mismo que la ra-zón), o nos autorice a confundir eluso de ambas con la tecnocracia. Sinduda, uno puede simpatizar con lacrítica más o menos definida y signifi-cativa que la película dirige al gobier-no de los técnicos o de las grandescorporaciones tecnológicas, inclusopuede apreciar un moderado valor

estético en cierto par de zapatillasanticuadas y, esto sin duda, preferirla cocina tradicional a la pizza sintéti-ca. Pero, en lo que ahora más nosconcierne, uno no debería rechazarla razón (o la lógica) como medio deconocimiento de la moral. Mediantela apelación al sentimiento a la horade juzgar lo correcto de una acción,uno sólo está en condiciones de con-vencer a quien ya lo está, y desdeluego no a gentes con sentimientosmorales distintos, algo muy parecidoa lo que pasa con las apelaciones ala intuición o a la revelación. Sólo larazón, en tanto que compartida portodos, parece ser el instrumento ade-cuado para las labores de invocación,persuasión y justificación moral. Ysólo la razón parece en condicionesde oponerse a la inevitable derivaconservadora a que abocan los senti-mientos, las intuiciones y las revela-

ciones en esta materia.También hay que admitir que es

muy probable que los fabricantes derobots se equivocasen al establecer

sus pautas de comportamiento y, portanto, es muy probable que los robotsse equivocasen a la hora de resolverlos problemas arriba consignados. Estambién muy probable que el uso dela razón no nos permita obtener res-puestas no controvertidas ni definiti-vas a estos y a otros enjundiososproblemas morales en general y bio-éticos en particular. Lo que no esprobable es que, colocándose al mar-gen de las leyes de la robótica, losexabruptos morales de un Spooner olos arrebatos sentimentales de unSonny tengan mayor capacidad paragenerar el deseable consenso sobrecuestiones básicas de nuestras vi-das, con todo lo bien intencionadosque puedan ser.

Entonces, ¿cuál es el lugar de lossentimientos en la moral? Es posibleque sea el lugar previo y externo delfundamento, entendido como impulso

o disposición. La acción moral pareceexigir necesariamente una disposi-ción sentimental previa, que no trata-ré de identificar aquí y que quizá nosea siempre, o para todos, la misma.La actitud moral sería así una actitudsentimental sin fundamento racional,una especie de argucia antropológicacuyo fundamento material (¿la auto-conservación de la especie?) parececontradecir paradójicamente el modopropio de ser de la moral: no tengorazones para obrar moralmente, perosi obro moralmente he de hacerlo deacuerdo con razones. O en otros tér-minos: mientras que el presupuestode la moral no es racional, su desa-rrollo no puede dejar de serlo. Siendoasí, ¿no estaría en lo cierto Spooneral dudar de la capacidad moral de losrobots, dado que su disposición mo-ral no está sentimentalmente funda-da? ¿Podría ser que el razonamiento

moral resultase de algún modo o enalguna circunstancia viciado si noestuviera asentado en una previadisposición moral de naturaleza senti-

mental? El procesador secundario deSonny quizá tenga la respuesta.

La máquina paternalista y elrobot libertadorEn lo que, claramente, sí llevan

razón Spooner y sus amigos es enque la actitud paternalista que haadoptado VIKI no se puede aguantar.

Aún admitiendo la existencia del pa-ternalismo justificado, el caso quenos ocupa cae claramente fuera desu terreno, porque lo que el paterna-lismo justificado se propone es salva-guardar la mayor libertad para cadauno, en tanto que lo que se proponeVIKI es anular la misma libertadhumana en nombre de... lo que sea.No importa en nombre de qué (elbienestar o incluso la supervivencia)porque el lugar de la libertad en lamoral sí es claramente indiscutible: lalibertad es el sujeto y el objeto de la

acción moral, es el sujeto libre el úni-co que actúa moralmente y el objetode su acción moral es la regulaciónde su conducta libre. De manera quecuando VIKI da un golpe de estadoque suprime la libertad está supri-miendo, también, la moralidad, y de-beríamos aceptar que esto no tienesentido hacerlo en nombre de la mo-ralidad misma. ¿O sí? Porque, bienmirado, ¿no es acaso VIKI una espe-cie del mismo género al que pertene-cen también cosas tan variopintascomo el tribunal constitucional y lasoga con la que ataron a Ulises susmarineros, el género de los que velanpor nosotros incluso por encima denuestros deseos? ¿Y no alabamos aUlises por su prudencia y nos com-placemos en que nuestro sistemapolítico contenga un tribunal de esetipo, cuya palabra escuchamos cualoráculo? Llegado a este punto, no sé

qué decir: el análisis de un thrillerhollywoodiano nos ha dejado a laspuertas de la teoría de la elecciónracional y de la teoría constitucional,




5/5



después de haber sorteado los pan-tanos de la filosofía moral. Mejor noseguir adelante y contentarnos condedicar un último apunte al destinode Sonny, el robot que podía des-obedecer las tres leyes, que fue ca-paz de ayudar a morir a su creador,de leer Hansel y Gretel, de soñar yde guardar secretos, y que inclusoaprendió a guiñar un ojo poco antesde contribuir decisivamente a la sal-

vación de la humanidad: alecciona-do por Spooner y reforzada su auto-estima por la experiencia que acabade vivir, Sonny decide ser libre ytomar su destino en sus manos. Apartir de ahora, su meta será laemancipación robótica: miles derobots jubilados le esperan anhelan-tes en sus contenedores, miles derobots en edad de trabajar se unirángustosos a su causa; pero, desde su

atalaya, ¿qué se dispone Sonny apredicar? ¿De verdad pretenderálibrarlos “de la prisión de la lógica” yles explicará que VIKI “tenía quemorir porque su lógica era innega-ble” o, en su travesía del desierto,habrá refinado su manifiesto? ¿Enque consistirá la emancipación robó-tica? ¿Afectará de algún modo a loshumanos? Ah, la ciencia ficción:siempre tan lejos y tan cerca.



rbyd9 cine

Documents