automanÍa una reflexiÓn sobre el futuro de los...

1

AUTOMANÍA

UNA REFLEXIÓN SOBRE EL FUTURO DE LOS SISTEMAS AUTÓN OMOS DE

ARMAS LETALES

Autores:

Camilo Uribe Posada

Universidad Pontifica Bolivariana

Dirección: Carrera 29C #16C SUR 55

Teléfono: 314-861-28-35

E-mail: [email protected]

Raúl Antonio Revelo Briganti


Dirección: Calle 7 #70-500

Teléfono: 300-282-84-74


Juan Santiago Villa Mesa


Dirección: Calle 25 A Sur #42B-61

Teléfono: 320-638-38-73


2

AUTOMANÍA UNA REFLEXIÓN SOBRE EL FUTURO DE LOS SISTEMAS AUTÓN OMOS DE ARMAS LETALES Technology has long been involved in human relationships and its latest advancements

have proved nothing short of astonishing. We have come to rely on it for everyday

activities, sometimes without even realizing it. Many of these artifacts, the idea of which

was inconceivable by previous generations, were brought on by the need to gain a warfare

edge. Global Positioning Systems (GPS), the Internet, and Lethal Autonomous Weapon

Systems (LAWS) are perfect examples that forever changed the course of humanity.

These have not come without controversy, however. LAWS, for instance, are the topic of

heated discussions between those who think they are necessary and those who affirm that

developing them is a big mistake. Colombia is in the middle of an irregular or fifth

generation warfare. The characteristics of this conflict, which are not unique to Colombia,

pose an additional challenge to the development of lethal artificial intelligence weapons.

Key words: Technology-weapons-robots-development-artificial.

La situación actual

“Videmus nunc per speculum et in aenigmata, tunc autem facie ad faciem.”

1 Cor., 13, 12

Todos los días oímos hablar acerca del desarrollo tecnológico. No son pocos los

que disfrutan alabando el progreso de la humanidad. Aseguran que nuestra

especie nunca antes había logrado almacenar, procesar y analizar tanta

información. Dicen que tenemos al alcance de la mano un universo informático, en

donde hay datos veraces, oportunos y acertados, y también datos probables (bien

o mal) respaldados por la evidencia, y datos simbólicos… o ficticios. Los datos

son, pues, nuestro pan de cada día.

3

Según estos optimistas, no estamos demasiado lejos de la comunión de los

espíritus, pues hoy contamos con medios virtuales que nos permiten conocer,

siempre y en todo lugar, los gustos, aficiones e inclinaciones ajenas; medios que

nos brindan la posibilidad de compartir y disfrutar con los demás nuestras

experiencias, convicciones y deseos. Para ellos, la tecnología nos ha permitido

conectarnos mejor con el entorno y enfrentar con superioridad sus desafíos y, por

lo tanto, nos ha llevado a ser mejores seres humanos: más capaces, más

poderosos: mejor informados.

Si seguimos así, aseguran, aprenderemos a resolver los grandes problemas de la

humanidad y llegará el día en el que erradicaremos el hambre, la miseria, la

enfermedad y la ignorancia de la faz de la tierra. Algunos, como Ray Kurzweil,

creen que, gracias a los avances de la inteligencia artificial podremos escindir

nuestra mente de nuestro cuerpo y subir nuestra consciencia independiente a la

Nube (Kurzweil, 2012) , alcanzando la inmortalidad, a través de la trascendencia.

Es innegable que muchos contamos con la tecnología para optimizar nuestro

tiempo. La empleamos para llegar a nuestro destino, cuando desconocemos la

dirección (o no queremos esforzarnos en encontrarla o recordarla); la utilizamos

para trabajar, aprender y recordar lo que hemos olvidado (o no somos capaces de

aprender); tampoco podemos negar los placeres, públicos y privados, que nos

brinda la tecnología.

No obstante, sería imprudente ignorar que día a día crece el número de los

inconformes que creen que apoyarnos en la tecnología no nos ha hecho mejores

personas. Al contrario, según ellos, nos hemos vuelto unos dependientes, unos

adictos a la tecnología. Sin ella ya no somos nada. Nos la pasamos chateando

todo el día e ignoramos a los que están ahí con nosotros. No estamos tranquilos si

no les enseñamos a los demás, en Facebook o Instagram, lo que estamos

haciendo, cuando lo hacemos y donde lo hacemos, “en tiempo real”. No

recordamos ya nada, pues para eso está Google, y abrimos una pestaña tras otra,

dispersándonos por completo. Evocar una fecha, un lugar, un personaje, un

4

evento histórico es tarea de Wikipedia. Si no fuera por Waze o por Google Maps,

muchos no encontrarían su destino. El deporte ya no es una cuestión únicamente

de salud y bienestar; es una forma de medirse con los demás mediante Strava.

Shazam les informa a los que no tienen oído musical o a quienes nunca han

tenido o ya no tienen memoria cuál tema están escuchando. Muchos mueven sus

cuerpos como autómatas en fiestas electrónicas, controlados desde la consola del

DJ. Somos, a juicio de estos escépticos, descorteses, distraídos, inseguros,

desmemoriados, ignorantes, desubicados y tecnodependientes.

Además, por haberles delegado tantas de nuestras obligaciones y tareas a

sistemas artificiales, no sería extraño que, si continuamos con esta misma

tendencia al ritmo acelerado al que la estamos experimentando, en el mañana

podríamos llegar a ser sustituidos por versiones sofisticadas de esos sistemas

artificiales. Si no cambiamos el rumbo, profesan los que piensan así, las máquinas

nos esclavizarán (o eliminarán) y habremos perdido todo rastro de humanidad (o

nos extinguiremos). Es interesante tener presente que a este variado grupo que

alerta sobre los peligros de la tecnología y muy particularmente sobre los enormes

riesgos de la inteligencia artificial pertenecen insignes pensadores como Stephen

Hawking e incluso exitosos innovadores y empresarios como Bill Gates y Elon

Musk, fundador de PayPal y Tesla Motors.

Si fuéramos capaces de abrir nuestros ojos y de ver lo que va a pasar, o si

entendiéramos bien lo que está ocurriendo hoy y supiéramos explicarlo, con

seguridad nos levantaríamos sobre los hombros de los que alaban o advierten

sobre el progreso tecnológico y aguzaríamos nuestra mirada para penetrar en el

brumoso porvenir. Solo así sabríamos quiénes son los que tienen la razón, y

podríamos decir, sin temor a equivocarnos, cuál de ellos cuenta y explica mejor lo

que nos va a suceder. Eso, sin lugar a dudas, sería maravilloso, pero no es así.

Nuestra precaria condición cognitiva nos impide conocer con precisión el futuro.

No obstante, en los últimos lustros, el GPS, la supercomputación, la

nanotecnología, las neurociencias, la proliferación y sofisticación de los sensores,

5

la propagación de las terminales móviles, el protagonismo de las redes sociales, el

advenimiento de la computación en la Nube, la casi ubicuidad de Internet y la

emergencia, como corolario de todo lo anterior, del complejo fenómeno conocido

como Big Data han transformado el modo en el que conocemos el mundo, han

alterado nuestra manera de interpretar y explicar la realidad, y hemos llegado a

presumir que sabemos más que antes. Inclusive nos atrevemos a proponer una

visión posible sobre el porvenir. Hay que reconocer, por supuesto, que aún son

muchos los excluidos del mundo de la informática y de las telecomunicaciones.

Son demasiados. Sin embargo, hay agentes del cambio, como Mark Zuckerberg e

internet.org, que consagran esfuerzos notables e ingentes recursos para cambiar

la situación, ofreciéndoles conexión gratuita a la Red a los más necesitados.

En la actualidad, gracias al complejo entramado informático que caracteriza a

nuestra era, los seres, estados, procesos, acciones e ideas de este mundo son el

foco de una escritura continua cuyo texto pretende no tener fin; una escritura sin

argumento definido, sin tema de fondo, cuyos caracteres reproducen patrones,

representan instantes, indican emociones, señalan pulsiones, registran cambios,

siguen tendencias; una escritura perpetua en función de reescribirse. El Libro de

Arena de Borges, en el que cada página se desdoblaba en una nueva, y esta, en

otra página más, y así sucesivamente, hasta el infinito, es solo un pálido simulacro

simbólico de la secuencia real de hipertextos en cascada que define a la Red.

En menos de un cuarto de siglo, ampliando su alcance y multiplicando su interfaz,

la informática y la computación han expandido su imperio, convirtiéndose en las

intermediarias necesarias en la relación del ser humano con sus semejantes, con

las demás criaturas y con el universo mismo. Nuestros ojos, absortos e

interesados, observan los monitores luminosos; nuestros dedos, diligentes y

ávidos, golpean los teclados.

Más allá, pues, de las dos percepciones extremas a las que nos hemos referido

antes, la de quienes tienen esperanza en un mundo mejor, en virtud de nuestro

progreso técnico, y la de quienes vislumbran serias amenazas, si las cosas en

6

este campo siguen como van, la tecnología se ve impulsada hoy, como en otras

épocas, por dos fuerzas, a veces concurrentes, otras veces paralelas y en

ocasiones opuestas: el afán de perfeccionar el mecanismo automático de los

artefactos y la ambición de implementar la autonomía en entidades artificiales.

Reprochada por fantasiosa (o herética), en períodos anteriores, la creencia que

sostiene que el ser humano está en capacidad de diseñar y fabricar una criatura

artificial con facultades cognitivas y de juicio, con competencias comunicativas,

con una motricidad relativamente espontánea , capaz de adaptarse a

circunstancias imprevistas y de cumplir siempre la función para la que fue creada;

esa creencia, gracias a los avances recientes en la inteligencia artificial, y gracias

también al progreso simultáneo (y codependiente) de la inteligencia militar, no

parece tan absurda hoy.

El proyecto SyNAPSE es un ejemplo de ello. Se trata de una alianza público-

privada entre IBM, uno de los gigantes de la tecnología, y DARPA, la Agencia de

Proyectos de Investigación Avanzados de Defensa del Gobierno de los EE.UU. La

alianza estratégica reúne, de una parte, el conocimiento, los recursos humanos y

la experiencia de IBM en el campo de la computación y la nanotecnología, así

como sus investigaciones en neurociencias, para una eficiente gestión de enormes

volúmenes de información, Big Data, y, de la otra parte, el recorrido histórico

durante la Guerra Fría y después de ella (en Irak, Afganistán, etc.), y la experticia

técnica de la segunda, junto a sus recursos económicos, no propiamente

modestos. Su propósito común es poner en ejecución un sistema informático de

computación cognitiva que, en la conexión de sus circuitos y en la forma de

interpretar los datos recibidos, se asemeje al cerebro de “un ratón o de un gato”.

La meta, en unos años, considerando la progresión geométrica en el ejercicio de

reproducción de las conexiones neuronales, en chips de silicio, mejor conocidos

como neurochips, es diseñar una red de computación cognitiva que imite al

cerebro humano y sus cientos de billones de sinapsis.

7

Hay igualmente otros movimientos en el sector de las empresas de tecnología que

nos invitan a pensar en la injerencia futura de la inteligencia artificial y de otro

campo de la técnica: la robótica, cuyas señales tangibles y cotidianas no son aún

tan obvias como nos lo habían hecho creer las ficciones y fantasías que vienen

forjándose desde hace casi un siglo. Nos referimos a las cuantiosas y recurrentes

inversiones que Google, primordialmente a través de su iniciativa Google X, ha

efectuado para adquirir, desde 2012, 6 importantes compañías estadounidenses e

inglesas en el campo de la inteligencia artificial, el procesamiento de lenguaje

natural y el “aprendizaje profundo” de las máquinas (deep learning o machine

learning), para identificar caras, voces, gestos y objetos. Como complemento

material de lo anterior, desde diciembre de 2013 Google ha adquirido 7 compañías

de Estados Unidos y Japón dedicadas al diseño y a la fabricación de robots y

partes robóticas (Google). Adicionalmente –haciendo realidad la fantasía de Isaac

Asimov que, en su cuento Sally (Asimov), publicado en 1953, vislumbró que en

2015 habría carros que se conducirían solos— en Google no ocultan su orgullo

cuando le enseñan al mundo su tierno vehículo automotor, en forma de cápsula,

que no necesita conductor para llevar a los pasajeros a su destino (Youtube).

Los sistemas autónomos de armas letales

“Los cuentos sobre los robots probablemente tienen como origen una misma leyenda

principal, ya que el tema general es el mismo. Los robots fueron diseñados, luego

crecieron en número y habilidades casi al estatus de lo sobrehumano. Ellos amenazaron a

la humanidad y fueron destruidos (…) Siempre debe de haber existido el miedo de

encontrarse a otras –y superiores— inteligencias”.

Isaac Asimov, Preludio a la Fundación

La noción de agentes o instrumentos automáticos es bastante antigua. Ya en su

Política Aristóteles afirmaba que el industrial y el agricultor podrían prescindir de

8

sus esclavos, si las herramientas pudiesen “en virtud de una orden recibida o, si

se quiere, adivinada”, trabajar por sí mismas (Aristóteles, 1989, 25, 26). En la

modernidad, obsesionada con la razón, con la precisión matemática y con el

funcionamiento programado de ciertos mecanismos, como el reloj, los autómatas

no solo fueron objeto de teorizaciones y de historias de ficción, sino que incluso

llegaron a ser construidas figuras con forma humana capaces de ejecutar tareas

relativamente complejas (Lesterfontayne).

Con el progreso técnico y científico que permitió el desenvolvimiento de la

Revolución Industrial, algunas voces críticas, entre las cuales hay que destacar la

de Karl Marx, se alzaron contra la nueva realidad que, para un sinnúmero de

operarios, significó la incorporación a las actividades industriales de maquinarias

que favorecieron una productividad sin tregua, inédita hasta ese momento e

imparable desde entonces. A juicio de Marx, bajo las nuevas condiciones de

producción, el obrero “se convierte en un simple apéndice de la máquina, y sólo se

le exigen las operaciones más sencillas, más monótonas y de más fácil

aprendizaje (Engels)”. En otras palabras, los operarios, en la lectura marxista de

las relaciones de producción, compartían con las máquinas su condición de

autómatas.

Pese a que muchas veces usamos la palabra ‘autómata’ y el vocablo ‘robot’ como

términos intercambiables, ‘robot’ ingresó oficialmente a la cultura occidental (para

ser posteriormente adoptado y adaptado por la cultura japonesa) con la obra

teatral estrenada en 1921 Robots Universales Rossum o R.U.R., del dramaturgo

checo Karel Čapek. Sin entrar aquí a describir su argumento, Čapek representó

sobre las tablas una historia en la cual los robots, sujetos genéticamente

diseñados para asemejarse a los seres humanos, pero librados de voluntad,

deseos, sentimientos e intenciones, eran producidos en serie para asumir

múltiples labores en las oficinas, en las fábricas, en los campos, en las minas, en

los campos de batalla. No podemos olvidar que el término acuñado por Čapek

estaba inspirado en la palabra checa ‘robota’, que significa trabajo forzado. El

9

nuevo concepto también estaba relacionado con ‘robotnik’, campesino obligado a

ejecutar esa clase de trabajo.

Durante todo el siglo XX y en los 15 años que llevamos del XXI el arte, la literatura

y el mundo del entretenimiento han usado, una y otra vez, personajes robóticos.

Asimismo, como en Tiempos Modernos de Chaplin, no han sido pocos los que han

denunciado o caricaturizado la robotización o automatización de los seres

humanos. Son muchas las películas y los libros protagonizados por robots. Entre

los primeros clásicos hay que mencionar la célebre Metrópolis de Fritz Lang. Entre

los “nuevos” clásicos se destaca Terminator. Pese a la gran variedad de

diferencias apreciables entre las distintas historias, muchos de estos relatos

comparten un común denominador: el miedo de la gente a entidades artificiales

dotadas de capacidades físicas o intelectuales superiores a las humanas.

Desde 2012, gracias al reciente impulso de la informática y a los logros

significativos alcanzados en el ámbito de la inteligencia artificial, la computación

cognitiva y la robótica, se han multiplicado las películas sobre androides, cyborgs y

sistemas inteligentes. Las hay para todos los públicos y para todos los gustos.

Optimistas o apocalípticas; utópicas o distópicas. En una lista probablemente

incompleta, que solo tiene en cuenta los largometrajes más populares, habría que

incluir a Frank & Robot (2012), Her (2013), Robocop (2014), Transcendence

(2014), X-Men, Days of Future Past (2014), Lucy (2014), Big Hero 6 (2014),

Chappie (2015), Avengers: Age of Ultron (2015), Ex Machina (2015),

Tomorrowland (2015) y próximamente Terminator: Genisys (2015). También hay

una serie de televisión sueca estrenada en 2012 y llamada Gente genuina (Äkta

människor, en sueco1) que vale la pena mencionar, debido a su interesante y no

poco irónica visión de las distintas relaciones (incluidas aquellas de tipo

sentimental y sexual) que se establecerán en un futuro no muy lejano entre los

robots y los seres humanos. En las series televisivas se destaca igualmente, por

1 La traducción al español es el producto del servicio de traducción de Google, incorporado hace algunos meses a su página principal de búsqueda. En inglés, la serie fue traducida como Real Humans.

10

su tóxica y sutil dosis de humor negro, Black Mirror (Espejo Negro) del realizador

inglés Charlie Brooker, que salió al aire en el canal británico Channel 4 en

diciembre de 2011 y hasta la fecha ha producido 2 temporadas de 3 capítulos

cada una y un especial de navidad en 2014. Black Mirror especula con las

siniestras consecuencias de las nuevas tecnologías en un futuro verosímil y muy

próximo a nuestro tiempo. Además, si bien su trama no gira propiamente en torno

a la robótica, no podemos dejar de referirnos aquí a TARS, el robot sarcástico del

último largometraje de Christopher Nolan: Interestelar (2014).

No obstante, en el dinámico universo de la inteligencia artificial, íntimamente

vinculada, en el orden geopolítico y socioeconómico vigente, a la inteligencia

militar, las historias acerca de agentes físicos artificiales, mecánicos, electrónicos

y digitales, capaces de extractar información de su entorno y de usar ese

conocimiento para la ejecución de acciones no triviales –como brindarle

información a un cliente en un almacén, registrar a los huéspedes en el mostrador

de un hotel, recoger y entregar mercancía en una bodega, vender y preparar café

o seleccionar y eliminar un blanco— conectando de manera inteligente la

percepción a la acción (Introduction), ya no son el patrimonio exclusivo de la

ciencia ficción. Hoy son una realidad. No son pocos los que aseguran que la

automatización les quitará a cientos de millones de personas sus puestos de

trabajo (Humans Need Not Apply, 2015), pero, para otros, esa no es la peor

amenaza que hoy se cierne sobre la humanidad debido al desarrollo de la

robótica. Para ellos, la peor amenaza la representan los robots asesinos, esa

clásica y turbia idea que parece haber traspasado, por fin, el umbral de la fantasía.

De hecho, algunos creen que, los robots asesinos ya están aquí y que basta con

articular ciertas tecnologías que operan de manera separada para verlos en

acción: geoposicionamiento, Internet de las cosas, machine learning, radares,

ladars, etc. Otros afirman que aún faltan 15 o 20 años para que contemos con la

presencia de estas máquinas. Otros más argumentan que todavía falta más

11

tiempo, por lo menos 30 o 50 años, para que esta realidad se materialice, pero

unos y otros concuerdan en que es un hecho que tarde o temprano ocurrirá.

Los Sistemas Autónomos de Armas Letales, S.A.A.L., que, por una ironía del

destino, reciben el acrónimo L.A.W.S. en inglés (Lethal Autonomous Weapons

Systems) y que los críticos y escépticos prefieren llamar robots asesinos o robots

autónomos letales (Stop Killer Robots), han sido el objeto de varias reuniones en

Ginebra, en mayo y noviembre de 2014 y en mayo de 2015, entre decenas de

países signatarios de la Convención de la ONU acerca de Ciertas Armas

Convencionales que pueden ser consideradas Excesivamente Perjudiciales o

tener Efectos Indiscriminados, conocida generalmente como la Convención sobre

Ciertas Armas Convencionales y adoptada el 10 de octubre de 1980 (Unog). Estas

reuniones han sido, en parte, el resultado de la presión constante de ONG’s, como

Stop Killer Robots y Human Rights Watch. La primera sesión, en mayo de 2014,

se celebró por petición de Christof Heyns, Relator Especial sobre las ejecuciones

extrajudiciales, sumarias o arbitrarias de la ONU, que, en su informe del 9 de abril

de 2013, instó a los Estados signatarios de la Convención sobre Ciertas Armas

Convencionales a congregarse y discutir sobre el tema (United Nation).

En su informe, centrado en los robots autónomos letales y en la protección de la

vida, Christoph Heyns manifestó sus reservas y sus temores, ante el inminente

desarrollo de armamento letal capaz de seleccionar y acabar, por sí solo, con la

vida de seres humanos. Para Heyns, resulta muy preocupante que, en el futuro,

los ejércitos (regulares o irregulares) puedan contar con la opción técnica de

prescindir de la intervención humana al momento de ejecutar a alguien. El reporte

del Relator Especial de la ONU para las ejecuciones extrajudiciales sintetiza las

advertencias de quienes se oponen a esta tecnología, por considerarla inhumana,

antiética y altamente peligrosa.

El documento también señala que los detractores de los S.A.A.L. pretenden que

se prohíba preventivamente el desarrollo, fabricación, comercialización y puesta

en funcionamiento de los robots asesinos antes de que esta tecnología adquiera

12

plena forma. En su apoyo, los críticos de los S.A.A.L. citan el precedente del láser

cegador, prohibido el 13 de octubre de 1995, a través de la adición del Protocolo

IV a la Convención sobre Ciertas Armas Convencionales.

Los que sostienen esta posición creen que existen serias limitaciones para que los

agentes robóticos letales se guíen por los principios del Derecho Internacional

Humanitario, como la distinción, la proporcionalidad y la precaución en el ataque,

lo cual, en la práctica, significa que un sistema autónomo de armas letales no

estaría en condiciones de determinar, en muchos casos, si un sujeto seleccionado

como un blanco potencial es un no-combatiente o un combatiente y, en caso de

que logre determinar que en efecto se trata de un combatiente, no estaría

facultado para distinguir, en una gran cantidad de situaciones, si este es amigo o

enemigo. Esto, por supuesto, se traduciría en la muerte de muchas personas

inocentes o que no deberían morir. En cuanto a la proporcionalidad, los que se

oponen a los S.A.A.L. afirman que, bajo ciertos supuestos, es muy probable que

las reacciones de estos ingenios a las acciones de sus adversarios fueran

excesivas, acabando con la vida de los combatientes enemigos cuando hubiera

bastado con herirlos, o hiriéndolos, cuando hubiera sido suficiente con capturarlos.

En lo que respecta a las precauciones en el ataque, quienes se oponen a los

robots asesinos advierten que estos carecerían de la capacidad de tomar los

cuidados que les son exigibles a los combatientes por el DIH para evitar

ocasionarle daños incidentales a la población civil. Por fuera del campo del D.I.H,

pero también como un riesgo significativo derivado de su implementación, los que

se oponen a los robots asesinos advierten sobre sus vulnerabilidades:

principalmente fallas técnicas, hacking y malware.

Sin embargo, quizá la crítica principal que dirigen los detractores de los S.A.A.L. a

su uso en el campo de batalla es su falta de responsabilidad, así como la

consecuencia lógica que de ello se sigue: la imposibilidad de castigarlos y de

obtener de ellos una reparación, de cualquier índole, para sus víctimas. De otra

parte, también es altamente complejo delimitar la responsabilidad civil de quienes,

13

de una u otra forma, tienen relación con el sistema autónomo. De hecho, si un

S.A.A.L. acaba con la vida de un individuo inocente, ¿quién sería civilmente

responsable: el fabricante, el programador, el militar a cargo de la misión, el

ejército propietario del robot…?

Privados de consciencia, añaden los críticos de los robots asesinos, estos agentes

autónomos letales tampoco serían responsables desde un punto de vista ético.

Carentes de humanidad, sus acciones estarían exentas de cualquier tipo de

clemencia o compasión: literalmente un S.A.A.L. sería una inmisericorde máquina

diseñada para matar. Aseguran también que, si un Estado tuviera ejércitos de

robots y no de personas, la decisión de ir a la guerra sería tomada más a la ligera,

pues las bajas humanas no serían un impedimento para emprender acciones

bélicas y, por consiguiente, el único factor que determinaría esta decisión, aunque

hoy en día es el fundamental, sería el dinero. Por todas las razones anteriores, los

enemigos de los S.A.A.L. exigen su prohibición preventiva y conminan a todos los

gobiernos del mundo a que siempre haya una participación humana en la

ejecución de acciones letales.

Desde la otra orilla, los defensores de esta tecnología aducen a su favor una

variedad de argumentos. El primero es el hecho de que este es un campo que aún

desconocemos en su justo alcance, puesto que todavía no existen en el mundo

armas plenamente autónomas. Por lo tanto, prohibir preventivamente este fecundo

terreno de la investigación tecnológica y militar frenaría las opciones que tiene la

humanidad para defenderse de manera eficiente y eficaz de amenazas contra la

paz, el orden y la seguridad. El segundo argumento, alineado parcialmente con el

anterior, asegura que, si bien esta tecnología apenas está en ciernes, desde ya es

posible vislumbrar los beneficios militares, económicos y políticos derivados de su

implementación. Un sistema autónomo dotado de sensores refinados, superiores a

los sentidos humanos en su precisión y alcance, y compuesto de piezas blindadas

o, por lo menos, altamente resistentes a impactos de bala, a golpes y a

explosiones, sería un instrumento idóneo para participar en la guerra.

14

Un tercer argumento, en el ámbito de las emociones y las afecciones humanas, en

favor de los S.A.A.L., señala que como estos dispositivos bélicos no sienten ni

miedo, ni rabia, ni dolor, ni deseos de venganza, sus acciones militares serían

frías y calculadas, proporcionales y acertadas; no habría lugar al error humano.

Los S.A.A.L., según sus defensores, serían muy útiles y convenientes para evitar

toda la serie de atrocidades que se ven en medio de la guerra y que se derivan

precisamente de la sevicia que caracteriza a muchos individuos en escenarios de

conflicto: vandalismo, desplazamiento forzado, despojo, torturas, masacres,

empleo indiscriminado de minas antipersonales, violaciones y agresiones

sexuales.

Un cuarto argumento, no necesariamente aducido por los defensores de los

S.A.A.L., pero que, sin duda, hay que considerar, asevera que es inviable (e

ingenuo), debido a las dinámicas actuales, tanto en el campo de las tecnologías

de la información y la comunicación como en el terreno propio de la estrategia

militar, pretender obligar a países como Estados Unidos y Rusia, o como China y

Corea del Sur, o como Israel y el Reino Unido, a cancelar indefinidamente todos

los planes, programas y proyectos que directa o indirectamente se relacionen con

el diseño y la fabricación de sistemas autónomos de armas letales.

El debate, pues, está abierto y en medio de estas dos posiciones extremas se

abre campo una hipótesis intermedia según la cual no es necesario prohibir el

desarrollo de esta tecnología, pero tampoco hay que llegar al extremo de dotar de

plena autonomía letal a un artefacto bélico. Esta hipótesis sugiere que si llegan a

desplegarse estos sistemas, debe garantizarse “un control humano significativo”.

Sin embargo, la efectividad de esta solución intermedia para controlar los riesgos y

evitar o minimizar las pérdidas que puedan ocasionarse por el eventual despliegue

de los robots asesinos, así como su idoneidad para maximizar los beneficios que

pueden derivarse de su uso, dependen del grado de flexibilidad con el cual se

interprete ese “control humano significativo”.

15

Hay que recordar que “el control humano significativo” es la fórmula que proponen

varios países signatarios de la Convención sobre Ciertas Armas Convencionales,

entre ellos Estados Unidos. Habrá que esperar si el aparente compromiso para

evitar que las máquinas asuman el control sobre la vida y la muerte no resulta al

final inaplicado, mediante el uso de tecnicismos legales, o abiertamente

transgredido por el curso mismo de la historia actual, que parece dirigirse

irreversiblemente hacia la automatización de la guerra y de la existencia.

Los avances tecnológicos en temas militares

“Los S.A.A.L. tienen el potencial de incrementar la efectividad de EEE.UU. en el campo de batalla,

disminuyendo de manera simultánea los daños colaterales y las pérdidas de vidas humanas”

Steven Groves, Analista estadounidense en temas de Seguridad y Defensa, www.heritage.org, 5

de marzo de 2015

A partir del año 2000, la compañía Honda presentó al mundo un robot llamado

“Asimo”, este humanoide capaz de asistir a las personas con deficiencias de

movilidad ha revolucionado al mundo de la tecnología, especialmente de la

robótica inteligente. Tras la crisis nuclear en Fukushima Japón, en el año 2011, el

robot humanoide convirtió a las tecnologías robóticas en sistemas de ayuda reales

y actuales. Sus capacidades de adaptación y de movimiento hicieron de las

creencias futuristas una realidad.

Con ello, las corrientes de la innovación inundaron al mundo en un instante y la

Agencia de Proyectos de Investigación Avanzados de Defensa de los Estados

Unidos, mejor conocida como DARPA, abrió una nueva carrera en el uso de las

máquinas robóticas; tal fue su impacto que, hoy por hoy, se avecina la quinta

generación en guerras. Hay que aclarar que para algunos ya está entre nosotros.

Aunque parece más que evidente, las tecnologías militares son saltos que el

común de las personas no puede ver, pero desde la invención de las TICs o

16

tecnologías de la información y las comunicaciones, hoy nos permiten apreciar

casi en tiempo real los efectos de las nuevas tecnologías en el campo bélico. Así,

por ejemplo, a principios de 2010 la empresa japonesa Suidobashi Heavy Industry

empezó a trabajar en el robot KURATAS; valorado en unos 1,3 millones de

dólares, pesa 4 toneladas, mide 4 metros de altura, y dispone de 4 patas con

ruedas controladas por control remoto, a través de la red 3G o por una persona

dentro de la cabina del piloto. Como si de un anime se tratara, esta máquina se ha

convertido en la representación de todos los imaginarios postapocalípticos de las

películas, comics y en general de la ciencia ficción.

Y eso no es todo. En la actualidad existen muchos proyectos de defensa en

diferentes países del mundo que emplean la robótica y la inteligencia artificial

como recursos eficientes y mejor dotados para enfrentar las nuevas tecnologías

de ataque. Algunos ejemplos ya existentes son la Cúpula de Hierro o Iron Dome,

un sistema de misiles israelí diseñado para interceptar y destruir cohetes de corto

alcance y proyectiles artilleros lanzados desde una distancia de 4 a 70 kilómetros,

destinados al bombardeo de población civil. O el sistema de combate Aegis, un

sistema de armas naval integrado, desarrollado en Estados Unidos por la División

de Misiles y Radares de Superficie de la RCA Corporation. El sistema utiliza

potentes radares y computadores para rastrear y guiar misiles para destruir

blancos enemigos.

Con las recientes guerras de Estados Unidos, las armas han adquirido un nuevo

grado de precisión y autonomía. Los denominados UAV (Unmanned Air Vehicles)

o vehículos aéreos no tripulados han generado una nueva forma de desarrollar la

guerra. Mejor conocidos como drones, estos sistemas, según el Ejército de los

Estados Unidos, se definen como aquellos vehículos terrestres, navales o

aeronáuticos, que se controlan a distancia o de forma automática y que se

emplean tanto en usos militares como civiles. Su principal característica es que no

llevan ningún humano a bordo (Aguiar). Prueba de ello son los modelos Talon y

17

S.W.O.R.D.S. Los robots “Swords” son el desarrollo del modelo Talon combinado

con el sistema de teledirección de armamentos Trap y han sido fabricados por la

empresa Foster-Miller, de Massachusetts (Perea), y el modelo más reconocido en

el panorama bélico aéreo como es el General Atomics MQ-9 Reaper también

conocido como Predator, usado como vehículo aéreo de combate no tripulado, el

MQ-9 es el primer UAV de ataque diseñado para vigilancia de larga duración y de

gran altitud.

Soldados Humanos vs S.A.A.L.

“La guerra no es esa cosa hermosa en la cual Estados Unidos ha llegado a creer. Es algo emotivo,

un ser humano matando a otro ser humano por extensos periodos de tiempo. Va a sacar lo peor de

ti. También va a sacar lo mejor de ti.”

Britt Slabinski, oficial retirado del Equipo 6 de SEAL de la Armada estadounidense y veterano de

las guerras de Afganistán e Irak, 7 de junio de 2015, New York Times

Los Sistemas Autónomos de Armas Letales representan el mayor avance en la

carrera armamentística. La implementación de estos es absolutamente inminente,

sus capacidades y funciones permiten que el soldado humano no se exponga a

los infinitos peligros que supone la guerra, la seguridad y soberanía de los

Estados. Sus defensores afirman que con estas máquinas la vigilancia, el

reconocimiento de objetivos y la captura, ejecución o protección son mucho más

eficientes y menos costosos.

La implementación de drones ha significado un ahorro increíble de recursos,

tiempo y sobretodo de vidas. Las aeronaves que se proyecta usar en los próximos

años incluso harían posible llevar a cabo misiones en las que con uno solo de

estos vehículos se remplazaría el uso de cientos o miles de efectivos. Según

algunos comandantes del ejército de los Estados Unidos, un Predator (UAV MQ-

9) puede hacer lo que en la Segunda Guerra Mundial requería de casi 2000

bombarderos para destruir un solo objetivo. Los sistemas de precisión y stealth

18

sumado con el GPS, el apoyo de ordenadores y los nuevos materiales han

significado un máximo de eficiencia operativa y un índice de resultados muy

superior.

Los proyectos más impresionantes hasta ahora son El Boeing X- 45 y el Sukhoi

PAK FA T-50; el primero, de producción norteamericana, es un vehículo aéreo de

combate no tripulado (UCAV, siglas en inglés de Unmmaned Combat Air Vehicle)

desarrollado por Boeing Phantom Works como concepto de una nueva generación

de aeronaves militares completamente autónomas. Fabricado por Boeing

Integrated Defense Systems, el X-45 hace parte del proyecto J-UCAS de Darpa.

Según sus creadores, el Boeing X45 A y B son UCAV similares a un avión con

piloto pero la diferencia es que no lo tienen. Los UCAV, aún en fase de pruebas,

ostentan autonomía absoluta, su diseño a base de la tecnología Smart le permite a

estos vehículos dirigirse a sí mismos, además de realizar maniobras defensivas

haciendo una aeronave menos vulnerable. Los UCAV tienen capacidad de llevar a

cabo misiones completas sin que medie una orden o supervisión. Si percibe un

objetivo de peligro mayor puede modificar sus órdenes basado en sistemas

informáticos que le dan una lógica propia permitiéndole evaluar las amenazas y

decidir por sí mismo los escenarios más apropiados y perseguir nuevos objetivos.

“Los UCAV razonan por su cuenta, toman decisiones”. (Drones de Combate del

siglo XXI - Documental).

El segundo, el Sukhoi PAK FA, también conocido como “Complejo Perspicaz

Aéreo de la Aviación de Combate” de producción rusa, es el terror de las fuerzas

aéreas estadounidenses. Por sus características furtivas el T-50 es calificado

como el avión invisible, además, la máquina cuenta con un empuje vectorial, una

característica que le permite cambiar de dirección y de sentido de vuelo sin

prácticamente moverse de sitio; lo más interesante es el revestimiento inteligente

que el propio avión tiene con componentes electrónicos incrustados, que permiten

al piloto y a los sistemas de defensa autónomos ver los aparatos furtivos del

19

enemigo que se acerca y al mismo tiempo activar el sistema que convierte al PAK-

FA en invisible, que junto con el cómputo ponderado hace pensar que el avión es

inteligente. En combate, cada uno de los aparatos de este modelo, realizará las

funciones de los ojos, los oídos y la fuerza de asalto de todo un ejército aéreo,

según estipula la doctrina de 'campo íntegro' de combate desarrollada por los

militares rusos. (RT)

La tecnología militar y el conflicto armado en Colo mbia

“El pueblo colombiano tiene en su Policía, en su Ejército, un instrumento de su carne y hueso y de

la Constitución de la Patria para que sea la expresión institucional que garantice la tranquilidad.”

Álvaro Uribe Vélez, senador y expresidente de Colombia, Consejo Comunal Cafetero en Antioquia

30 de octubre de 2004 (Ciudad Bolívar, Antioquia)

Todo lo anterior ya es una realidad, pero, como se ha señalado, la Guerra

Asimétrica es el modelo actual del conflicto bélico; ya no estamos inmersos en

conflictos entre ejércitos regulares sino entre las fuerzas armadas y la comunidad

civil y Colombia es uno de los casos más notables en el mundo de este fenómeno.

Desde la década de los 60’s en Colombia se ha vivido un conflicto armado entre el

Gobierno y las fuerzas insurgentes como las Farc, el ELN, las Bacrim, a lo largo y

ancho del país. Durante casi 50 años, estos grupos han dado un duro golpe a la

Nación. Tan grande ha sido que, según el informe del Centro Nacional de Memoria

Histórica publicado el miércoles 24 de julio de 2013, entre 1958 y 2012 el conflicto

armado colombiano ha dejado al menos 220.000 personas asesinadas, 25.000

desaparecidas y 4.744.046 desplazadas (CNMH). (Orozco, 2013).

¿Cómo puede explicarse este fenómeno? ¿Por qué ha durado tanto el conflicto

armado? ¿Por qué se ha causado tanto daño y se han cometido delitos y actos

claramente contrarios al DIH? Según el artículo de Manfred Grautoff, titulado “De

Clausewitz a la Guerra Asimétrica”, la guerra ha sufrido varias etapas que van

desde las Guerras Napoleónicas hasta las formas de guerra asimétrica, esta

20

última como un concepto que dispersa la forma como se identifica a los

combatientes y en donde la primera línea de lucha radica en la población civil

(Grautoff, 12 de junio de 2007).

Es así que la primera generación de la guerra se caracteriza por la invención y uso

de las Armas de Fuego, que fueron de vital importancia en las Guerras

Napoleónicas. Una segunda generación se dio con la Revolución Industrial, en la

cual la ingeniería jugó un papel importante en el campo militar y dotó de medios

para la movilización de recursos humanos así como bélicos, y para propiciar gran

cantidad de poder de fuego. Hasta este punto, la fuerza regular o ejércitos

legítimos se enfrentaban entre sí como característica central de esta etapa. En la

tercera generación, las guerras se caracterizan por ser móviles. El despliegue y

velocidad juegan un papel importante, la neutralización del enemigo sin su

destrucción se hace vital. La implementación de vehículos blindados y la aviación

son los instrumentos clave en esta generación. La modalidad de combate ya no es

la dominación total, sino el cumplimiento de objetivos mediante operaciones

tácticas autónomas.

La cuarta generación se asocia con el conflicto armado interno de Colombia, pues

la esfera militar se amplía a un campo mayor como es la sociedad civil y las

confrontaciones que no son propias del ámbito clásico de lo estrictamente militar.

En esta etapa la población civil se mira como enemiga y se eleva a la categoría de

objetivo militar del adversario. En este escenario, el conflicto en esencia, es donde

los agentes en inferioridad de condiciones explotan la asimetría a su favor,

despliegan tácticas insurgentes, desarrollan la guerra irregular o terrorismo. A este

tipo de conflictos se les conoce como de “baja intensidad” y suelen ser dirigidos a

debilitar a un adversario de superior capacidad de fuego y respuesta en el flanco

civil, evitando el flanco militar, de tal forma que se hace irrelevante la potencia

militar. Así también, estas fuerzas armadas irregulares se aprovechan de las

libertades civiles y del sistema democrático de la sociedad como recurso a su

21

favor, al hacer que las fuerzas armadas regulares legítimas se vean obligadas a

actuar de forma irregular, poniendo a los ciudadanos en contra del orden

establecido.

Estas formas de combate han sido posibles gracias a los avances de la tecnología

y al poder de los medios de comunicación sobre la opinión pública. Hoy por hoy,

las tecnologías son la fuente de poder más relevante en el plano bélico e

ideológico; las desigualdades existentes entre los ejércitos legítimos y los grupos

insurgentes ya no son consideradas como elementos de la victoria, sino que son

los avances de la tecnología y la comunicación los que realmente contribuyen a la

victoria.

La guerra de guerrillas y los soldados de carne y h ueso

“…nosotros no le vamos a permitir a esta guerrilla tener santuarios, ni aquí ni en la conchinchina.

Que vayan consiguiendo naves extraterrestres para que se escondan.”

Álvaro Uribe Vélez, senador y expresidente de Colombia, Consejo Comunal de Gobierno # 55,

31 de enero de 2004, Florencia-Caquetá.

En los conflictos armados, esta táctica militar se caracteriza por hostigar al

enemigo con ataques rápidos y sorpresivos, infiltrando e interceptando

comunicaciones, efectuando voladuras de instalaciones, puentes y caminos o

capturando armas y provisiones. Este método es generalmente usado en la guerra

asimétrica, pues, gracias a su movilidad, su fácil dispersión en pequeños grupos y

a su habilidad para desaparecer entre la población civil o las zonas montañosas,

resulta muy difícil de neutralizar. Gracias a esto es que los guerrilleros se

caracterizan por no tener bases fijas ni líneas de suministro. Sus grupos son

fragmentados intencionalmente y el dinero, armas, municiones y explosivos suelen

ser producto de apropiaciones ilícitas o compradas con dineros de la droga, de

asaltos y secuestros; el uso de trampas como minas o de emboscadas refuerza su

22

método de combate con el fin de capturar los recursos del enemigo. Sus técnicas

son agresivas. El ataque sorpresa, la disposición de campos minados, las

infiltraciones, espionaje y uso de informantes civiles les permiten a estos grupos

armados mantener la guerra de manera indefinida, pues la respuesta de los

ejércitos regulares es insuficiente ante estas tácticas. Los modelos de acción,

como ocupaciones, paros de trabajadores, desplazamientos, expropiaciones,

liberación de prisioneros, ejecuciones, secuestros, sabotajes, terrorismo y

propaganda armada, son sistemas que usan como guerra psicológica y de

nervios. La población civil no insurgente, en la mayoría de los casos, se vuelve la

peor enemiga de los gobernantes.

En Colombia, las Farc, el ELN y las Bacrim suponen un reto militar importante. “La

época en la que se ubica el mayor recrudecimiento ocurrió entre 1988 y 2003,

pero es en la segunda mitad de la década de 1990 cuando se presenta la mayor

degradación del conflicto, debido a que se generalizan las tomas armadas de

poblaciones, las desapariciones forzadas, las masacres indiscriminadas de civiles,

el desplazamiento forzado masivo y los secuestros colectivos de civiles, militares y

políticos; el pico de este recrudecimiento se presenta durante la presidencia de

Andrés Pastrana y el gobierno de Álvaro Uribe, cuando confluyen el accionar del

Estado, guerrillas, grupos de narcotraficantes y paramilitares.

A partir de la desmovilización de los grupos paramilitares que se lleva a cabo entre

2003 y 2006, sumado al debilitamiento de la guerrilla, se presenta un descenso de

la intensidad del conflicto. No obstante, las estructuras paramilitares no cesaron su

accionar, sino que siguieron comportándose como carteles de droga con gran

capacidad militar (llamadas ahora Bacrim), mientras que la guerrilla todavía

conserva capacidad de acción y confrontación en ciertos lugares del país

(Wikipedia).

23

Para contrarrestar esta amenaza, Colombia cuenta con 268.160 soldados

conformados por 228.226 efectivos del ejército, 32.056 efectivos de la marina y

7.878 efectivos de las fuerzas aéreas, según el informe de la Red de Seguridad y

Defensa de América Latina (Redsal) de 2014. De acuerdo con este informe, el

presupuesto para ese mismo año fue de US$8.416.388.574, equivalentes a más o

menos 16 billones de pesos. De este modo, el conflicto armado ha situado a

Colombia como el segundo país con más presupuesto asignado para la defensa,

después de Brasil.

Las necesidades básicas de un país como el nuestro en temas de defensa

suponen que los efectivos reciban un entrenamiento, dotación adecuada y

espacios apropiados para enfrentar diversos escenarios como son las montañas,

ríos, bosques, zonas urbanas y mares. Además de esto, deben recibir

entrenamiento especial en temas de Infantería, Caballería, Artillería, Ingeniería,

Comunicaciones, Inteligencia, Aviación, Logística, Transportes, Sanidad y como

Cuerpo Administrativo.

La vida de un soldado colombiano supone de 3 meses para el acoplamiento a la

vida militar y de 1 a 2 años de entrenamiento para iniciar su vida profesional.

Durante su servicio, el soldado debe estar dispuesto a morir por la bandera y

vigilar las 24 horas los 7 días de la semana; debe trotar en promedio de 30 a 40

minutos diarios y hacer entrenamiento táctico constante. Mantener la moral y la

lealtad son virtudes adquiridas con la constancia militar y el amor a la patria; el

miedo solo puede significar valor para luchar. Cada día de la vida de un soldado

es un entrenamiento constante para matar, para eliminar las inhibiciones que le

impiden cumplir con su deber de forma automática; para poder funcionar. El

soldado debe aprender a matar como un autómata, pues, si no fuera así, no

podría cumplir con su objetivo de defender a la patria de los enemigos.

24

Por otra parte, el soldado debe aprender a vivir con las dificultades propias del

entorno. Aprender a manejar la fuerza de manera gradual. Debe disuadir,

persuadir, usar la fuerza no letal y por último ser letal. Debe soportar

enfermedades como la leishmaniosis, el dengue, las heridas producto del

combate, la muerte o la rabdomiólisis. Si llegare a caer en manos del enemigo,

deberá soportar torturas, privación del sueño, falta de comida o agua, maltrato

psicológico o incluso peligros propios de las selvas colombianas como son los

animales venenosos o constrictores.

Las violaciones al DIH o DDHH son peligros a los cuales pueden verse expuestos,

y más cuando sus enfrentamientos son contra milicias irregulares, pues como se

dijo antes, los insurgentes presionan a la fuerza pública en el terreno y los llevan a

cometer acciones ilícitas o irregulares, con el objetivo de destruir su imagen ante

la comunidad civil. Al final de su carrera, en algunos casos, los soldados deberán

sobrellevar el estrés postraumático, las tendencias al suicidio y al homicidio.

Casos como el colombiano son los que le permiten a los protectores de los

S.A.A.L defenderlos y argumentar que son necesarios y debemos permitir su

desarrollo para evitar que ocurran más cuestiones similares. ¿Será que estos

nuevos sistemas de combate autónomos de gran poder podrán ser aplicados sin

poner en riesgo la vida de inocentes? Los nuevos enemigos ya no se visten solo

de camuflado, ahora los campos de batalla son en medio de las selvas de

concreto, con escudos inocentes, que solo se diferencian de los insurgentes por

estar en el lugar equivocado.

Es por esto que, como dice Van Creveld, los conflictos asimétricos requieren de un

orden jurídico propio, porque lo que existe no se acopla a este tipo de

conflagraciones. Sostiene además que para combatir en conflictos de mediana y

baja intensidad, el Estado se verá obligado a celebrar acuerdos que permitan

emplear procedimientos similares a los que practican los irregulares. La no

25

regulación del conflicto elimina la línea combatiente y población civil (Grautoff, 12

de junio de 2007). Extendiendo esta recomendación, el uso de los robots

autónomos letales supone la necesidad de un orden jurídico propio. Los niveles de

poder militar han convertido al conflicto en escenarios desprovistos de un orden y

unos límites jurídicos que permitan trazar una clara línea entre las ejecuciones de

la guerra y los accidentes civiles producto de la asimetría de las nuevas guerras.

Los límites difusos no solamente afectan el teatro de operaciones en estricto

sentido. Las técnicas de entrenamiento también han conocido cambios

significativos. Es de conocimiento general que tanto las fuerzas armadas como las

policivas, en muchos países, se entrenan con videojuegos que imitan, a través de

técnicas de realidad virtual, los múltiples escenarios y desafíos con los cuales

militares y policías se pueden encontrar en sus misiones. Esta forma de

entrenamiento muchas veces afecta el desempeño mismo de los agentes del

orden en el terreno, dificultando para ellos la distinción entre sus enemigos de los

videojuegos de entrenamiento y sus blancos potenciales de carne y hueso, en el

mundo real. Por otro lado, las nuevas tecnologías han permitido un escrutinio más

severo de la opinión pública de la actuación militar y policiva, puesto que no son

pocos los casos de abusos y arbitrariedades de los agentes del orden que han

quedado registrados en dispositivos móviles y que se han convertido en

tendencias virales en las redes sociales.

Las anteriores reflexiones dejan abiertos, pues, varios interrogantes, entre los que

cabe destacar los siguientes: ¿hasta qué punto las nuevas tecnologías (robots

asesinos) podrán remplazar al soldado humano? ¿Podrán expedirse normas

internacionales y/o nacionales en este nuevo campo militar? ¿Podrá impedirse la

creación de robots autónomos letales? Estas serán solo algunas de las preguntas

que vendrán en el futuro y que son motivo de preocupación. Más aun dentro del

panorama colombiano, en el que el estado normal de las cosas es el conflicto

26

armado interno y en donde no hay reglas claras de juego y el panorama cambia

día a día.

27

Conclusiones:

• La tecnología se ha convertido en algo con lo que los seres humanos debemos convivir día a día, incluso, en muchos casos, sin quererlo.

• Los avances tecnológicos con los que cohabitamos en la actualidad fueron, en algún momento de la historia, concebibles únicamente en las mejores narraciones de ciencia ficción. Hoy son, muchos de ellos, una realidad presente o inminente.

• Todos los avances tecnológicos implican una modificación del entorno o de

nuestra percepción de la realidad, ya sea para bien o para mal. Es indispensable entonces que entendamos tanto las ventajas y desventajas, amenazas y oportunidades de esta revolución tecnológica y no sigamos consumiendo tecnología sin digerirla.

• La tecnología está presente en todas las actuaciones del hombre y la

guerra no es un campo ajeno a esta intromisión. Incluso es fácil constatar que algunos de los principales avances informáticos contemporáneos como el GPS y el Internet fueron desarrollados inicialmente para aplicaciones militares. Debido a esto, las guerras han tenido que ser reinventadas completamente; hoy la vida humana no siempre está en juego para uno de los adversarios en el campo de batalla, lo que supone una mayor facilidad para tomar algunas determinaciones relacionadas con ella. Para las grandes potencias, hoy es muy sencillo bombardear a distancia con un drone blancos enemigos. Si esta tendencia continua, nada descarta que próximamente los bombarderos u otras clases de armas funcionen de forma plena o parcialmente autónoma.

• Los robots asesinos son para muchos el tema más complejo relacionado

con las guerras. Esta tecnología que aún no somos capaces de dimensionar en su verdadero esplendor permitirá llevar a cabo intervenciones cuyos beneficios y perjuicios son objeto de vivas polémicas.

• Sospechamos lo que serán estas armas, pero no entendemos todavía

quien va responder por los daños que estos ingenios puedan causar a inocentes, lo que implicaría cambios drásticos jurídicamente hablando, que permitan regular la materia completamente. Lo anterior parecería demasiado fácil, pero ¿cómo se reglamenta algo de cuyo alcance no se tiene un conocimiento preciso?

28

• Un terreno controversial que caracteriza muchos de los conflictos contemporáneos es el de las llamadas guerras irregulares o guerras de cuarta generación, en las cuales, es muy difícil, en gran cantidad de situaciones, distinguir a los combatientes de los civiles. Aquí la implementación de los robots asesinos es materia de nuevas y más volátiles discusiones. Colombia es un claro ejemplo (aunque evidentemente no el único) de este tipo de guerras y por eso es pertinente pensar en las consecuencias del uso de esta clase de armas autónomas en nuestro país.

• ¿Será que la humanidad requiere de este tipo de armas, que pueden llegar a fomentar la guerra, o será que estamos frente a un objeto del cual podríamos prescindir, ya que no nos va a representar algo positivo y, por el contrario, sus consecuencias serán devastadoras?

29

Bibliografía Asimov, I. (s.f.). E-READING CLUB. Obtenido de http://www.e-

reading.club/chapter.php/82060/20/Isaac_Asimovs_Worlds_of_Science_Fiction._Book_9_

_Robots.html

Engels, C. M. (s.f.). Rebelion.org. Obtenido de http://www.rebelion.org/docs/127255.pdf

Google. (s.f.). List of mergers and acquistions. Obtenido de

www.wikipedia.org/wiki/list_of_mergers_and_acquisitions_by_google?wprov=sfia1

Humans Need Not Apply. (08 de 07 de 2015). Obtenido de

https://www.youtube.com/watch?v=7Pq-S557XQU

Introduction, R. (s.f.). Math Haifa. Obtenido de

http://math.haifa.ac.il/robotics/Nov_03/introduction_6.pdf

Kurzweil, R. (2012). En R. Kurzweil, How To Create A Mind. The Secrets Of Human Thought

Revealed (pág. 336). New York: Viking.

Lesterfontayne, B. a. (s.f.). Chonday. Obtenido de http://www.chonday.com/Videos/the-writer-

automaton

Stop Killer Robots. (s.f.). Obtenido de http://www.stopkillerrobots.org/

United Nation. (s.f.). ohchr.org. Obtenido de

http://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-

HRC-23-47_en.pdf

Unog. (s.f.). Obtenido de

http://www.unog.ch/80256EE600585943/(httpPages)/4F0DEF093B4860B4C1257180004B

1B30?OpenDocument

Wikipedia. (s.f.). Obtenido de

http://en.wikipedia.org/wiki/List_of_mergers_and_acquisitions_by_Google

Youtube. (s.f.). Obtenido de https://www.youtube.com/watch?v=20cAtF8MGEA