congreso internacional de derecho de...
TRANSCRIPT
CONGRESOINTERNACIONALDEDERECHODELASFAMILIASNIÑEZYADOLESCENCIA
PonenciacomisiónN°2
Tema:Robóticapersona:¿Unnuevointegrantedelafamilia?
Autores:PONZIORoxana-SELTZERLaura-MOROMarianela-BERRABetina
RESUMEN
En el presente trabajo, las suscriptas nos proponemos reflexionar sobre el estado
actual del avance de la robótica y la inteligencia artificial, y la necesidad de una
eventual regulación. Consideramos que la influencia que tendrá el uso de robots
asistencialesenlospróximosañossobrelaspersonasylasfamiliasnosinterpelacomo
operadoresdelderechodelasfamilias;sibienhaymuchasincertezas,sabemosqueen
unfuturonomuylejanolosrobotscuidarananuestrosniñosyanuestrosancianos,ya
toda persona que presente ciertas vulnerabilidades y requiera asistencia y también
sabemos que los robots más complejos pueden generar empatía, por ende es
insoslayablelaconstruccióndevínculos.Eneldebatejurídicointernacionalactualel
focoestápuestoenlaresponsabilidadyenlaproteccióndedatos,nosotrastenemos
en miras una especial protección del vínculo que los sujetos de derecho más
vulnerables,niños,discapacitadosyancianos,puedendesarrollarconelrobot.
Palabrasclaves
Robot inteligente, autonomía, personalidad electrónica, categoría jurídica, vínculo
emocional-jurídico.
Introducción
A las puertas de la cuarta revolución industrial los países han comenzado a
interrogarse sobre la necesidad de darle unmarco jurídico a la inteligencia artificial
(AI). Los medios de comunicación se han hecho eco presentándonos a Sophia, la
primerarobot(conformahumanoide)conciudadaníasaudí,generandounapolémica
dado que en ese país las mujeres tienen restricciones a sus derechos y los kafala
(trabajadores extranjeros) están sujetos a un régimen de patrocinio que crea
condicionessimilaresalaesclavitud.
Por supuesto que cuando uno raspa un poco la cáscara de esta noticia advierte
fácilmentequenoesnimásnimenosqueunaestrategiapublicitariaquenotomaen
serioelconceptodeciudanía,peroquedetodosmodosnosinterpela.Lociertoesque
los robots se están integrando a la vida familiar y todo implica que no dentro de
muchotiempotendránprotagonismoenlacotidianeidad.
Partedeldebategiraentornoalaposibilidaddeprotegerjurídicamentealosrobots,
normando sobre una tercera posibilidad en la calificación de las personas, como
sujetosdederecho: lapersonajurídicaelectrónica,estoes,unapersonalidadjurídica
específica para los robots autónomos más complejos. Todo ello, y más allá de la
discusión de si nos parece prematuro o no, nos obliga a repensar qué significa ser
persona,porquehastaacáestáclaroqueeneldebateactualelfocoestápuestoenla
responsabilidad y en la protección de datos. Es decir, hoy los países están
preocupadospor laresponsabilidaddelosdañosquepuedacausarunrobotyporel
uso de los datos, en el convencimiento de que las teorías de la responsabilidad no
alcancenparaatribuirresponsabilidadpordañosalosagenteshumanos.
Nosotrasnoestamospensandoenla leyendadelGolemdePragaoenFrankenstein,
en tanto hombre artificial omáquina que se vuelve en contra del hombre, estamos
pensandootrascosas.
Estamospensandoquépasaconlainterrelaciónentrerobotsypersonashumanasen
tanto integrantesdeuna familia. Loúnicode loqueestamos seguroshastaaquíes
que en un futuro nomuy lejano los robots cuidaran a nuestros niños y a nuestros
ancianos,yatodapersonaquepresenteciertasvulnerabilidadesyrequieraasistencia.
Tambiénsabemosquelosrobotsmáscomplejospuedengenerarempatía,porendees
insoslayable la construcción de vínculos. Para las personas humanas es muy
importantelaidentidad,lapertenenciaaunafamiliayqueelEstadoprotejaesoslazos
¿seráigualparalapersonaelectrónicaconaspectohumanoide?
¿Dequéhablamoscuandohablamosderobots?Cuestionesconceptuales
Esprecisodistinguiralgunosconceptosparacomprenderlarevolucióntecnológicaala
queasistimos.SehabladerobóticaydeIAavecescomoconceptosindistintosperono
lo son. La IA "es la simulación de procesos de inteligencia humana por parte de
máquinas, especialmente sistemas informáticos"1. Por otro lado, la robótica es el
campode la ciencia centradaeneldiseñoy fabricaciónde robots, entendidosestos
últimos comodispositivosmecánicos capaces de realizar una variedadde tareas, de
acuerdo a unas instrucciones programadas2. Los llamados robots inteligentes se
retroalimentan y aprenden en la interrelación con el entorno3. Si pensamos en
inteligenciaartificialpodemosincluirarobots,bots,androidesyotrasformas,perono
todoeslomismo,aunqueprobablementetodorequieraunmarcojurídico.
HiroshiIshiguro,unreconocidoingenierojaponés,afirmaquesiunimoslarobóticaala
IAelresultadoeslarobóticacognitiva,refiriéndosedeestemodoalosandroides,es
decir aquel robot dotado de IA4. A través de la IA los programas sustentados por
aprendizaje profundo permiten optimizar procesos, las máquinas adquieren cierto
niveldeautonomía,estoocurregraciasalmachinelearningquesenutrededatosyasí
genera respuestas cadavezmáspersonalizadas5. Podemosentenderuna IA "como
algoritmosquesematerializanenprogramasinformáticosque,asuvez,corrensobre
un hardware determinado, y que persiguen imitar el modo de funcionamiento del
cerebro humano"6. Otro enfoque de la IA es el de las redes neuronales "en el cual
algoritmos y máquinas intentan simular el comportamiento de las neuronas del
cerebrohumanorefierenaunaplataformadecómputoquetieneneuronasounidades
decálculoqueseconectanentresí.Esaredescapazdedetectarpatrones,aprendery
tomardecisionesenfuncióndeeso"7.
Excede el propósito de este trabajo exponer sobre todas las formas de la robótica,
pero es importante hacer hincapié en los diferentes niveles de autonomía, en ese
sentido hay algunos que ser requieren ser operados por el ser humano, como por
ejemplolosdronesolosrobotsutilizadosencirugías;luegotenemosaquellosconun
cierto grado de autonomía (semi automáticos), que aun siendo controlados por
1MargaretRouse,Inteligenciaartificial,oAIhttps://searchdatacenter.techtarget.com/es/definicion/Inteligencia-artificial-o-AI,12/04/20172cf.cienciatecnologia-iutc.blogspot.com/2009/02/la-robotica.html3cf.http://conozcamoslarobotica.blogspot.com/p/generaciones-de-la-robotica.html4cf.https://www.andleuven.com/en/bio/prof-hiroshi-ishiguro5Cf.DesireeJaimovich,ElcerebrohumanodetrásdeAiva,elprimerrobotenserreconocidooficialmentecomocompositorttps://www.infobae.com/tecno/2018/03/23/el-cerebro-humano-detras-de-aiva-el-primer-robot-en-ser-reconocido-oficialmente-como-compositor/,23/03/2018.6GuillemAlsinaGonzález,DefinicióndeInteligenciaArtificial,https://www.definicionabc.com/tecnologia/inteligencia-artificial.php7ibidem
operadores humanos se les permite corregir determinadas acciones de éste, por
ejemplo los sistemas de conducción asistida avanzada; y finalmente aquellos que
pueden tomar sus propias decisiones sin supervisión humana (automáticos), elmás
conocidoúltimamenteeselcochesinconductor8.
Cuando pensamos en robots inteligentes, pensamos en robots con capacidad de
entender,deasimilar yelaborar informaciónpara resolver algúnproblema. Eneste
sentido,seaseveraquelosrobotsnosoncapacesdeasimilarinformacióndelamisma
maneraque lohacemos loshumanos,perodisponendealgoritmosparaprocesar la
informaciónrecibida,ymediantelaacumulacióndeexperienciaporelpropiorobotse
vuelven capaces de realizar algún tipo de aprendizaje9. Los robots fueron
evolucionando de simples brazos manipuladores en cadenas de montaje a robots
inteligentes que realizan razonamientos lógicos y aprendenhasta los que se vienen,
emuladores del funcionamiento de la mente humana que incluyen sentimientos
creatividadyautoconciencia.
LapresenciadeAndroides/Robots-Humanoidesen la vida cotidianaes cadavezmás
normal en países como Japón, China, USA, que van a la vanguardia en su diseño y
fabricación, es común ver que se los utiliza como agentes de seguridad en
aeropuertos,policías,guíasdemuseos,ademásdeserelegidoscomoacompañantes
deancianosyniños,pudiendorealizaractividadesdomésticasydecuidado.
Elcontexto,agrandesrasgos…
Aprincipiosdelaño2017seaprobóunaresolucióndelParlamentoEuropeo(PE)con
recomendacionesparalegislarenderechocivilsobrerobótica10.Lanuevageneración
deautómatasyrobotsnosplanteaotrosdesafíosporquela interacciónconlosseres
humanos se vuelvemás directa. Por esto, la comisión de asuntos jurídicos del PE
interpela sobre la necesidad de abordarse con urgencia las consecuencias de ello,
8http://wiki.robotica.webs.upv.es/wiki-de-robotica/introduccion/clasificacion-de-robots/9ibidem10Cf.ResolucióndelParlamentoEuropeo,de16defebrerode2017,conrecomendacionesdestinadasalaComisiónsobrenormasdeDerechocivilsobrerobótica(2015/2103(INL))http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//ES
velandoporelrespetoalosvaloresfundamentales,laseguridad,intimidad,integridad,
dignidadyautonomíadelossereshumanos11.
De todas las implicancias que trae el tema, lo que nos ocupa como operadores del
derecho de familia, está relacionada con el hecho de que en lamedida en que los
robotspuedenprestarserviciosasistencialesconrelacióndirectaconlaspersonas,se
ponga en riesgo el ámbito propio de la dignidad humana. Es insoslayable que ese
aumento de la interacción con los robots, puede repercutir en las relaciones,
especialmente con el uso de los robots asistenciales por parte de personas
particularmentevulnerablesquepodríandesarrollarunvínculoemocional, loqueno
sólosuscitapreocupaciónporladignidadhumanasinoqueyendounpocomáslejos,
nosinterrogasobreunaeventualproteccióndeesevínculo12.
ElPEplantealanecesidaddetrabajarsobreunadefiniciónlegalderobotsautónomos
inteligentes, tomando en cuenta la posibilidad de adquirir autonomía mediante
sensoresoelintercambiodedatos,lacapacidaddeaprenderatravésdelaexperiencia
y la interacción,el soporte físicodel roboty la capacidaddeadaptar susaccionesal
entorno13.Asuvezsebarajaunaterceraposibilidadenlacalificacióndelaspersonas,
como sujetos de derecho: la persona jurídica electrónica, esto es, una personalidad
jurídica específica para los robots autónomosmás complejos, como susceptibles de
adquirirderechosycontraerobligaciones14.
Se vislumbra un cambio de paradigma, siempre sosteniendo la aplicación de los
principios de beneficencia (los robots deben actuar en beneficio del hombre), no
maleficencia(ladoctrinade«primero,nohacerdaño»,envirtuddelcuallosrobotsno
deberíanperjudicara laspersonas)yautonomía(lacapacidaddetomarunadecisión
conconocimientodecausaeindependientesobrelostérminosdeinteracciónconlos
robot) y hacia los conceptos de persona jurídica electrónica, renta básica, ética
robótica15.
La relación entre el hombre y la máquina nos ha preocupado desde siempre, ya a
mediadosdel siglo pasado, IsaacAsimov creó las tres leyes de la robótica, hoynos
11ibidem12ibidem13ibidem14ibidem15ibidem
toca, a las puertas de esta cuarta revolución industrial, ponderar las consecuencias
jurídicas yéticas sinobstaculizar la innovación16. El PE trataunabanicodeposibles
consecuencias del avance de la robótica, desde su incidencia en el panorama del
empleo y los eventuales problemas en el sistema de la seguridad social, la
responsabilidadcivilquepudieraacarrear,yaseapordañosatercerosporelusodeun
robotcomo la responsabilidadrespectode lacalidadde la tecnologíaqueproducen,
digamos, una especie de responsabilidad de fabricación (a primera vista, la
imprevisibilidad que conlleva la capacidad de aprendizaje y acción por medio de la
experiencia, hace insuficiente la aplicación de la responsabilidad de fabricantes,
diseñadoresoprogramadores).Asimismoaspectosrelativosalaproteccióndedatosy
laintimidadyaquehablaríamosdeaplicacionesydispositivosquesecomunicanentre
síyconbasededatos,sinintervenciónhumana.
Eltemaquegeneramásinquietud,eseldelosllamados"robotssociales",robotsque
realizantareascomoasistentesterapéuticosyeducativos. Sesostienequemejoran
lacalidaddevidadeniñosyadultosenhospitalesyresidenciasdeancianos,entanto
se los utiliza para estimular el aprendizaje, para desarrollar habilidades sociales en
personascontrastornosdelespectroautistaoparapotenciaryfacilitar laterapiade
personasconalgunavulnerabilidadmentalofísica.Aseveranquepartedelasventajas
sedebenjustamentealvínculoemocionalquesecreaentrelaspersonasyelrobot17.
Vale señalar, queyaexistennormas jurídicas sobre robotsenCoreadel Sur y Japón
que responden a la necesidad de regular sobre la responsabilidad civil por daños
causados por robots, sobre las cuestiones éticas derivadas de la relación robot-
humanoyeleventualreconocimientodepersonalidadjurídicaenlosrobots.
Losrobotsactualesson -jurídicamente-cosas, apenassusceptiblesdeserobjetode
derechos.
Robot¿persona?
16ibidem17Cf.TakanoriShibata,Innovaciónparalavidaconrobotsterapéuticos:Parohttp://www.mayoractual.com/opinion/takanori-shibata/innovacion-vida-robots-terapeuticos-paro/20180605190235002252.htmlyRobotsqueayudananiñosautistasamejorarsuintegraciónsocial,https://www.lagacetadesalamanca.es
Tradicionalmenteelderechosehaocupadodedefiniralapersonaydeclasificarlaen
personahumanaypersonaJurídica.Peroesteesquema,tradicionalyconsolidadoen
nuestroderecho,sehavistosúbitamentealteradoconelevolucióndelarobóticayla
posibleaparicióndeunnuevoobjetodeestudioautónomoparaeljurista:lapersona
electrónica18.
Hemosvistomásarribaquelosquenospreocupayocupaeselgradodeautonomía
que puede tener un robot, en cuanto posibilidad de tomar decisiones sin la
intervención e influencia de ningún agente humano. Esa autonomía es puramente
tecnológicayserámayorcuantomayorseaelgradodesofisticaciónconquesehaya
diseñadoelrobotparainteractuarconsuentorno.
Aunqueparezcaimpensablelaposibilidaddeconvivirconrobotsyaceptarquepuedan
tomar decisiones por símismos, lo cierto es que se han insertado en la sociedad e
interactúan con lo humanos en distintos ámbitos (médicos, asistenciales, militares,
espaciales etc.), no sólo los diseñados para acelerar la producción a bajo costo sino
queloshayparacumplirtareasdeasistenciayacompañamiento.
Cuandohablamosde laposibilidaddeunaterceracategoríaen laclasificaciónde las
personas,nopodemosdejardedetenernosenquéesserpersona,noshanenseñado
que es todo ente susceptible de ser titular de derechos y de obligaciones; por otro
lado, hablamosde capacidad jurídica, como la aptituddeunapersonapara adquirir
esos derechos y contraer esas obligaciones por sí misma, sin el ministerio o
autorización de otro. La capacidad va paralela a la personalidad: se debe ser
necesariamentepersonaparatenercapacidad,valedecirqueseespersonaentantoy
en cuanto el ordenamiento jurídico te otorgue ese carácter; los seres humanos
gozamosdelstatusdepersona(nosiemprefueasíparatodos loshumanos)perono
exclusivamente.
Alreflexionaracercadelaideadecrearestanuevacategoría,personaselectrónicas,lo
primeroquepensamosesen la responsabilidadporsuobrar¿podríanser losrobots
responsablespor sus accionesuomisiones?Creemosquehoy la respuestadebe ser
no,porquesibienentendemoslapreocupaciónacercadelasdificultadesquepueden
presentarse para atribuir responsabilidad con las normas actuales, consideramos
18Cf.JavierPuyol,¿Losrobotssonpersonaselectrónicas?,ttps://confilegal.com/20160628-los-robots-personas-electronicas/28/06/16
prematuro abrir cualquier puerta que desligue la responsabilidad de los fabricantes,
ingenieros,programadores y todoaquelquedeunauotramanera intervengaenel
controly/ocustodiadelrobot.
Losinvestigadoresabocadosaltemanhanidentificadotresámbitosanormativizar:el
primero tiene que ver con la seguridad, y la consecuente necesidad de establecer
reglasderesponsabilidad; otro tienequevercon laprivacidad,dadoque los robots
crean nuevas formas de captar y almacenar datos personales e información ya sea
porqueestándiseñadosespecíficamenteparaellooporqueesunprocesonecesario
parasufuncionamiento;yunterceroqueabarcaelabanicodeproblemassocialesque
puedengenerarseproductodelainteracciónentrehumanosyrobots19
Valepreguntarnossiparapoderregularsobrelosrobotsesnecesarioscrearunanueva
categoría de persona; a su vez, si la única opción que tenemos es reconocerlos
simplementecosas-comohastaahora-osujetosdederechos,osiencambiopodemos
idearunrégimendeprotecciónespecial.
Ampliandolamirada
Esunaconstanteenlavidadelhombreel“comosifuera”,sisehademostradoquela
I.A. no necesita tener género, cara, ni cuerpo -en muchos casos- ¿cuál es la razón
profundaporlaqueseusanrostrosdemujer(bellas)oselesincluyenpartessexuales,
aun cuando este no es el propósito de su creación? ¿por qué el hombre necesita
máquinas a su imagen y semejanza? ¿estamos asistiendo por fin al acto creador, al
“HombreDios”?.
Lainclusióndelatecnologíaennuestrarutina,traeaparejadoensíuncambioéticoy
filosófico. Se dice que asumimos las nuevas tecnologías como un avance científico
más,comounamejoraennuestrarutinaanivelpráctico,ynoprestamosatencióna
que la tecnología "pueda poner en entredicho los ejes principales con los que
justificamos, definimos y estructuramos el entorno social y la humanidad en sí
misma"20.
19Cf.MiguelMorachimo,¿UnDerechopararobots?encitaaKateDarling,abogadaeinvestigadoradelMediaLabdelMIT,http://elcristalroto.pe/tecnologia/un-derecho-para-robots/24/.3/1420HumanosyRobots,unarelaciónencrisis,https://saltodigital.net/2016/06/humanos-y-robots-una-relacion-en-crisis/06/16
La cuarta revolución industrial está acaeciendo y los robots irán introduciéndose en
formamasivaenmuchosámbitoshastaahoraexclusivamentehumanos.Nose trata
de ser alarmistas, sino de estar preparados ante el avance de la IA, de tener los
debatesfilosóficosconperspectivaglobaldecómosevaaverafectadanuestrapropia
existencia21.
Unrobotfabricadoanuestraimagenysemejanza,quepuedapensar¿tieneconciencia
oessólounamáquinahábil? ¿laconscienciaescuestiónde loquehacemosode lo
queestamoshechos?22.BarrySmith,ledaunavueltaalahistoriaenestaobsesiónde
crear robots autoconscientes, y dice que si lográramos producir un robot que se
comportecomonosotros esopodría llevaracomprobarnotantoqueelrobottiene
concienciasinocuántopodemoshacersintenerla23.
LaIAbuscacomprenderelcomportamientohumanodesdesusconexionesneuronales
ysusmotivacionespsicológicasparaconstruirunsistemaqueseacapazdeemularla
conducta humana, en todas sus manifestaciones: emocional, conductual, cognitiva,
etc.Entonces¿quéeselhombre?¿puedeatribuirseaunamáquinaquemanifiestade
manera efectiva todas las características distintivas del hombre el adjetivo de
“humana”?LaIAsindudamodificalacaracterizaciónaristotélicadelserhumanocomo
“ser racional”. La racionalidadhadejado,por tanto,de serunanotadistintivaynos
obligaaexplorarotrasnotasquenosdefinan.
El enfoque del agente racional es el quemás se ha adoptado para la investigación,
porque implica el de pensar racionalmente y supera a los de pensar y actuar como
humanos.Aquí,laIAnoescomoelhombre,sinounagenteracional,algoquerazona.
El agente racional es un ente que actúa en forma adecuada ante cierto tipo de
problemas, de modo que sabe resolverlos. Sin duda que tal racionalidad es
programada,peroseesperaqueelagenteracionalsemantengaconciertaautonomía,
percibiendosuentorno,representándosesuconocimiento,razonandoyaprendiendo
aadaptarseanuevassituaciones.Laracionalidadqueesalentadaenesteentenoes
otra sino la racionalidad humana, pero incompleta, truncada. Le falta la conciencia.
21Cf.Ibídem22Cf.BarryC.Smith,¿Puedenlosrobotstenerconciencia?http://www.bbc.com/mundo/noticias/2011/09/110913_robots_consciencia,18/09/1123ibidem
Aunquelaconductadelasmáquinasinteligentespareceracional,estaracionalidades
inconscientepero¿seguirásiendoinconsciente?
Hay un temormediato sobre una visión cuasi apocalíptica de que los robots van a
evolucionar hasta reemplazar al hombre, y un miedo actual, más real, que tiene
relaciónconelpoderqueestasmáquinasdanalossereshumanosquelasposeenylas
comandan.Elproblemanoeslaposibilidad,actualmenteincierta,dequelaIAavance
ysedesarrollesinlaparticipacióndelserhumano,sinoelusoactualqueseestádando
alatecnologíarobóticaycuálessonlosfinesdesucreación.
Las revoluciones técnicas, históricamentehan facilitado la vidadel hombre, creando
tantas soluciones como nuevos problemas que se convirtieron en el obstáculo a
vencer.Elcontrolnecesitaserredefinido,yaqueenmuchoscasoselpoderestaráen
manodeequipos tecnológicos sin intervencióndel serhumano, senecesitannuevas
definiciones para enfrentar nuevas realidades. En conclusión, no se trata de ser
optimistas, ni pesimistas, en relación a los progresos de las tecnologías y de sus
aplicaciones, se trata de ser responsables, de ser conscientes que el hombre es un
sujetoético,entodos lossignificadosqueestaexpresiónpuedeasumir. Valepensar
enlaideadequenotodoloquesepuedehacersedebehacer.
¿Quéavizoramosenelhorizonte?
EnlaObradeIsaacAsimov,YOROBOT,podemosleerpasajesentrelaniñaGloriaysu
robotRobbi,
-Te he llamado hasta quedarme ronca, Gloria -dijo severamente lamama de
Gloria- ¿Dónde estabas? Estaba con Robbie -balbució Gloria-. Le estaba
contandola Cenicientayheolvidadoqueerahoradecomer.
-Pues es una lastima que Robbie lo haya olvidado también. -Y como si de
repente recordaselapresenciadelrobot,sevolviórapidamentehaciaél-Puedes
marcharte, Robbie. No te necesita ya. Y no vuelvas hasta que te llame -añadió
secamentelamadre deGloria.
Robbiedio lavueltaparamarcharse,perosedetuvoaloíraGloriasalirensu
defensa.- -¡Espera, mamá! Tienes que dejar que se quede: No he acabado de
contarlela Cenicienta.LeheprometidocontarlelaCenicientaynoheterminado(…)
-Deverdad,mamá.Seestarátanquietoquenotedarássiquieracuentadeque
está aquí.Puedesentarseenlasilladelrincón,ynodirániunapalabra...;bueno,no
hará nada,quierodecir. ¿Verdad,Robbie?Robbie,así interpelado,moviódearriba
abajosu pesadacabeza.
-Gloria,sinodejasestoinmediatamente,noversaRobbieenunasemana(…)
ElrobotsaliódelahabitaciónconpasovacilanteyGloriaahogóunsollozo.
Enotrotramo,semuestranlasdificultadesdelospadresparalidiarconlasituación:
Mrs.Westonesperópacientementedosminutos,después,impaciente,dosmás,
y finalmenterompióelsilencio.
(…) ¡He dicho George! ¿Quieres dejar este periódico y mirarme (…) -¿Qué
ocurre, querida?-Yasabesloqueocurre.EsGloriayestaterriblemáquina.
-(…)noesninguna terriblemáquina.Eselmejor robotque sepuedecomprar
(…)
(…)Noquieroveramihijaconfiadaaunamáquina,porinteligentequesea.No
tiene almaynadiesabeloqueescapazdepensar.Unachiquillanoestáhechapara
ser guardadaporuna"cosa"demetal.
(…) Mira, un robot esmuchísimo más digno de confianza que una nodriza
humana. Robbie fue construido en realidad con un solo propósito: ser el
compañerodeun chiquillo.Su"mentalidad"enterahasidocreadaconeste
propósito.Tiene forzosamentequequereryserfielaestacriatura.
(…)Además,dosvecesalañovieneuningenierodelaU.S.Robotsahaceruna
revisión completa delmecanismo. Haymenos probabilidades de que se
estropeealgoen Robbie,dequeunodenosotros sevuelva repentinamente loco;
considerablemente menos.Además,¿cómoselovasaquitaraGloria?….24
24IsaacAsimov,Yorobot,traducciónManuelBoschBarret,Edhasa.
Esta lectura nos hace pensar en los vínculos humano-robot. El tema radica en las
situaciones familiares que puedan suscitarse cuando el robot sea definitivamente
integradoalavidafamiliar;seaporquellegaparacumpliralgunafuncióndeasistencia
ocuidadoconunniño,ancianoodiscapacitado,oseaquellegacomoregalo,enforma
demascotadejugueteparalosniños.Lasgrandesempresasestándiseñandorobots
capacesdetenerconexiónemocionalconsusdueños25.
¿Cómolovamosaconsideraralahoraderesolversobrelosreclamosencuestionesde
lafamilia? Entantobienmaterial(cosa)¿esdeldueño?Sehabladeregistraciónde
losrobotsenunfuturo¿tendremosqueidearunsistemacomoeldelaatribucióndel
hogar conyugal? ¿se requerirá el consentimiento de todos los integrantes para
disponerdelrobot?¿cómoafectaríaaunniñolaprivacióndesurobot?¿tienenlos
integrantesde la familiaderechos sobreel robotoel robotdeberá tenerderechoa
permanecer en la familia? Hoy por hoy ya estaría sujeto a incorporarse en la
liquidación de los bienes, el tema es ¿qué clase de bien será un robot? ¿podría
incluirse en el reclamoalimentario los gastos para sumantenimiento? ¿serían parte
delrégimendecomunicación?¿integraelacervosucesorio?
Ya sabemos que hoy por hoy pueden emular emociones26 pero ¿qué pasaría si
fuéramosmásalládelaemulación?¿Quépasaríasiadquirieranautoconciencia?Una
vezque losconsideremosconcapacidadparapercibir,sentiryactuar,noesungran
salto considerar su estado legal ¿Deberían serle reconocidos derechos como se les
reconoce a los animales? ¿Reglamentaríamos el sufrimiento de los robots? En este
sentidoyaenelMITsehanhechoexperimentosacercadelsufrimientodeunrobot,y
sehace laanalogíaconciertosanimalesa loscualesse losprotege,explicaneneste
sentidoqueprotegemosunosanimalesynootrosporloquelarespuestanoestáenel
sufrimientodeellossinoenelquenoscausaanosotrosverlossufrir27
Por otro lado, tododispositivo de IA almacenadatos para hacer todo el procesode
aprendizaje¿quépasaconesosdatos?¿aquieneslespertenecen?ElPEhallamadola
atención con el tema de la protección de los datos y si bien excede el marco del
25Cf.ErikaNavajas,UnRobotQueCreaLazosEmocionalesConLasPersonas,ElFuturoDeSony,voltaico.lavozdegalicia.es/2016/06/robot-sony-crea-lazos-emocionales-personas)002/07/1626Cf.FranciscoBáezBaquet,LaderivaerróneadelaInteligenciaArtificial(I.A.)(pretextoparaunperiplointelectual)http://rebelion.org/docs/231620.pdf,sept.2017.27RichardFisher,¿Puedensufrirlosrobots?,https://www.lanacion.com.ar/1651142-pueden-sufrir-los-robots)01/01/14.
presente trabajo nos preguntamos acerca de los juguetes con IA o estos robots
mascotas: Si se recopilan esos datos, ¿tiene el niño derecho a recuperarlos? Si los
datosserecopilandesdelaprimerainfanciaynopertenecenalniño¿lovuelvenmás
vulnerableporquesusopcionesypatronesdecomportamientopodríanserconocidos
porcualquieraquecomprelosdatos,porejemplo,empresasocampañaspolíticas?¿se
infringeelArtículo16delaConvenciónsobrelosDerechosdelNiño?28
Se dice que una relación afectiva no debería modificar el estatus moral de un
individuo,porejemplo,comoocurreconlarelaciónentreunapersonaysumascota,
perosibienelhechodequelapersonatengaunestatusmoralcompletoyéstaamea
sumascota,nopuede implicarque lamascotagocedelmismoestatusmoralqueel
humano no significa que no se proteja la integridad física –e incluso moral- de los
animales29.Enestesentidosibiensedicequenoesaceptablenegarleestatusmoral
aunsujetosóloporqueestehayasidodiseñadoyfabricadoartificialmente,tampoco
esaceptableotorgárseloatodosistemadeIA,sinoponderarelcasoconcreto30.
Conclusiones
1.-Robot inteligente: necesidad de definirlos teniendo en cuenta la capacidad para
adquirirautonomía,paraaprenderdelaexperienciaydelainteracciónconelentorno
asícomodesucapacidaddeadaptaciónaeseentorno.
2.-Autonomíadelrobot:capacidaddelrobotdeaprenderdelaexperienciaytomar
decisiones y aplicarlas en el mundo exterior, con independencia de todo control
externo.
3.-Personalidad electrónica: consideramos prematuro atribuirles jurídicamente el
estatusdepersona.
4.-Categoría Jurídica: proponemos la creación de una categoría sui generis,
otorgándoseunestatusjurídicoespecíficoalosrobotsconIA,quelosdejefueradela
clasificacióndualdeobjeto/sujeto.
28WHATHAPPENSWHENYOURCHILDSINVISIBLEFRIENDISANAITOYTHATTALKSBACKyTHISISHOWWECANHOLDAIACCOUNTABLEhttps://www.weforum.org/agenda/archive/artificial-inteligence29Cf.DavidAlvaroPascual,InteligenciaArtifical:Panoramadealgunosdesusdesafíoséticosyjurídicos,UniverstatdeGirona,http://www.nickbostrom.com/ethics/artificial-intelligence.pdf30ibidem