CONGRESOINTERNACIONALDEDERECHODELASFAMILIASNIÑEZYADOLESCENCIA

PonenciacomisiónN°2

Tema:Robóticapersona:¿Unnuevointegrantedelafamilia?

Autores:PONZIORoxana-SELTZERLaura-MOROMarianela-BERRABetina

RESUMEN

En el presente trabajo, las suscriptas nos proponemos reflexionar sobre el estado

actual del avance de la robótica y la inteligencia artificial, y la necesidad de una

eventual regulación. Consideramos que la influencia que tendrá el uso de robots

asistencialesenlospróximosañossobrelaspersonasylasfamiliasnosinterpelacomo

operadoresdelderechodelasfamilias;sibienhaymuchasincertezas,sabemosqueen

unfuturonomuylejanolosrobotscuidarananuestrosniñosyanuestrosancianos,ya

toda persona que presente ciertas vulnerabilidades y requiera asistencia y también

sabemos que los robots más complejos pueden generar empatía, por ende es

insoslayablelaconstruccióndevínculos.Eneldebatejurídicointernacionalactualel

focoestápuestoenlaresponsabilidadyenlaproteccióndedatos,nosotrastenemos

en miras una especial protección del vínculo que los sujetos de derecho más

vulnerables,niños,discapacitadosyancianos,puedendesarrollarconelrobot.

Palabrasclaves

Robot inteligente, autonomía, personalidad electrónica, categoría jurídica, vínculo

emocional-jurídico.

Introducción

A las puertas de la cuarta revolución industrial los países han comenzado a

interrogarse sobre la necesidad de darle unmarco jurídico a la inteligencia artificial

(AI). Los medios de comunicación se han hecho eco presentándonos a Sophia, la

primerarobot(conformahumanoide)conciudadaníasaudí,generandounapolémica

dado que en ese país las mujeres tienen restricciones a sus derechos y los kafala

(trabajadores extranjeros) están sujetos a un régimen de patrocinio que crea

condicionessimilaresalaesclavitud.

Por supuesto que cuando uno raspa un poco la cáscara de esta noticia advierte

fácilmentequenoesnimásnimenosqueunaestrategiapublicitariaquenotomaen

serioelconceptodeciudanía,peroquedetodosmodosnosinterpela.Lociertoesque

los robots se están integrando a la vida familiar y todo implica que no dentro de

muchotiempotendránprotagonismoenlacotidianeidad.

Partedeldebategiraentornoalaposibilidaddeprotegerjurídicamentealosrobots,

normando sobre una tercera posibilidad en la calificación de las personas, como

sujetosdederecho: lapersonajurídicaelectrónica,estoes,unapersonalidadjurídica

específica para los robots autónomos más complejos. Todo ello, y más allá de la

discusión de si nos parece prematuro o no, nos obliga a repensar qué significa ser

persona,porquehastaacáestáclaroqueeneldebateactualelfocoestápuestoenla

responsabilidad y en la protección de datos. Es decir, hoy los países están

preocupadospor laresponsabilidaddelosdañosquepuedacausarunrobotyporel

uso de los datos, en el convencimiento de que las teorías de la responsabilidad no

alcancenparaatribuirresponsabilidadpordañosalosagenteshumanos.

Nosotrasnoestamospensandoenla leyendadelGolemdePragaoenFrankenstein,

en tanto hombre artificial omáquina que se vuelve en contra del hombre, estamos

pensandootrascosas.

Estamospensandoquépasaconlainterrelaciónentrerobotsypersonashumanasen

tanto integrantesdeuna familia. Loúnicode loqueestamos seguroshastaaquíes

que en un futuro nomuy lejano los robots cuidaran a nuestros niños y a nuestros

ancianos,yatodapersonaquepresenteciertasvulnerabilidadesyrequieraasistencia.

Tambiénsabemosquelosrobotsmáscomplejospuedengenerarempatía,porendees

insoslayable la construcción de vínculos. Para las personas humanas es muy

importantelaidentidad,lapertenenciaaunafamiliayqueelEstadoprotejaesoslazos

¿seráigualparalapersonaelectrónicaconaspectohumanoide?

¿Dequéhablamoscuandohablamosderobots?Cuestionesconceptuales

Esprecisodistinguiralgunosconceptosparacomprenderlarevolucióntecnológicaala

queasistimos.SehabladerobóticaydeIAavecescomoconceptosindistintosperono

lo son. La IA "es la simulación de procesos de inteligencia humana por parte de

máquinas, especialmente sistemas informáticos"1. Por otro lado, la robótica es el

campode la ciencia centradaeneldiseñoy fabricaciónde robots, entendidosestos

últimos comodispositivosmecánicos capaces de realizar una variedadde tareas, de

acuerdo a unas instrucciones programadas2. Los llamados robots inteligentes se

retroalimentan y aprenden en la interrelación con el entorno3. Si pensamos en

inteligenciaartificialpodemosincluirarobots,bots,androidesyotrasformas,perono

todoeslomismo,aunqueprobablementetodorequieraunmarcojurídico.

HiroshiIshiguro,unreconocidoingenierojaponés,afirmaquesiunimoslarobóticaala

IAelresultadoeslarobóticacognitiva,refiriéndosedeestemodoalosandroides,es

decir aquel robot dotado de IA4. A través de la IA los programas sustentados por

aprendizaje profundo permiten optimizar procesos, las máquinas adquieren cierto

niveldeautonomía,estoocurregraciasalmachinelearningquesenutrededatosyasí

genera respuestas cadavezmáspersonalizadas5. Podemosentenderuna IA "como

algoritmosquesematerializanenprogramasinformáticosque,asuvez,corrensobre

un hardware determinado, y que persiguen imitar el modo de funcionamiento del

cerebro humano"6. Otro enfoque de la IA es el de las redes neuronales "en el cual

algoritmos y máquinas intentan simular el comportamiento de las neuronas del

cerebrohumanorefierenaunaplataformadecómputoquetieneneuronasounidades

decálculoqueseconectanentresí.Esaredescapazdedetectarpatrones,aprendery

tomardecisionesenfuncióndeeso"7.

Excede el propósito de este trabajo exponer sobre todas las formas de la robótica,

pero es importante hacer hincapié en los diferentes niveles de autonomía, en ese

sentido hay algunos que ser requieren ser operados por el ser humano, como por

ejemplolosdronesolosrobotsutilizadosencirugías;luegotenemosaquellosconun

cierto grado de autonomía (semi automáticos), que aun siendo controlados por

1MargaretRouse,Inteligenciaartificial,oAIhttps://searchdatacenter.techtarget.com/es/definicion/Inteligencia-artificial-o-AI,12/04/20172cf.cienciatecnologia-iutc.blogspot.com/2009/02/la-robotica.html3cf.http://conozcamoslarobotica.blogspot.com/p/generaciones-de-la-robotica.html4cf.https://www.andleuven.com/en/bio/prof-hiroshi-ishiguro5Cf.DesireeJaimovich,ElcerebrohumanodetrásdeAiva,elprimerrobotenserreconocidooficialmentecomocompositorttps://www.infobae.com/tecno/2018/03/23/el-cerebro-humano-detras-de-aiva-el-primer-robot-en-ser-reconocido-oficialmente-como-compositor/,23/03/2018.6GuillemAlsinaGonzález,DefinicióndeInteligenciaArtificial,https://www.definicionabc.com/tecnologia/inteligencia-artificial.php7ibidem

operadores humanos se les permite corregir determinadas acciones de éste, por

ejemplo los sistemas de conducción asistida avanzada; y finalmente aquellos que

pueden tomar sus propias decisiones sin supervisión humana (automáticos), elmás

conocidoúltimamenteeselcochesinconductor8.

Cuando pensamos en robots inteligentes, pensamos en robots con capacidad de

entender,deasimilar yelaborar informaciónpara resolver algúnproblema. Eneste

sentido,seaseveraquelosrobotsnosoncapacesdeasimilarinformacióndelamisma

maneraque lohacemos loshumanos,perodisponendealgoritmosparaprocesar la

informaciónrecibida,ymediantelaacumulacióndeexperienciaporelpropiorobotse

vuelven capaces de realizar algún tipo de aprendizaje9. Los robots fueron

evolucionando de simples brazos manipuladores en cadenas de montaje a robots

inteligentes que realizan razonamientos lógicos y aprendenhasta los que se vienen,

emuladores del funcionamiento de la mente humana que incluyen sentimientos

creatividadyautoconciencia.

LapresenciadeAndroides/Robots-Humanoidesen la vida cotidianaes cadavezmás

normal en países como Japón, China, USA, que van a la vanguardia en su diseño y

fabricación, es común ver que se los utiliza como agentes de seguridad en

aeropuertos,policías,guíasdemuseos,ademásdeserelegidoscomoacompañantes

deancianosyniños,pudiendorealizaractividadesdomésticasydecuidado.

Elcontexto,agrandesrasgos…

Aprincipiosdelaño2017seaprobóunaresolucióndelParlamentoEuropeo(PE)con

recomendacionesparalegislarenderechocivilsobrerobótica10.Lanuevageneración

deautómatasyrobotsnosplanteaotrosdesafíosporquela interacciónconlosseres

humanos se vuelvemás directa. Por esto, la comisión de asuntos jurídicos del PE

interpela sobre la necesidad de abordarse con urgencia las consecuencias de ello,

8http://wiki.robotica.webs.upv.es/wiki-de-robotica/introduccion/clasificacion-de-robots/9ibidem10Cf.ResolucióndelParlamentoEuropeo,de16defebrerode2017,conrecomendacionesdestinadasalaComisiónsobrenormasdeDerechocivilsobrerobótica(2015/2103(INL))http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//ES

velandoporelrespetoalosvaloresfundamentales,laseguridad,intimidad,integridad,

dignidadyautonomíadelossereshumanos11.

De todas las implicancias que trae el tema, lo que nos ocupa como operadores del

derecho de familia, está relacionada con el hecho de que en lamedida en que los

robotspuedenprestarserviciosasistencialesconrelacióndirectaconlaspersonas,se

ponga en riesgo el ámbito propio de la dignidad humana. Es insoslayable que ese

aumento de la interacción con los robots, puede repercutir en las relaciones,

especialmente con el uso de los robots asistenciales por parte de personas

particularmentevulnerablesquepodríandesarrollarunvínculoemocional, loqueno

sólosuscitapreocupaciónporladignidadhumanasinoqueyendounpocomáslejos,

nosinterrogasobreunaeventualproteccióndeesevínculo12.

ElPEplantealanecesidaddetrabajarsobreunadefiniciónlegalderobotsautónomos

inteligentes, tomando en cuenta la posibilidad de adquirir autonomía mediante

sensoresoelintercambiodedatos,lacapacidaddeaprenderatravésdelaexperiencia

y la interacción,el soporte físicodel roboty la capacidaddeadaptar susaccionesal

entorno13.Asuvezsebarajaunaterceraposibilidadenlacalificacióndelaspersonas,

como sujetos de derecho: la persona jurídica electrónica, esto es, una personalidad

jurídica específica para los robots autónomosmás complejos, como susceptibles de

adquirirderechosycontraerobligaciones14.

Se vislumbra un cambio de paradigma, siempre sosteniendo la aplicación de los

principios de beneficencia (los robots deben actuar en beneficio del hombre), no

maleficencia(ladoctrinade«primero,nohacerdaño»,envirtuddelcuallosrobotsno

deberíanperjudicara laspersonas)yautonomía(lacapacidaddetomarunadecisión

conconocimientodecausaeindependientesobrelostérminosdeinteracciónconlos

robot) y hacia los conceptos de persona jurídica electrónica, renta básica, ética

robótica15.

La relación entre el hombre y la máquina nos ha preocupado desde siempre, ya a

mediadosdel siglo pasado, IsaacAsimov creó las tres leyes de la robótica, hoynos

11ibidem12ibidem13ibidem14ibidem15ibidem

toca, a las puertas de esta cuarta revolución industrial, ponderar las consecuencias

jurídicas yéticas sinobstaculizar la innovación16. El PE trataunabanicodeposibles

consecuencias del avance de la robótica, desde su incidencia en el panorama del

empleo y los eventuales problemas en el sistema de la seguridad social, la

responsabilidadcivilquepudieraacarrear,yaseapordañosatercerosporelusodeun

robotcomo la responsabilidadrespectode lacalidadde la tecnologíaqueproducen,

digamos, una especie de responsabilidad de fabricación (a primera vista, la

imprevisibilidad que conlleva la capacidad de aprendizaje y acción por medio de la

experiencia, hace insuficiente la aplicación de la responsabilidad de fabricantes,

diseñadoresoprogramadores).Asimismoaspectosrelativosalaproteccióndedatosy

laintimidadyaquehablaríamosdeaplicacionesydispositivosquesecomunicanentre

síyconbasededatos,sinintervenciónhumana.

Eltemaquegeneramásinquietud,eseldelosllamados"robotssociales",robotsque

realizantareascomoasistentesterapéuticosyeducativos. Sesostienequemejoran

lacalidaddevidadeniñosyadultosenhospitalesyresidenciasdeancianos,entanto

se los utiliza para estimular el aprendizaje, para desarrollar habilidades sociales en

personascontrastornosdelespectroautistaoparapotenciaryfacilitar laterapiade

personasconalgunavulnerabilidadmentalofísica.Aseveranquepartedelasventajas

sedebenjustamentealvínculoemocionalquesecreaentrelaspersonasyelrobot17.

Vale señalar, queyaexistennormas jurídicas sobre robotsenCoreadel Sur y Japón

que responden a la necesidad de regular sobre la responsabilidad civil por daños

causados por robots, sobre las cuestiones éticas derivadas de la relación robot-

humanoyeleventualreconocimientodepersonalidadjurídicaenlosrobots.

Losrobotsactualesson -jurídicamente-cosas, apenassusceptiblesdeserobjetode

derechos.

Robot¿persona?

16ibidem17Cf.TakanoriShibata,Innovaciónparalavidaconrobotsterapéuticos:Parohttp://www.mayoractual.com/opinion/takanori-shibata/innovacion-vida-robots-terapeuticos-paro/20180605190235002252.htmlyRobotsqueayudananiñosautistasamejorarsuintegraciónsocial,https://www.lagacetadesalamanca.es

Tradicionalmenteelderechosehaocupadodedefiniralapersonaydeclasificarlaen

personahumanaypersonaJurídica.Peroesteesquema,tradicionalyconsolidadoen

nuestroderecho,sehavistosúbitamentealteradoconelevolucióndelarobóticayla

posibleaparicióndeunnuevoobjetodeestudioautónomoparaeljurista:lapersona

electrónica18.

Hemosvistomásarribaquelosquenospreocupayocupaeselgradodeautonomía

que puede tener un robot, en cuanto posibilidad de tomar decisiones sin la

intervención e influencia de ningún agente humano. Esa autonomía es puramente

tecnológicayserámayorcuantomayorseaelgradodesofisticaciónconquesehaya

diseñadoelrobotparainteractuarconsuentorno.

Aunqueparezcaimpensablelaposibilidaddeconvivirconrobotsyaceptarquepuedan

tomar decisiones por símismos, lo cierto es que se han insertado en la sociedad e

interactúan con lo humanos en distintos ámbitos (médicos, asistenciales, militares,

espaciales etc.), no sólo los diseñados para acelerar la producción a bajo costo sino

queloshayparacumplirtareasdeasistenciayacompañamiento.

Cuandohablamosde laposibilidaddeunaterceracategoríaen laclasificaciónde las

personas,nopodemosdejardedetenernosenquéesserpersona,noshanenseñado

que es todo ente susceptible de ser titular de derechos y de obligaciones; por otro

lado, hablamosde capacidad jurídica, como la aptituddeunapersonapara adquirir

esos derechos y contraer esas obligaciones por sí misma, sin el ministerio o

autorización de otro. La capacidad va paralela a la personalidad: se debe ser

necesariamentepersonaparatenercapacidad,valedecirqueseespersonaentantoy

en cuanto el ordenamiento jurídico te otorgue ese carácter; los seres humanos

gozamosdelstatusdepersona(nosiemprefueasíparatodos loshumanos)perono

exclusivamente.

Alreflexionaracercadelaideadecrearestanuevacategoría,personaselectrónicas,lo

primeroquepensamosesen la responsabilidadporsuobrar¿podríanser losrobots

responsablespor sus accionesuomisiones?Creemosquehoy la respuestadebe ser

no,porquesibienentendemoslapreocupaciónacercadelasdificultadesquepueden

presentarse para atribuir responsabilidad con las normas actuales, consideramos

18Cf.JavierPuyol,¿Losrobotssonpersonaselectrónicas?,ttps://confilegal.com/20160628-los-robots-personas-electronicas/28/06/16

prematuro abrir cualquier puerta que desligue la responsabilidad de los fabricantes,

ingenieros,programadores y todoaquelquedeunauotramanera intervengaenel

controly/ocustodiadelrobot.

Losinvestigadoresabocadosaltemanhanidentificadotresámbitosanormativizar:el

primero tiene que ver con la seguridad, y la consecuente necesidad de establecer

reglasderesponsabilidad; otro tienequevercon laprivacidad,dadoque los robots

crean nuevas formas de captar y almacenar datos personales e información ya sea

porqueestándiseñadosespecíficamenteparaellooporqueesunprocesonecesario

parasufuncionamiento;yunterceroqueabarcaelabanicodeproblemassocialesque

puedengenerarseproductodelainteracciónentrehumanosyrobots19

Valepreguntarnossiparapoderregularsobrelosrobotsesnecesarioscrearunanueva

categoría de persona; a su vez, si la única opción que tenemos es reconocerlos

simplementecosas-comohastaahora-osujetosdederechos,osiencambiopodemos

idearunrégimendeprotecciónespecial.

Ampliandolamirada

Esunaconstanteenlavidadelhombreel“comosifuera”,sisehademostradoquela

I.A. no necesita tener género, cara, ni cuerpo -en muchos casos- ¿cuál es la razón

profundaporlaqueseusanrostrosdemujer(bellas)oselesincluyenpartessexuales,

aun cuando este no es el propósito de su creación? ¿por qué el hombre necesita

máquinas a su imagen y semejanza? ¿estamos asistiendo por fin al acto creador, al

“HombreDios”?.

Lainclusióndelatecnologíaennuestrarutina,traeaparejadoensíuncambioéticoy

filosófico. Se dice que asumimos las nuevas tecnologías como un avance científico

más,comounamejoraennuestrarutinaanivelpráctico,ynoprestamosatencióna

que la tecnología "pueda poner en entredicho los ejes principales con los que

justificamos, definimos y estructuramos el entorno social y la humanidad en sí

misma"20.

19Cf.MiguelMorachimo,¿UnDerechopararobots?encitaaKateDarling,abogadaeinvestigadoradelMediaLabdelMIT,http://elcristalroto.pe/tecnologia/un-derecho-para-robots/24/.3/1420HumanosyRobots,unarelaciónencrisis,https://saltodigital.net/2016/06/humanos-y-robots-una-relacion-en-crisis/06/16

La cuarta revolución industrial está acaeciendo y los robots irán introduciéndose en

formamasivaenmuchosámbitoshastaahoraexclusivamentehumanos.Nose trata

de ser alarmistas, sino de estar preparados ante el avance de la IA, de tener los

debatesfilosóficosconperspectivaglobaldecómosevaaverafectadanuestrapropia

existencia21.

Unrobotfabricadoanuestraimagenysemejanza,quepuedapensar¿tieneconciencia

oessólounamáquinahábil? ¿laconscienciaescuestiónde loquehacemosode lo

queestamoshechos?22.BarrySmith,ledaunavueltaalahistoriaenestaobsesiónde

crear robots autoconscientes, y dice que si lográramos producir un robot que se

comportecomonosotros esopodría llevaracomprobarnotantoqueelrobottiene

concienciasinocuántopodemoshacersintenerla23.

LaIAbuscacomprenderelcomportamientohumanodesdesusconexionesneuronales

ysusmotivacionespsicológicasparaconstruirunsistemaqueseacapazdeemularla

conducta humana, en todas sus manifestaciones: emocional, conductual, cognitiva,

etc.Entonces¿quéeselhombre?¿puedeatribuirseaunamáquinaquemanifiestade

manera efectiva todas las características distintivas del hombre el adjetivo de

“humana”?LaIAsindudamodificalacaracterizaciónaristotélicadelserhumanocomo

“ser racional”. La racionalidadhadejado,por tanto,de serunanotadistintivaynos

obligaaexplorarotrasnotasquenosdefinan.

El enfoque del agente racional es el quemás se ha adoptado para la investigación,

porque implica el de pensar racionalmente y supera a los de pensar y actuar como

humanos.Aquí,laIAnoescomoelhombre,sinounagenteracional,algoquerazona.

El agente racional es un ente que actúa en forma adecuada ante cierto tipo de

problemas, de modo que sabe resolverlos. Sin duda que tal racionalidad es

programada,peroseesperaqueelagenteracionalsemantengaconciertaautonomía,

percibiendosuentorno,representándosesuconocimiento,razonandoyaprendiendo

aadaptarseanuevassituaciones.Laracionalidadqueesalentadaenesteentenoes

otra sino la racionalidad humana, pero incompleta, truncada. Le falta la conciencia.

21Cf.Ibídem22Cf.BarryC.Smith,¿Puedenlosrobotstenerconciencia?http://www.bbc.com/mundo/noticias/2011/09/110913_robots_consciencia,18/09/1123ibidem

Aunquelaconductadelasmáquinasinteligentespareceracional,estaracionalidades

inconscientepero¿seguirásiendoinconsciente?

Hay un temormediato sobre una visión cuasi apocalíptica de que los robots van a

evolucionar hasta reemplazar al hombre, y un miedo actual, más real, que tiene

relaciónconelpoderqueestasmáquinasdanalossereshumanosquelasposeenylas

comandan.Elproblemanoeslaposibilidad,actualmenteincierta,dequelaIAavance

ysedesarrollesinlaparticipacióndelserhumano,sinoelusoactualqueseestádando

alatecnologíarobóticaycuálessonlosfinesdesucreación.

Las revoluciones técnicas, históricamentehan facilitado la vidadel hombre, creando

tantas soluciones como nuevos problemas que se convirtieron en el obstáculo a

vencer.Elcontrolnecesitaserredefinido,yaqueenmuchoscasoselpoderestaráen

manodeequipos tecnológicos sin intervencióndel serhumano, senecesitannuevas

definiciones para enfrentar nuevas realidades. En conclusión, no se trata de ser

optimistas, ni pesimistas, en relación a los progresos de las tecnologías y de sus

aplicaciones, se trata de ser responsables, de ser conscientes que el hombre es un

sujetoético,entodos lossignificadosqueestaexpresiónpuedeasumir. Valepensar

enlaideadequenotodoloquesepuedehacersedebehacer.

¿Quéavizoramosenelhorizonte?

EnlaObradeIsaacAsimov,YOROBOT,podemosleerpasajesentrelaniñaGloriaysu

robotRobbi,

-Te he llamado hasta quedarme ronca, Gloria -dijo severamente lamama de

Gloria- ¿Dónde estabas? Estaba con Robbie -balbució Gloria-. Le estaba

contandola Cenicientayheolvidadoqueerahoradecomer.

-Pues es una lastima que Robbie lo haya olvidado también. -Y como si de

repente recordaselapresenciadelrobot,sevolviórapidamentehaciaél-Puedes

marcharte, Robbie. No te necesita ya. Y no vuelvas hasta que te llame -añadió

secamentelamadre deGloria.

Robbiedio lavueltaparamarcharse,perosedetuvoaloíraGloriasalirensu

defensa.- -¡Espera, mamá! Tienes que dejar que se quede: No he acabado de

contarlela Cenicienta.LeheprometidocontarlelaCenicientaynoheterminado(…)

-Deverdad,mamá.Seestarátanquietoquenotedarássiquieracuentadeque

está aquí.Puedesentarseenlasilladelrincón,ynodirániunapalabra...;bueno,no

hará nada,quierodecir. ¿Verdad,Robbie?Robbie,así interpelado,moviódearriba

abajosu pesadacabeza.

-Gloria,sinodejasestoinmediatamente,noversaRobbieenunasemana(…)

ElrobotsaliódelahabitaciónconpasovacilanteyGloriaahogóunsollozo.

Enotrotramo,semuestranlasdificultadesdelospadresparalidiarconlasituación:

Mrs.Westonesperópacientementedosminutos,después,impaciente,dosmás,

y finalmenterompióelsilencio.

(…) ¡He dicho George! ¿Quieres dejar este periódico y mirarme (…) -¿Qué

ocurre, querida?-Yasabesloqueocurre.EsGloriayestaterriblemáquina.

-(…)noesninguna terriblemáquina.Eselmejor robotque sepuedecomprar

(…)

(…)Noquieroveramihijaconfiadaaunamáquina,porinteligentequesea.No

tiene almaynadiesabeloqueescapazdepensar.Unachiquillanoestáhechapara

ser guardadaporuna"cosa"demetal.

(…) Mira, un robot esmuchísimo más digno de confianza que una nodriza

humana. Robbie fue construido en realidad con un solo propósito: ser el

compañerodeun chiquillo.Su"mentalidad"enterahasidocreadaconeste

propósito.Tiene forzosamentequequereryserfielaestacriatura.

(…)Además,dosvecesalañovieneuningenierodelaU.S.Robotsahaceruna

revisión completa delmecanismo. Haymenos probabilidades de que se

estropeealgoen Robbie,dequeunodenosotros sevuelva repentinamente loco;

considerablemente menos.Además,¿cómoselovasaquitaraGloria?….24

24IsaacAsimov,Yorobot,traducciónManuelBoschBarret,Edhasa.

Esta lectura nos hace pensar en los vínculos humano-robot. El tema radica en las

situaciones familiares que puedan suscitarse cuando el robot sea definitivamente

integradoalavidafamiliar;seaporquellegaparacumpliralgunafuncióndeasistencia

ocuidadoconunniño,ancianoodiscapacitado,oseaquellegacomoregalo,enforma

demascotadejugueteparalosniños.Lasgrandesempresasestándiseñandorobots

capacesdetenerconexiónemocionalconsusdueños25.

¿Cómolovamosaconsideraralahoraderesolversobrelosreclamosencuestionesde

lafamilia? Entantobienmaterial(cosa)¿esdeldueño?Sehabladeregistraciónde

losrobotsenunfuturo¿tendremosqueidearunsistemacomoeldelaatribucióndel

hogar conyugal? ¿se requerirá el consentimiento de todos los integrantes para

disponerdelrobot?¿cómoafectaríaaunniñolaprivacióndesurobot?¿tienenlos

integrantesde la familiaderechos sobreel robotoel robotdeberá tenerderechoa

permanecer en la familia? Hoy por hoy ya estaría sujeto a incorporarse en la

liquidación de los bienes, el tema es ¿qué clase de bien será un robot? ¿podría

incluirse en el reclamoalimentario los gastos para sumantenimiento? ¿serían parte

delrégimendecomunicación?¿integraelacervosucesorio?

Ya sabemos que hoy por hoy pueden emular emociones26 pero ¿qué pasaría si

fuéramosmásalládelaemulación?¿Quépasaríasiadquirieranautoconciencia?Una

vezque losconsideremosconcapacidadparapercibir,sentiryactuar,noesungran

salto considerar su estado legal ¿Deberían serle reconocidos derechos como se les

reconoce a los animales? ¿Reglamentaríamos el sufrimiento de los robots? En este

sentidoyaenelMITsehanhechoexperimentosacercadelsufrimientodeunrobot,y

sehace laanalogíaconciertosanimalesa loscualesse losprotege,explicaneneste

sentidoqueprotegemosunosanimalesynootrosporloquelarespuestanoestáenel

sufrimientodeellossinoenelquenoscausaanosotrosverlossufrir27

Por otro lado, tododispositivo de IA almacenadatos para hacer todo el procesode

aprendizaje¿quépasaconesosdatos?¿aquieneslespertenecen?ElPEhallamadola

atención con el tema de la protección de los datos y si bien excede el marco del

25Cf.ErikaNavajas,UnRobotQueCreaLazosEmocionalesConLasPersonas,ElFuturoDeSony,voltaico.lavozdegalicia.es/2016/06/robot-sony-crea-lazos-emocionales-personas)002/07/1626Cf.FranciscoBáezBaquet,LaderivaerróneadelaInteligenciaArtificial(I.A.)(pretextoparaunperiplointelectual)http://rebelion.org/docs/231620.pdf,sept.2017.27RichardFisher,¿Puedensufrirlosrobots?,https://www.lanacion.com.ar/1651142-pueden-sufrir-los-robots)01/01/14.

presente trabajo nos preguntamos acerca de los juguetes con IA o estos robots

mascotas: Si se recopilan esos datos, ¿tiene el niño derecho a recuperarlos? Si los

datosserecopilandesdelaprimerainfanciaynopertenecenalniño¿lovuelvenmás

vulnerableporquesusopcionesypatronesdecomportamientopodríanserconocidos

porcualquieraquecomprelosdatos,porejemplo,empresasocampañaspolíticas?¿se

infringeelArtículo16delaConvenciónsobrelosDerechosdelNiño?28

Se dice que una relación afectiva no debería modificar el estatus moral de un

individuo,porejemplo,comoocurreconlarelaciónentreunapersonaysumascota,

perosibienelhechodequelapersonatengaunestatusmoralcompletoyéstaamea

sumascota,nopuede implicarque lamascotagocedelmismoestatusmoralqueel

humano no significa que no se proteja la integridad física –e incluso moral- de los

animales29.Enestesentidosibiensedicequenoesaceptablenegarleestatusmoral

aunsujetosóloporqueestehayasidodiseñadoyfabricadoartificialmente,tampoco

esaceptableotorgárseloatodosistemadeIA,sinoponderarelcasoconcreto30.

Conclusiones

1.-Robot inteligente: necesidad de definirlos teniendo en cuenta la capacidad para

adquirirautonomía,paraaprenderdelaexperienciaydelainteracciónconelentorno

asícomodesucapacidaddeadaptaciónaeseentorno.

2.-Autonomíadelrobot:capacidaddelrobotdeaprenderdelaexperienciaytomar

decisiones y aplicarlas en el mundo exterior, con independencia de todo control

externo.

3.-Personalidad electrónica: consideramos prematuro atribuirles jurídicamente el

estatusdepersona.

4.-Categoría Jurídica: proponemos la creación de una categoría sui generis,

otorgándoseunestatusjurídicoespecíficoalosrobotsconIA,quelosdejefueradela

clasificacióndualdeobjeto/sujeto.

28WHATHAPPENSWHENYOURCHILDSINVISIBLEFRIENDISANAITOYTHATTALKSBACKyTHISISHOWWECANHOLDAIACCOUNTABLEhttps://www.weforum.org/agenda/archive/artificial-inteligence29Cf.DavidAlvaroPascual,InteligenciaArtifical:Panoramadealgunosdesusdesafíoséticosyjurídicos,UniverstatdeGirona,http://www.nickbostrom.com/ethics/artificial-intelligence.pdf30ibidem

5.-VínculoJurídico-Familiar:protecciónespecíficaalvínculoemocionalentrehumano

yrobot,especialmentedeniños,personasmayoresypersonascondiscapacidad,con

especial protección a los datos personales que el dispositivo almacene en esa

interacción.