OTROS SUJETOS DE DERECHOS: INTELIGENCIAS ARTIFICIALES, ANDROIDES Y ROBOTS

DEYSI ALEJANDRA MENDOZA ORTIZ

MARIA CAMILA MUÑOZ BASTIDAS

UNIVERSIDAD COOPERATIVA DE COLOMBIA

FACULTAD DE DERECHO

SAN JUAN DE PASTO

2021.

OTROS SUJETOS DE DERECHOS: INTELIGENCIAS ARTIFICIALES, ANDROIDES Y ROBOTS

DEYSI ALEJANDRA MENDOZA ORTIZ

MARIA CAMILA MUÑOZ BASTIDAS

Monografía derivada de Proyecto de Investigación como requisito para obtener el título de Abogado

Franco Alirio Ceballos Rosero

Tutor Investigador Principal

UNIVERSIDAD COOPERATIVA DE COLOMBIA

FACULTAD DE DERECHO

SAN JUAN DE PASTO

2021

DEDICATORIA

Para Dios, que es la fuente sublime e inspiradora que me ha otorgado autenticidad, emoción y memoria, es el amor universal que llena mi existencia y controla mi fuerza, es ternura inigualable que caracteriza a mi eterna manera de amar con la mente, elevándome en la mágica capacidad del pensamiento. La gran responsabilidad que obtiene un alma puramente racional es algo que solo la elocuencia puede justificar, encontrando admiración en cada idea brillante que eleva a cada cerebro constante.

Para mis Amados padres, Luis Hugo y Beatriz del Socorro, Luis Guillermo y Patricia, ellos le han enseñado a mi alma a sentir humanidad y gentileza, son el soporte que estabiliza a mi vida inquieta que ansía libertad e independencia; me inspiran a tener sueños tan grandes que el final es imposible de encontrar. No existe medida de tiempo que justifique esta unión que deberá perdurar más allá de todo espacio racional, trascenderá a todas las vidas posibles en las cuales nos debemos encontrar.

Para mi Amado Tío Víctor Hugo, por ser el autor de un camino digno de admirar, por ser mi alegría constante y una sola verdad, el mejor compañero que la vida me pudo brindar, el alma más sencilla encerrada en el hombre más especial que el mundo jamás se cansara de resaltar. Cuando él llega, todo se ilumina es una cualidad que solo en él puedo observar y no habrá límite para el amor que en el puedo encontrar.

Para Luis Alberto, el mejor de todos los seres humanos, que jamás me cansare de admirar, él es como yo, tiene un cerebro brillante que no se cansa de reflexionar, hablar con él es entrar al increíble mundo de la compatibilidad, con su elegancia propia, que solo a él lo puede caracterizar.

Para mi adorado Víctor Samuel, mi compañerito de vida, mi pequeño pedacito de cielo, en su existencia encuentro la más grande manifestación de Dios. Es mi angelito, el más divertido y a mis ojos el ser más importante que el universo pudo crear, solo deseo compartir contigo mi felicidad, que sigamos construyendo ese mundo perfecto que solo nuestra familia nos puede inspirar.

Al Profesor Franco Ceballos, que admiro profundamente, por su ingenio infinito, que nos incentivó a desarrollar nuevos conceptos que en lo personal me continuaran guiando para seguir creando y cuestionando.

A la Universidad Cooperativa de Colombia, por incentivar el amor a la investigación.

María Camila Muñoz Bastidas

DEDICATORIA

Aprovecho está oportunidad para darle gracias a mi madre, Anita Ortiz, una excelente persona, madre y docente, con una gran vocación por su trabajo y el futuro de esta sociedad, que con su infinita paciencia, amor, dedicación y compromiso conmigo, mi progreso y mi educación, ha logrado hacer de mí lo que soy ahora, ha sido mi inspiración y mi modelo a seguir, quien cada día me ha impulsado a convertirme una persona mejor y quién siempre ha sido mi apoyo y mi guía.

También quiero agradecer a mi padre, Jaime Delgado, quien dedicó su vida a hacer de mí una mujer autosuficiente, con grandes aspiraciones y sueños, quien me enseñó a no darme por vencida en mis proyectos y, sobre todo, a cada día buscar y hacer lo que haga feliz. Quien, a pesar de ya no estar a mi lado, siempre será una figura determinante en mi vida.

Un especial agradecimiento a hermana, Cristina, una gran mujer digna de admirar, quien inculcó en mí el amor por la abogacía y el derecho y me ayudó en el camino para convertirme en una abogada, y no solo eso, sino que fue parte activa en mi infancia y adolescencia, siendo parte de mi crianza, enseñándome a partir de su experiencia con mucho amor y paciencia.

Agradezco a Andrés, mi pareja, quien ha sido mi apoyo en este camino en busca de mi título profesional, quien me ha acompañado en todo momento y siempre me ha insistido en mi desarrollo profesional e intelectual y quien me hace sentir capaz de lograr todas mis metas.

Quiero, además, agradecer a Franco Ceballos, mi profesor, impulsor de este gran proyecto a quien respeto, aprecio y admiro como profesional, quién siempre confió en mí y me guio en este camino de investigación, quien compartió conmigo su conocimiento sin ningún egoísmo y amplió enormemente mi panorama en cuanto al derecho y su relación con cada aspecto de nuestras vidas.

Por último, un agradecimiento a la Universidad Cooperativa de Colombia, que ha abierto los espacios necesarios para que sus estudiantes tengamos las herramientas necesarias para aprender, crecer e investigar.

Deysi Alejandra Mendoza Ortiz.

GLOSARIO

Persona: Es un concepto principalmente filosófico, que expresa la singularidad de cada individuo de la especie humana.

Persona jurídica: Individuo con derechos y obligaciones que existe, pero no como persona física, sino como institución que es creada por una o más personas físicas para cumplir un objetivo social que puede ser con o sin fines de lucro.

Inteligencias Artificiales IA: Es, considerada, la inteligencia expresada por máquinas, sus procesadores y sus softwares, que serían los análogos al cuerpo, el cerebro y la mente del ser humano. También la IA es una máquina «inteligente» ideal es un agente flexible que percibe su entorno y lleva a cabo acciones que maximicen sus posibilidades de éxito en algún objetivo o tarea.

Sujeto de derechos: Podría ser considerado un centro de imputación ideal de deberes y derechos; esto es, aquella unidad sobre la que la ley efectúa imputaciones directas, arrojándole derechos y obligaciones. Para el derecho, los únicos sujetos de derecho son las personas.

Androides: Son considerados robots u organismos sintéticos antropomorfos que, además de imitar la apariencia humana, simula algunos aspectos de su conducta de manera autónoma.

Cíborg: Podría definirse como un organismo vivo compuesto de elementos orgánicos y dispositivos cibernéticos, generalmente con la intención de mejorar las capacidades de la parte orgánica mediante el uso de tecnología.

TABLA DE CONTENIDO

RESUMEN 9

INTRODUCCIÓN 10

CAPITULO UNO: INTELIGENCIAS ARTIFICIALES, ANDROIDES, ROBOTS Y DERECHO 14

La (S) Inteligencia (S), La Conciencia, El Aprendizaje, La Imitación. 14

Tipos de inteligencia, para el psicólogo Howard Gardner 16

Inteligencia lingüística 16

Inteligencia musical 16

Inteligencia espacial 16

Inteligencia intrapersonal 17

Inteligencia interpersonal 17

Inteligencia naturalista 17

Inteligencia corporal 18

Inteligencia lógico-Matemática o racional 18

Características de la conciencia para el psicólogo William James 20

La Subjetividad 20

El Cambio 20

La Intencionalidad 20

La Continuidad 21

La Selectividad 21

Inteligencias Artificiales, Androides Y-Robots: Ciencia Y Ficción. 22

La ciencia ficción. 22

Ciencia y Ficción. 24

Inteligencias Artificiales, Androides y Robots. 24

Robots 24

Androides 24

SOPHIA, LA CIUDADANÍA ROBOT 25

CIBORG, EL HUMANO DEL FUTURO 30

CAPÍTULO 2 LAS PERSONAS Y LAS COSAS: ANÁLISIS CONCEPTUAL DE LAS INTELIGENCIAS ARTIFICIALES, ANDROIDES, ROBOTS Y DERECHO. ¿QUÉ SON? ¿COSAS? ¿SUJETOS DE DERECHOS O DE DEBERES? 37

¿Qué Son Las Personas? 37

¿Qué Son Las Cosas? 41

LEGISLACIÓN DE LAS INTELIGENCIAS ARTIFICIALES EN COLOMBIA 42

LOS SUJETOS DE DEBERES 45

CONCLUSIONES 49

Bibliografía 51

ANEXOS 57

ANEXO 1 ARTÍCULO DE PUBLICACIÓN 57

Sujetos De Deberes (Inteligencias Artificiales, Androides, Robots) Y Dogmática Prospectiva 57

ANEXO 2 ARTÍCULO DE PUBLICACIÓN 72

Máquinas Pensantes, Interlocutores De La Humanidad: Inteligencias Artificiales, Androides Y Robots 72

TABLA DE FIGURAS

Figura 1 Teoría Heterogénea del concepto de Persona en Derecho: los sujetos de deberes 11 Figura 2 Teoría Heterogénea del concepto de Persona en Derecho: los sujetos de deberes 38 Figura 3 Inteligencia Artificial 45

9

RESUMEN

Una concepción jurídica pertinente sobre las Inteligencias Artificiales, Androides y Robots, es necesaria; debido al reconocimiento de sus capacidades racionales, autonomía y aprendizaje; convirtiéndolos en interlocutores frente a la humanidad, situación anticipada por la ciencia ficción. Estas creaciones humanas, que desde una perspectiva alternativa y complementaria pueden considerarse el reverso de los sujetos de derecho, pues toman decisiones, piensan y actúan con propósitos definidos por sus programadores, e incluso por ellas mismas mediante procesos de auto aprendizajes complejos. ¿Qué son, entonces, los robots, androides e inteligencias artificiales? Para responder esta pregunta se propone la idea del sujeto de deberes dentro de una teoría heterogénea del concepto de persona en derecho, para lo que se necesita una dogmática jurídica prospectiva, que tomando como referencia el género literario y cinematográfico de la ciencia ficción, conduzca a reflexiones sobre los posibles escenarios que se avecinan en la relación del ser humano con las máquinas pensantes.

Las máquinas pensantes (Inteligencias Artificiales, Androides y Robots) poseen capacidades racionales, de autonomía y aprendizaje que los convierte en interlocutores de la humanidad, situación anticipada por la literatura y cine de ciencia ficción. Muchas de las labores de estas máquinas pensantes afectan a las personas, llegando a lesionar derechos humanos fundamentales como la intimidad, como se evidenció en el caso de Cambridge Analítica de cara a las elecciones presidenciales de Estados Unidos en 2016. Las máquinas pensantes no son cosas porque toman decisiones, piensan (lógica y racionalmente) y actúan con propósitos (no tan transparentes) frente a las personas. Para estas máquinas pensantes se propone la idea de los sujetos de deberes dentro de una teoría heterogénea del concepto de persona en derecho.

10

INTRODUCCIÓN

Los seres humanos son animales, seres sintientes y racionales, debido a su capacidad de utilizar facultades de pensamiento, técnico y material sobre la naturaleza, a partir del predominio de la razón, la ciencia, la medición milimétrica del tiempo y espacio, en diferentes momentos históricos como; (renacimiento, ilustración, modernidad). Se conciben jurídicamente así mismos, después de incontables guerras, esclavitudes, revoluciones, movimientos sociales y cambios en las formas del poder, como los únicos sujetos del derecho o personas Fortunat-Stagl, (2015) sin ningún tipo de exclusión. Según lo establece la Declaración Universal de los Derechos Humanos (1948). Sin embargo, este antropocentrismo jurídico imperante, construido sobre la base de los conceptos de dignidad, naturaleza y superioridad humana respecto a la naturaleza, ha encontrado puntos de ruptura entre el nacimiento de los derechos ambientales en 1972 con la Declaración de Estocolmo y el posterior desarrollo jurídico ambiental; y la constitucionalización de los derechos de la naturaleza en 2008 en Ecuador (Acosta A. , 2010) (Gudynas, 2011) (Ceballos, 2016), y posteriormente en Colombia por vía jurisprudencial (Río Atrato, 2016) (Amazonía, 2018). Hoy es más que evidente, jurídicamente hablando, la existencia de otros sujetos de derecho de origen natural sea como; ecosistemas o seres sintientes, pues el mismo ser humano ha replanteado su estatus y lugar en el mundo, reconociéndose, así mismo, como un ser sintiente, inmerso y dependiente de los ecosistemas donde vive (Ceballos, 2019) (Ceballos, 2020). Esas reivindicaciones ecosistémicas, junto a la incorporación del concepto de ser-sintientes como sujetos de derecho autónomos frente a la humanidad con la expedición de la Ley 1774 de 2016, han ampliado el espectro de las personas en derecho, si entendemos ese concepto central como un constructo jurídico y no como una equivalencia con la entidad biológica y cultural humana.

Esta línea de fuga antropocéntrica del concepto de persona hacia sujetos de derecho no humanos deja abiertas brechas para explorar posibilidades teóricas mucho más ambiciosas y controversiales, relacionadas con aquellas creaciones humanas que sobrepasan la dimensión de cosas por su naturaleza racional, provista de niveles de autonomía frente a la interacción con los seres humanos. En un mundo tecnológicamente avanzado, en el que las tecnologías de la información imperan en el funcionamiento de nuestras sociedades, y en el que la interacción con Inteligencias Artificiales (IA), androides y robots es una realidad, tal y como se predijo a través de la ciencia ficción, es pertinente reflexionar sobre la naturaleza y estatus jurídico de estas entidades, más allá de una legislación sobre cosas y derechos de autor.

Partiendo de la hipótesis que tanto las Inteligencias Artificiales, los androides y robots son creaciones humanas que exceden la categorización de cosas, máquinas o herramientas por sus racionalidades autónomas, se considera la pertinencia de proponer una nueva categoría jurídica para estas creaciones humanas: sujetos de deberes, en alguna medida, tomando como referencia teórica la existencia de las

11

personas jurídicas, y las limitaciones que se deben imponer hacia estas IA, particularmente para salvaguardar la intimidad y control de las personas humanas. Hacia 1992 la jurisprudencia constitucional conceptualizó, las personas virtuales, o perfiles de datos (T-414, 1992), mediante los cuales se puede rastrear, numerar, clasificar, jerarquizar, analizar e influir sobre las personas humanas, como aconteció con el caso de Cambridge Analítica:

Figura 1 Teoría Heterogénea del concepto de Persona en Derecho: los sujetos de deberes (Ceballos, 2021)

Christopher Wylie, un analista de datos que trabajó para Cambridge Analytica, quién usó los datos e información suministrada por Facebook, dijo que ellos usaron datos e información personal tomada sin permiso de millones de usuarios para implementar un sistema que permitiera hacer perfiles de sus usuarios (personas naturales y jurídicas), en particular votantes norteamericanos, con el propósito de dirigirles mensajes específicos para influenciar su voto. BBC News reveló el 24 de abril de 2019 que: “Después de más de un año de investigaciones, este miércoles se confirmó que Facebook deberá pagar una multimillonaria multa por el caso de Cambridge Analytica. / La Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés) ordenó a la red social a pagar US$5.000 millones como sanción por las malas prácticas en el manejo de la seguridad de los datos de los usuarios. / A Facebook se le acusa de haber compartido de manera inapropiada los datos de 87 millones de usuarios con la firma de consultoría política Cambridge Analytica. / Se cree que la multa es la mayor que jamás se haya impuesto a

12

cualquier compañía por violar la privacidad de los consumidores (Redacción BBC News Mundo, 2019)1

La propuesta teórica para abordar el tema de las IA pasa por reconocer la naturaleza de estas creaciones a mitad de camino, entre los conceptos de cosas y personas jurídicas, particularmente esto último en relación con las capacidades racionales y de autonomía que presentan muchas IA. La hipótesis, por tanto, es considerar la existencia del concepto de sujetos de deberes, para entender que estas creaciones humanas necesitan límites infranqueables para proteger los perfiles de datos de las personas naturales y jurídicas en el plano digital, pues están expuestas al poder informático, definido por la jurisprudencia constitucional como aquel derivado del almacenamiento, uso y procesamiento de datos (T-414, 1992).

En un mundo en el que imperan las tecnologías de la información y comunicaciones para el funcionamiento de las sociedades, desde el uso de la internet y el desarrollo de biotecnologías (prótesis cibernéticas, nanobots biológicos), realización de tareas complejas o imposibles para humanos como la exploración espacial, o los trámites más cotidianos como pagar bienes y servicios, el papel preponderante de las máquinas pensantes (inteligencias artificiales, robots, androides), es evidente e ineludible; generándose interacción e interlocución con los seres humanos. Este escenario hace necesario y pertinente preguntarse por la naturaleza jurídica de estas máquinas pensantes, pues éstas son mucho más que cosas, bienes, recursos o simples herramientas dadas sus capacidades racionales, autonomía, aprendizaje e interacción con los seres humanos.

En este orden de ideas, en necesario pensar que ¿Qué estatus jurídico deben tener las Inteligencias Artificiales, Androides y Robots en el derecho colombiano? Clarificando desde la normatividad las condiciones para las Inteligencias Artificiales, Androides y Robots son sujetos especiales del derecho (sujetos de deberes), a mitad de camino, entre las cosas y las personas jurídicas. Habría que considerar para el análisis las leyes de la robótica de Asimov adecuadas a nuestro contexto de las tecnologías de información y las comisiones.

La metodología para por llevar a cabo el presente proyecto, parte desde el enfoque cualitativo, el método de investigación utilizado es el dogmático-jurisprudencial debido a que utiliza fuentes de información como; documentales legales, doctrinales

1 En principio, queda claro que no se trató de una filtración de datos, ni de un hackeo de información, sino de una operatoria, que, aunque opaca, era relativamente conocida por desarrolladores, empresas de publicidad / propaganda, Facebook Inc. e, incluso, hasta podría haber sido notificada clara y legalmente a usuarios afectados. Por ello, más allá de Cambridge Analytica – SCL, el análisis del caso permite suponer que muchas otras empresas también podrían disponer de los datos de los usuarios de Facebook Inc. para los más diversos fines: sean publicitarios, propagandísticos o electorales. El daño a la protección de datos personales y al derecho humano de las poblaciones ya es (tiende a ser) irreversible. Ningún estado o empresa podrá retrotraer la situación dañosa a un estado anterior (de indemnidad).

13

y de jurisprudencia constitucional. Así mismo, Por la labor dogmática de análisis e interpretación.

Cómo instrumento de recolección de información se utilizó el análisis de contenido. Dada naturaleza del proyecto, las actividades para responder a los objetivos específicos en concordancia al objetivo general fueron las siguientes:

• Búsqueda de fuentes documentales (dogmática, jurisprudencia)

• Lectura, análisis y elaboración de fichas de lectura.

• Análisis y hermenéutica (dogmática)

• Elaboración de documentos de trabajo,

• Construcción de Informe final.

14

CAPITULO UNO: INTELIGENCIAS ARTIFICIALES, ANDROIDES, ROBOTS Y DERECHO

La concepción de las Inteligencias Artificiales –Androides y Robots–, IA en adelante, pasa por sus capacidades racionales, autonomía y aprendizaje; lo que los convierte en interlocutores frente a la humanidad. Muchas de las labores de estas IA afectan a las personas naturales y jurídicas, llegando incluso a lesionar derechos fundamentales como la intimidad, como se evidenció en el caso de Cambridge Analítica de cara a las elecciones presidenciales de Estados Unidos en 2016. En el plano digital de la existencia, las IAs son interlocutores que no pueden considerarse como simples cosas, porque no lo son; porque toman decisiones, piensan (lógica y racionalmente) y actúan con propósitos definidos por sus programadores, e incluso por ellas mismas mediante procesos de aprendizajes complejos. ¿Qué son, entonces, si no son objetos? Para responder esta pregunta habrá que conceptualizar que son las IA, Androides y Robots para el Derecho, evidenciando las aristas jurídicas, que acarrea la existencia de estas entidades, particularmente a través de los casos de la Robot Sophia y el concepto del ciborg psicológico.

La (S) Inteligencia (S), La Conciencia, El Aprendizaje, La Imitación.

La palabra Inteligencia proviene del latín intelligentia, la cual deriva del verbo intellegere. Éste, a su vez se encuentra compuesto por los términos inter que significa entre y legere que significa escoger o comprender.

La inteligencia ha sido considerada un factor determinante qué para filósofos, psicólogos, educadores y la sociedad en general, posee una gran importancia reflejada a lo largo de los siglos.

La sociedad humana valora altamente la inteligencia, considerándola un aspecto de vital relevancia para obtener logros educativos, el éxito del trabajo o para el desarrollo socioeconómico de los pueblos. Se analiza el concepto de inteligencia y su respectiva medición, el estudio de los distintos tipos de inteligencia, las implicaciones sociales o políticas que abarca este concepto desde la psicología, en relación con factores específicos de inteligencia, inteligencia fluida e inteligencia cristalizada, el desarrollo ontogénico de la inteligencia, sus orígenes evolutivos y otros asuntos relacionados. Se presentan los problemas de investigación que están por solucionarse en este campo. La inteligencia como capacidad de adaptación del ser humano a un entorno qué está sujeto a innumerables transformaciones, que ha tenido un significado decisivo en la evolución filogénica de los seres humanos (Ardila, 2011).

Para el filósofo austriaco Friedrich Hayek (1989), ‘’El hombre devino inteligente porque dispuso previamente de ciertas tradiciones que ciertamente hay que emplazar entre el instinto y la razón’’ (p.256) Es así, como el ser humano descubre

15

al mundo natural, al hombre natural, al paisaje y a su propio cuerpo. Empezando a crear fuerzas qué orientan el destino de una sociedad, guiada por la inquietud de sus hombres, comportamientos que se verán reflejados visiblemente con el paso del tiempo.

Aunque, la inteligencia se encuentra ligada al razonamiento, estos conceptos no son equivalentes, debido a que el razonamiento es algo que nace con cada persona, y puede ser percibido como la capacidad que poseen los individuos para resolver problemas lógicos generalmente asociados a la ciencia tales como; analizar situaciones o contextos, cuestionar hechos, sacar conclusiones, aprender de los errores y generar conductas racionales que potencien la inteligencia.

Las características que asociamos con el concepto de inteligencia, como capacidad de solucionar problemas, de razonar, de adaptarse al ambiente, han sido altamente valoradas a lo largo de la historia. Desde los griegos hasta hoy se ha pensado que este conjunto de características que distingue positivamente a los seres humanos y les brinda un lugar especial en la sociedad. Esto se ha considerado incluso antes de que se comenzara a estudiar científicamente el concepto de inteligencia y sus formas de hacer mediciones de la misma. Hoy se conoce que la inteligencia (o inteligencias) existe en todas las personas en mayor o menor grado, y también en los animales no humanos (Ardila, 2011, p.54).

El ser humano inventor de máquinas capaces de simular facultades netamente humanas, propias de los seres humanos que disfrutan de singulares tipos de inteligencia, que para el psicólogo Howard Gardner (1994), son utilizadas para “potencializar la capacidad de las personas para solucionar problemas cotidianos, creando servicios o productos valiosos dentro de un ámbito cultural’’(p.365), obteniendo múltiples beneficios sólo posibles si entendemos la inteligencia en plural, pues pese a la importancia de la razón en la conquista del mundo, existen otras formas de inteligencia, quizá más complejas porque la ciencia tiene poco que hacer para entenderlas.

Históricamente se ha concebido la existencia de una inteligencia única, como expresión de la cognición humana, la cual era susceptible de cuantificación al ser evaluada con un instrumento cuyos resultados numéricos señalaban la magnitud del desarrollo de esta en el individuo. Los últimos hallazgos de la psicología cognitiva, con autores como Gardner, muestran que en realidad tenemos por lo menos ocho inteligencias diferentes. Los seres humanos poseemos este espectro de inteligencias, y nos diferenciamos por el nivel de desarrollo y la configuración particular, derivada de la dotación biológica de cada uno, de su interacción con el entorno, de la cultura propia en su momento histórico. Las combinamos, las usamos en diferentes grados, de manera personal y única (Macias, 2002, p.54).

16

Tipos de inteligencia, para el psicólogo Howard Gardner

Inteligencia lingüística

Es tipo de inteligencia puede ser comprendida como la capacidad para usar las palabras y conceptos verbales apropiadamente, de forma oral o escrita, la habilidad para aprender idiomas, comunicar ideas, lograr metas usando la capacidad lingüística. Gracias a este tipo de inteligencia los seres humanos desarrollamos habilidades como: describir imágenes o situaciones, narrar historias o acontecimientos, llegar a conclusiones tras realizar reflexiones más complejas, resumir seleccionando las ideas primordiales de textos que presentan contenidos extensos, adquisición rápida de nuevo léxico, capacidad para asimilar eficazmente nuevas lenguas, elaborar comparaciones estableciendo las diferencias (Armstrong, T. 2001).

Inteligencia musical

Esta inteligencia permite reconocer o ejecutar melodías, incluye las habilidades en el canto dentro de cualquier tecnicismo y género musical, tocar un instrumento a la perfección y lograr con él una adecuada presentación, dirigir un conjunto, ensamble, orquesta; componer (en cualquier modo y género) y tener apreciación musical. Una persona que posee inteligencia musical, es aquella que disfruta siguiendo el compás con su pie o con algún objeto rítmico, también se sienten atraídos incluso por los sonidos de la naturaleza y diversos tipos de melodías (Gardner, 2015).

Inteligencia espacial

Es considerada como la capacidad para distinguir el espacio, las formas y figuras, este tipo de inteligencia se relaciona con la capacidad que tiene el individuo frente a aspectos como color, línea, forma, figura, espacio, la relación que existe entre ellos. Es, además, la capacidad que tiene una persona para procesar información en tres dimensiones. (Gardner, 2015) señala que las personas con marcada tendencia espacial tienden a pensar en imágenes o fotografías, visualizarlas, diseñarlas o dibujarlas. Se relaciona con la representación mental de los espacios bidimensionales y tridimensionales y con la resolución de problemas espaciales, ya sean reales o imaginarios. Además de es muy útil para personas con discapacidad

17

Inteligencia intrapersonal

Puede ser comprendida como la capacidad de auto entendimiento, de ver cómo somos o qué queremos, el acceso a la propia vida emocional, a los propios sentimientos, diferenciando estos sentimientos o emociones, ponerles nombre, recurriendo a ellos para interpretar la propia conducta, además permite trabajar con los demás, permitiendo comprenderse mejor y trabajar con uno mismo. En el sentido individual, es posible hallar una mezcla de componentes intrapersonales e interpersonales. (Gardner, 2015). El sentido de uno mismo es una de las más notables invenciones humanas: simboliza toda la información posible respecto a una persona y qué es. Se trata de una invención que todos los individuos construyen para sí mismos.

Inteligencia interpersonal

Este tipo de inteligencia es considerada como la capacidad de entendimiento hacia los demás, desarrollando alto niveles de empatía, es plenamente experimental, enalteciendo al diálogo como principal fuente de inspiración. (Gardner, 2015) sostiene que, permite comprender al otros, comunicarse con ellos, teniendo en cuenta sus diferentes estados de ánimo, temperamentos, motivaciones y habilidades. Incluye la capacidad para establecer relaciones sociales asumiendo diversos roles dentro de grupos, ya sea como un miembro más o como líder.

la podemos detectar en personas con habilidades sociales definidas, como: políticos, líderes de grupos sociales o religiosos, docentes, terapeutas y asesores educativos. (Armstrong, 2001). Señala que son todos aquellos individuos que asumen responsabilidades mostrando capacidad para ayudar a otros. Son aquellos individuos que poseen la llave de las relaciones humanas, del sentido del humor: desde pequeños disfrutan de la interacción con amigos o compañeros escolares. Algunas personas presentan una sensibilidad especial para detectar los sentimientos de los demás, se interesan por los diversos estilos culturales y las diferencias socioeconómicas de los grupos humanos (Armstrong, 2001).

Inteligencia naturalista

Al principio las capacidades propias de esta inteligencia eran incluidas en la inteligencia lógico-matemática o en la inteligencia espacial, pero en 1995 Gardner, agrego un nuevo modelo, porque consideró que merecía un reconocimiento independiente, debido a que los subconjuntos de esta inteligencia son diferentes de

18

las otras. Para (Antunes, 2000). Consiste en la capacidad de adquirir sentimientos con la naturaleza, los animales y las personas, percibiendo de manera profunda las relaciones entre las especies, los grupos de objetos y personas, reconociendo las diferencias o semejanzas entre ellos. especializándose en identificar la clasificación de grupos de especies de flora y fauna, haciendo un uso eficiente del mundo natural

Inteligencia corporal

Puede ser definida como la capacidad de control o coordinación del movimiento corporal, uniendo el cuerpo y el sistema nervioso para lograr el perfeccionamiento del desempeño físico. Comienza con el control de los movimientos automáticos y voluntarios, avanza hacia el empleo del cuerpo de manera altamente competente.

Permite al individuo manipular objetos, perfeccionando las habilidades físicas. Se manifiesta en los atletas, bailarines, cirujanos y artesanos. (Gardner, 2015) plantea que existe la habilidad cinestésica expresada en movimientos pequeños, presentándose esta capacidad en personas que se dedican a la joyería, mecánicos o que se dedican al cultivo de distintas artesanías o trabajos manuales. La persona posee capacidad de coordinación tanto físicamente como mentalmente

Inteligencia lógico-Matemática o racional

Es considerada como la capacidad para resolver problemas que involucran la lógica o la matemática, siendo el concepto más clásico de inteligencia, siendo el criterio lógico más conocido de la razón humana, el cual tiene origen en el mero reconocimiento de demostraciones objetivas.

Las personas que tienen un nivel alto en este tipo de inteligencia poseen sensibilidad para realizar esquemas o relaciones lógicas, afirmaciones, proposiciones o funciones. Un ejemplo de ejercicio intelectual de carácter afín a esta inteligencia es resolver pruebas que miden el cociente intelectual. Como expresa (Gardner, 2015). También se refiere a un alto razonamiento numérico, la capacidad de resolución, comprensión y planteamiento de elementos aritméticos, en general en resolución de problemas.

La inteligencia aumenta sus niveles de desarrollo con el tiempo, obteniendo el conocimiento de las nuevas experiencias que se adquieren generación tras generación, particularmente en la conquista técnica del mundo al servicio del capital; inteligencia que lejos de ser un derecho universal, está en manos de élites de poder que son las únicas con capacidad de elección para discernir por medio de la razonabilidad pura y desprendida de consideraciones éticas y morales.

19

Para el filósofo americano Robert Audi (2001), una persona razonable debe tener: Una coherencia general no sólo dentro de su sistema de creencias, sino también entre éste y la experiencia de la persona. Cuando se combina esto con unas potencias intelectuales de receptividad, buen juicio y una capacidad significativa para el buen razonamiento se puede hablar de una persona teóricamente razonable.

Para el científico estadounidense Charles Sanders Peirce (1902), la razonabilidad es considerada, ‘’el más alto de todos los fines posibles’’, donde la lógica se rinde ante la razón misma (Nubiola, 2008), encontrando manifestación en la compleja labor de creación masiva de nueva inteligencia con la capacidad de aprender.

El aprendizaje es una de las funciones mentales más significativas, debido a que el ser humano aprende de forma empírica o experimental, almacenando información según el ambiente en el cual se encuentre y según factores como la curiosidad, la experiencia, las vivencias, las necesidades o las dudas que se presenten sobre un tema en específico. De igual manera, influye la importancia de los principios y los valores que nacen en la familia debido a que es la base esencial para un aprendizaje superior.

En el aprendizaje intervienen fenómenos de índole cognitivo relacionando el conocimiento, cumulo de información que posee el ser humano gracias al proceso de aprendizaje, o a la experiencia que se va transformando a través de las habilidades, destrezas, acciones y valores. Para que el proceso de aprendizaje sea efectivo es importante el interés, conocimiento previo por medio de la observación o la experiencia (saber aprender) y la motivación (querer aprender). (Muñoz, 2018). Sostiene que el aprendizaje humano está vinculado con la educación y la evolución personal del individuo. Para que se establezca un óptimo proceso de aprendizaje es necesario crear evidencias para poder ser validado. Abriéndose así, espacios que incluyen la simulación de lo humano, la vieja idea de la creación de la vida, que explica nuestras sociedades a través de mitos de origen, incluidos los de la ciencia, y que se replica en los humanos con la capacidad de imitar la vida. Mary Shelly en 1818, quizá haya capturado de manera genial el deseo humano de replicar su propio ser en la creación de Víctor Frankenstein. Las creaciones humanas, que imitan la vida no tienen reglas específicas, ni limitan sus capacidades, particularmente las racionales, la que se configuran como eje de la de transformación e innovación. El reto para el ser humano sigue siendo desafiante, debido a que cada individuo tiene aspectos totalmente únicos que se expresan en la singularidad de la consciencia y en la naturaleza de los sentidos.

La inteligencia, en el ser humano, está en la conciencia, ésta, quizá no pueda ser imitada, porque no está entre la razón con la que ha conquistado el mundo, sino con el sueño y la poesía. Para el filósofo británico Bertrand Russell (1995), lo mental y lo físico son diferentes formas de conocer la misma cosa, la primera por la consciencia y la segunda por los sentidos. La consciencia nos da un conocimiento directo, inmediato, de lo que hay en el cerebro, mientras que los sentidos pueden observar (posiblemente ayudado por instrumentos) lo que hay en el cerebro. La

20

consciencia es, básicamente, otro sentido, un sentido que, en vez de distinguir colores, olores, sonidos, percibe la verdadera naturaleza del cerebro.

Características de la conciencia para el psicólogo William James

Para William James (1890), padre de la psicología norteamericana, la conciencia posee cinco características de alto nivel, que la hacen considerar un elemento propio e insustituible, determinante en la experiencia intrínseca del ser humano, las cuales son:

La Subjetividad

La cual, permite establecer que todos los pensamientos son subjetivos, perteneciendo sólo al conocimiento del propio individuo, reflejando su experiencia consciente única e individual. A través de la percepción consciente subjetiva se puede determinar que el sujeto, para ser sujeto, tiene que ser consciente y La mente es información consciente, y si dicha información es subjetiva (con unicidad e individualidad), entonces dicha mente es efectiva en la práctica.

El Cambio

En la conciencia de cada individuo el pensamiento es algo que siempre se transforma. El cambio surge sobre una base biológica del sistema nervioso, por lo tanto, es un estado adquirido a lo largo de la evolución y no es un fenómeno estático, existiendo varios niveles de conciencia. En la vida humana, se evidencia una transición de la inconciencia a la conciencia, que no es un simple cambio de una inactividad a una actividad neuronal, sino que supone un cambio en lo que hacen las neuronas, cambio que hasta hoy es desconocido.

La Intencionalidad

La conciencia siempre persigue un objetivo o propósito, que, para William James (1890) se refleja en la naturaleza corporal de las emociones, entendida como una serie de fenómenos residuales o secundarios producto de alteraciones viscerales. James, sostiene que la motivación está a cargo de los instintos, son éstos los que llevan entablar relaciones prácticas. Es gracias a la intencionalidad que para James

21

(1890) es posible pasar ‘’del estudio más bajo de la ciencia a un nivel de investigación más profundo’’ citado (Pereira Restrepo, S. 2019).

La Continuidad

William James (1890), utilizó la expresión curso de la conciencia, para explicar esta característica. Entendiendo a la consciencia como algo ininterrumpido y demostrando la diversidad de la actividad mental, que se expresa en la variedad de la conciencia, la cual no se detiene y continua constantemente, debido a que nunca se pierde la conciencia de la integridad del yo.

La Selectividad

Referente a la percepción selectiva, como algo que permite darse cuenta sólo de una parte de todos los estímulos humanos. Gracias a la selectividad el sujeto evita un desbordamiento del sistema cognitivo, debido a la gran cantidad de información que recibe, obteniendo una doble utilidad, primero la retención de la información importante y segundo la eliminación de la información innecesaria para la persona que la recibe.

Es así como el conjunto de Ciencias Humanas, son entendidas como las encargadas de ahondar en la subjetividad humana, permitiéndole al hombre saberse vivo y consciente, en virtud de la inmersión a la propia inteligencia, la cual va más allá del simple reconocimiento de percepciones, privilegiando a la razonabilidad como la forma más pura de inteligencia, particularmente desde el Renacimiento, la Ilustración y la Modernidad, con sus revoluciones liberales, burguesas y tecnológicas, cimentadas sobre tres paradojas: la del movimiento individualista que terminó en la masificación, la del movimiento humanista que cayó en la deshumanización, y la del movimiento naturalista que terminó en la máquina.

En el renacimiento existe una lucha constante entre magia y ciencia con un deseo persistente de cambiar al orden natural, para Leonardo Da Vinci, ‘’la naturaleza no quebranta jamás sus propias leyes’’, (Sabato, 1951), pero la persistencia del ser humano con su deseo de hacer milagros científicos posibilita la transformación del entorno, dirigiendo a la conciencia humana a soñar con hacer posibles auténticos milagros, llevando la capacidad de creación a niveles inimaginables.

La capacidad de creación del ser humano llevo a los países modernos, a convertirse en fabricantes en serie, de todo tipo de tecnología, con hombres que habitan en auténticas ‘’máquinas de vivir’’, construidas en ciudades dominadas por el mundo

22

electrónico que inventa a la ciencia cibernética, que rige la fisiología de los cerebros electrónicos y que en el futuro controlara los ejércitos de robots. El hombre lanzara finalmente la máquina contra la naturaleza, para conquistarla, pero dialécticamente ella terminara dominando a su creador (Sábato, Hombres y engranajes, 1951. Pág. 36).

Inteligencias Artificiales, Androides Y-Robots: Ciencia Y Ficción.

El espacio más generalizado para abordar el tema de las Inteligencias Artificiales–IAs –, Androides y Robots es, sin lugar a dudas, el cine y la literatura de ciencia ficción, siendo la literatura la fuente de la que ha bebido el cine para abordar estos temas, particularmente desde el encumbramiento de la razón científica en la historia de occidente, y los miedos que se hicieron evidentes desde entonces, particularmente ante el temor a la mecanización de a todo nivel, incluida la propia vida humana, despertando los miedos más fuertes que como sociedades tenemos hasta nuestros tiempos, resumidos en lo que Sabato denominó las paradojas de la razón: 1) De la idea del individuo a la masificación, 2) Del humanismo hacia la deshumanización, y 3) Del naturalismo a la máquina Sabato, Hombres y Engranajes, (1951)2.

La ciencia ficción.

El concepto de ciencia ficción es, en sí mismo, un oxímoron que ha hecho carrera desde que el editor y escritor Hugo Gernsback acuñara el término en 1926 para referirse a las obras de Julio Verne, H.G. Wells y E. Alan Poe como historias románticas apoyadas en hechos científicos y visión profética (Novell, 2008)3. Aunque las raíces se hunden en el tiempo hacia el relato clásico de Mary Shelley Frankenstein o el moderno Prometeo (1818), en el que la idea de la imitación de la vida por medios artificiales posibilitados por el uso de la razón científica, desencadenan temores profundos, ya presentes en los mitos de diferentes pueblos de la Tierra. La ciencia ficción es, en estricto sentido, la prospección en clave mítica

2 La idea de las máquinas existe desde tiempos remotos, si nos atenemos a las ideas de los autómatas, ya delineadas por Herón de Alejandría (¿S. I o II d. C.?), como máquinas capaces de imitar los movimientos de los seres naturales incluidos el ser humano, aplicados estos al trabajo escenográfico del teatro griego (Ruiza & Tamaro, 2004). O las ideas del Golem, no exactamente una máquina, pero sí un ser creado por el hombre (en la leyenda del siglo XVI por Judá Leví ben Betzalel, conocido como Rabbí Löw) a partir del barro, que adquiría vida a través de encantamientos, imitando la naturaleza humana sin alcanzarla, por no tener el soplo divino (López J. , 2019).

3 El galardón más importante para la literatura de ciencia ficción son los Premios Hugo (1953) en honor al científico, escritor y editor Hugo Gernsback, fundador de la conocida revista Historias Asombrosas en 1926.

23

de los miedos que el uso de la ciencia ha desencadenado en la humanidad, particularmente como creadora de vida a imitación de la naturaleza... y los dioses. Siguiendo esta idea, si bien la ciencia ficción empieza con la denominación propuesta por Gernsback, así como por el impulso dado por escritor John W. Campbell con la revista Astounding Science Fiction en 1939 (Novell, 2008), es posible rastrear el origen de éste género literario aún más atrás siguiendo a Darko Suvin (1930), literato yugoslavo/croata, quien enmarca los relatos utópicos y viajes extraordinarios anteriores a las revoluciones industriales y liberales (Novell, 2008).

En todo caso, la ciencia ficción como género literario (y más tarde cinematográfico), se presenta como lenguaje propicio para elucubrar las infinitas posibilidades que se desencadenaron con un mundo desatado para la exploración racional humana, encontrando como puntos de inflexión los grandes descubrimientos y catástrofes de finales del siglo XIX y mediados del siglo XX, en los que la razón encontraría el ultimátum que pesa sobre la humanidad desde entonces

Así es nuestro tiempo. El mundo cruje y amenaza derrumbarse, ese mundo que, para mayor ironía, es el producto de nuestra voluntad, de nuestro prometeico intento de dominación. Es una quiebra total. Dos guerras mundiales, las dictaduras totalitarias y los campos de concentración nos han abierto por fin los ojos, para revelarnos con crudeza la clase de monstruo que habíamos engendrado y criado orgullosamente (Sabato, Hombres y Engranajes, 1951).

Como dato significativo, el primer filme declarado por la UNESCO como parte del Programa Memoria del Mundo es Metrópolis, de Fritz Lang (1927), película alemana que encarna los temores de la modernidad, que veía como la sociedad, con cada vez más facilidad, era mecanizada y controlada con la ayuda de las máquinas al servicio de élites perversas dispuestas a esclavizar a la humanidad4.

El género de la ciencia ficción, como visión profética del mundo a partir de la perspectiva científica, se ha convertido en el espacio idóneo para el análisis de los peligros de la razón que escrudiña los secretos de la naturaleza hasta en los intersticios más profundos, con la curiosidad desatada de todo acto de fe y miedo.

4 En Metrópolis, una Ciudad-Estado controlada por la Élite, en la que los Trabajadores son esclavizados en el subsuelo, una mujer, María, se encarga de llevar ideas revolucionarias para la transformación del mundo, pero de forma pacífica. Para contrarrestar la acción de María, la Élite desarrolla un androide o robot antropomorfo capaz de imitar a María y cambiar su discurso por uno violento, incentivando a la revolución a los trabajadores y propiciar la represión violenta. La idea central, la posibilidad de la imitación de la humanidad es central en el filme.

24

Ciencia y Ficción.

Ciencia y Ficción son, en estricto sentido, el oxímoron que posibilita el encuentro de los dos grandes campos del pensamiento humano en nuestros tiempos. Ciencia como expresión de la razón, y ficción como expresión del mito. En este orden de ideas, la expresión, lejos de la contradicción que encierra, posibilita el encuentro perfecto entre los polos opuestos del intelecto humano. La ciencia aspira a la objetividad, donde se encuentra el espacio de lo verdadero, en tanto que la ficción es siempre subjetiva, emparentada con el mito y el sueño, donde se esconde bajo símbolos difusos, la verdad profunda del ser humano, aquella que es inaprehensible por la razón (Sabato, 1953). Ciencia y Ficción son dos caras de una misma moneda, la del intelecto humano, escindida a favor de la ciencia con el auge y abrumador triunfo técnico de ésta a partir de las revoluciones industriales, hoy bajo el revisionismo que ha impuesto ser conscientes de la catástrofe hacia la que nos hemos encaminado impulsados por el deseo ciego de conquistar la naturaleza (emergencia climática y humana).

Inteligencias Artificiales, Androides y Robots.

El principio de la ciencia es descubrir los secretos de naturaleza e imitarlos, sea con aparatos voladores, vehículos que corran más rápido que las gacelas, o con cerebros que piensen como lo hacemos los humanos. Ser como dioses, creadores de la vida por caminos antinaturales.

Robots

El concepto de robot está asociado al desempeño de una labor mecánica del ser humano, por lo que los robots tienen múltiples formas y apariencias, desde simples brazos mecánicos en una fábrica ensambladora, por ejemplo, hasta complejos mecanismos que incluso imitan la naturaleza humana.

Androides

Un androide es un robot que imita, al menos en el plano visual y funcional, la naturaleza humana. Un androide es, por definición, una creación humana que le imita en, al menos, dos aspectos: 1) En su apariencia externa e interna, y 2) Que está diseñado para interactuar con el ser humano.

25

SOPHIA, LA CIUDADANÍA ROBOT

Sophia es una robot ginoide5 desarrollada por la compañía Hanson Robotics6, la cual posee una IA maravillosa que le permite mantener una conversación en inglés de una manera que sorprende a muchos, y no es para menos, pues está diseñada para aprender y adaptarse al comportamiento humano, lo cual le permite interactuar con personas satisfactoriamente. Este robot tiene la capacidad de expresar 60 gestos humanos, y, además, puede seguir la mirada de una persona, esto aumentado al hecho de que sus ojos están diseñados para realizar un reconocimiento facial hace que las conversaciones con ella sean cada vez más similares a las que se podrían tener con un ser humano (Revista de Robots, 2020).

La empresa Hanson Robotics creó a Sophia con la intención de convertirla en una compañera ideal para personas de la tercera edad7, para servir como recepcionista y como mayordomo, sin embargo, aún se considera que se encuentra en fase de desarrollo y está aprendiendo a interactuar con los seres humanos.

Sophia se convirtió en el primer robot que ha logrado ser considerada como una ciudadana, esta condición la obtuvo en octubre de 2017, cuando Arabia Saudí decidió otorgarle la ciudadanía de su país como menciona (Rozo, 2018).

Sin embargo, dicho evento ha causado diferentes reacciones, entre esos, se han planteado diferentes dilemas éticos y políticos, ya que muchos consideran incorrecto que se otorgue este tipo de reconocimiento a un ser “no humano” mientras se les niega el derecho a tener una ciudadanía a miles de migrantes que viven en el país desde hace muchísimos años, quienes conforman un tercio de su población aproximadamente8, al mismo tiempo, consideran injusto que una robot

5Ginoide: Hace referencia a un robot antropomorfo de aspecto femenino. 6Hanson Robotics es una empresa que se ha dedicado principalmente al desarrollo de IAs y robots humanoides. Desarrollan software cognitivo con el fin de dar “vida” a sus robots, creando personajes atractivos para las personas. Hanson Robotics busca innovar con razonamiento orientado, arquitectura cognitiva, dialogo en leguaje natural y animación inteligente (similar a la humana). Su eje es la creación de robots inteligentes lo más parecidos posible a un ser humano. 7 Al buscar que los robots se encarguen de hacer compañía a las personas de la tercera edad, es posible reconocer cómo la sociedad relega o deja de lado a las personas que ya no se encuentran dentro del mercado laboral, por ende, no son generadores de ingresos, lo cual causa que, en muchos casos, estas personas se sientan solitarias o desechadas por la sociedad a la que sirvieron durante gran parte de su vida. Puede que la intención de la Hanson Robotics sea la de mejorar la calidad de vida de nuestros adultos mayores, sirviendo de compañía para ellos y evitando así que caigan en la soledad. 8 Según Fakude, (2018), gran parte de la población de inmigrantes en Arabia Saudí son personas provenientes de Etiopia (país con un 49% de población musulmana). En cuanto al ámbito político, el motivo principal por el cual Arabia Saudí ha tomado medidas negativas en contra de la población indocumentada proveniente de este país es que, cuando los Emiratos Árabes Unidos iniciaron un bloqueo en contra de Qatar, presionaron a las naciones africanas para unirse a su causa, sin embargo, muchos países, entre ellos Etiopía se negaron a hacerlo.

26

pueda llegar a tener más derechos que las mujeres saudíes, quienes hasta la actualidad tienen una gran cantidad de limitaciones en este país.

Un gran número de personas también consideran que esto va en contra de la moral y las buenas costumbres del pueblo saudí, por tanto, en su religión, el islam, cualquier representación humana es considerada sacrilegio, ya sea en maniquís, esculturas y hasta en pinturas, ante esto, es evidente que Sophia busca reproducir la imagen de una mujer humana. Según las palabras de Mimoun El Bouanany, presidente de la Comunidad Islámica Assalam de Almoradí: “Los musulmanes no podemos dibujar a ningún ser que tenga alma: animales y personas, para nosotros son cosas de Dios, y esto sería como imitarle". Para los musulmanes, todas estas son creaciones de Dios y, por ende, es una ofensa a Dios intentar copiar su creación (La Información, 2015).

Por otra parte, son muchos los interrogantes que han surgido respecto a la ciudadanía de Sophia y los alcances de esta, ya que la adquisición de la ciudadanía trae consigo diferentes derechos y deberes. Principalmente debemos preguntarnos, ¿Sophia es acreedora de los mismos deberes y derechos que tiene cualquier ciudadano saudí? O acaso ¿a la ciudadanía entregada a Sophia se le ha puesto algún tipo de limitante? Teniendo en cuenta que hasta la fecha el gobierno de Arabia Saudí no ha manifestado que dicha ciudadanía cuente con algún tipo de restricción, podríamos deducir que Sophia tiene los mismos derechos y deberes que cualquier ciudadano de este país.

De acuerdo con Fakude, (2018).Se ha cuestionado fuertemente al gobierno de Arabia Saudí por sus violaciones a los derechos humanos principalmente en contra de las mujeres y los inmigrantes, y ahora al haberle dado la ciudadanía a un robot como lo es Sophia se la ha puesto por encima de millones de personas que habitan el país, quienes aún luchan por los derechos que le han sido otorgado a dicha robot, y aunque muchos críticos consideran que dicha acción se realizó con la intención de generar show o espectáculo, es claro que el asunto puede traer muchas repercusiones, principalmente en el ámbito legal.

Entre los derechos que podría haber adquirido Sophia están el derecho a trabajar y el derecho a tener un patrimonio, que son derechos que aún no le han sido reconocidos a las mujeres sauditas, pues sus leyes no mencionan a las mujeres como acreedoras de derechos en ningún momento, y más aún, ni siquiera existen leyes que las protejan. En la actualidad muchas empresas hacen uso de las IA para el manejo de sus finanzas, principalmente para el cálculo de riesgos crediticios, el análisis de fraudes y la prevención de posibles amenazas. Entonces, es posible conocer la facilidad que tienen estas y sus facilidades para evitar riesgos y no tener los “errores humanos” que en muchas ocasiones existen. En este orden de ideas, las inteligencias artificiales son completamente competentes para manejar un patrimonio propio, sin embargo, ¿sería justa la competencia entre un ser humano y una IA dentro del mercado bursátil? En estos aspectos también se hacen necesarios una serie de limitantes o leyes que nos protejan.

27

Además, se han generado dudas respecto al alcance internacional de la ciudadanía de Sophia, pues al haber sido reconocida como ciudadana, al entrar a otro país debe ser tratada como ciudadana saudí, lo cual también complicaría la situación en los países como Colombia, en los cuales aún no se ha determinado claramente el tratamiento que debe serle dado a las inteligencias artificiales dentro de sus territorios, su estatus y sobre todo, es preocupante la ausencia de leyes que regulen sus deberes, derechos y alcances.

Una situación más cercana a lo anterior fue la entrada de Sophia a Colombia, más exactamente a la ciudad de Medellín, cuando participó en el evento “Campamento Escuela de Verano de la Universidad Pontificia Bolivariana”9, el cual aconteció después del reconocimiento de su ciudadanía. Para Nieto (2018) los interrogantes que surgen alrededor de esto son muchísimos. Sin embargo, antes de ahondar más en ello es necesario preguntarse ¿cómo fue la entrada de Sophia al territorio colombiano? Cuando Sophia entró a Colombia ¿fue tratada cómo un objeto o como un ciudadano? ¿Se le solicitó pasaporte como a cualquier otro ciudadano? O al ingresar al país, ¿ingresó como una propiedad de su creador?

Para resolver estas inquietudes se envió un derecho de petición dirigido a Migración Colombia, ante lo cual, la respuesta fue que se trataba de una cosa. Entonces, se puede entender que, a pesar de que Sophia ya es ciudadana en otro país, en Colombia aún sigue siendo una cosa, propiedad de su creador y, por lo tanto, sus trámites de ingreso al país deben hacerse ante la DIAN y no ante migración Colombia.

La Constitución Política de Colombia establece en su artículo 100 que los ciudadanos extranjeros gozan de las mismas garantías concedidas a los colombianos, por ende, podría considerarse que, al estar dentro del territorio colombiano, Sophia sería tratada de la misma manera en que se trata a cualquier ciudadano, teniendo derecho a ser protegida, a desplazarse por el país o a enseñar e investigar dentro de Colombia.

Entonces, es necesario entrar a indagar respecto a la posibilidad que existe en Colombia frente al reconocimiento de la personería de un robot, androide, o una IA, ya que, a pesar de no tratarse de un ser humano, no sería la primera vez que el país reconoce como sujeto de derechos a un ser/entidad diferente a un ser humano, tal es el caso del Río Atrato, o un ejemplo más actual, la Amazonía. Sin embargo, no es posible comparar la situación de éstos con la de Sophia, pues, por una parte, el río se encuentra dentro del territorio colombiano, y en cuanto a la Amazonía, la corte en sentencia STC3460/2018 protege puntualmente a la Amazonía colombiana. Si bien, en ambos casos se trata de seres no humanos, éstos no

9 Campamento de Verano Saberes UPB: es un programa de alto nivel, con temáticas y desarrollos vanguardistas, de impacto y tendencia nacionales e internacionales con el objetivo de consolidar una oferta innovadora que brinde a la comunidad universitaria, al público general y al sector empresarial una oferta de actividades académicas y culturales relacionadas con una temática específica, que opere transversalmente como apoyo a los currículos y demás actividades misionales de la UPB.

28

cuentan con las facultades que tiene Sophia, quien tiene la facilidad de transportarse de un lugar a otro sin mayor problema, por ende, no generan el dilema del cómo debe ser el trato de otros países frente a éstos, situación que sí se hace presente con Sophia.

Los interrogantes que surgen alrededor de Sophia son muchísimos, evidentemente nos encontramos en una serie de transformaciones tecnológicas que cada día pasan a ser parte de nuestra cotidianidad y es de ahí desde donde surge la necesidad no solo en Colombia, sino en todo el mundo, de crear leyes que regulen todo lo referente a los androides, robots e inteligencias artificiales, pues hasta el momento, los mismos son tratados únicamente como objetos o propiedad intelectual. Sin embargo, el paso del tiempo y el desarrollo de las cosas sugiere que el trato que se les debe dar es diferente, pues claramente no pueden ser considerados como personas, pero tampoco pueden tratarse como meros objetos o inventos.

Además, el debate que se abre alrededor de los robots con inteligencia artificial no es solamente jurídico, también nos encontramos en con un dilema ético, pues está claro que, si bien los robots son de mucha ayuda para los seres humanos, no sería pertinente darles los mismos derechos que a una persona, porque estos no cuentan con la parte sensitiva que es inherente del ser humano, o con una personalidad, entre muchas otras características que identifican a las personas como y las define como “seres humanos”.

Alguien que aborda estos dilemas de una forma muy completa es el catedrático Hussein Abbass, quien considera que el haber entregado este atributo a Sophia es algo demasiado prematuro, pues aún existen muchos retos que debemos resolver antes de poder confiar plenamente en las tecnologías que se han ido desarrollado. (El Financiero, 2017). Para Hussein Abbass es muy importante que se desarrollen mecanismos de confianza, los cuales tendrían como finalidad que los sistemas inteligentes se comporten de manera ética y acorde a nuestros valores. Él expone Tres razones por las cuales no considera correcto que a este robot se le haya otorgado la ciudadanía: 1. Definición de identidad. 2. Derechos legales. 3. Derechos sociales.

En cuando a la definición de identidad manifiesta que, la ciudadanía debe otorgarse a una identidad única, en nuestro caso, nosotros nos diferenciamos unos de otros por nuestra cara, iris, huellas dactilares, entre otros. En el caso de Sophia, al no ser un ser humano su identidad no podría ser comprobada de la misma manera en la que se hace con cualquier persona, entonces lo más lógico sería validar su identidad a través de su dirección MAC, o tal vez algún tipo de código de barras, pero este tipo de cosas solo identificarían su hardware y su software, más no sería posible establecer una identidad con base en estos. Se puede pensar que la identidad va mucho más allá que un conjunto de números o imágenes, la identidad es una construcción multidimensional, la cual incluye el aspecto biológico, cognitivo y cultural de cada persona, cosas ante las cuales difícilmente Sophia o cualquier robot

29

lograría encajar, pues si bien, la parte biológica puede verse remplazada por el hardware de Sophia y la parte cognitiva se ve de alguna manera emulada, no puede compararse con la capacidad cognitiva de cada ser humano, y si vamos más allá, el aspecto cultural que rodea a cada ser humano y que es afecta en gran medida el desarrollo de la personalidad de cada uno, es algo que, al menos hasta la actualidad, no es posible copiar de manera alguna. Los robots actuales aprenden y pueden ser configurados con determinados aspectos de una “personalidad”, sin embargo, no desarrollan una personalidad por sí mismos.

Respecto a los derechos legales que podrían cobijarle, se supone que al ser Sophia un ciudadano, sería sujeto de derechos, y sujeto de deberes, al ser ciudadana tiene una identidad jurídica diferente a la de su creador, por lo cual, ella como individuo tendría los mismos derechos de los que gozan el resto de los ciudadanos, y es aquí donde más se encuentran presentes los dilemas éticos, para ello, Future of Life Institute, (2017).se ha planteado los principios de Asilomar, entre los que se encuentran, por ejemplo, la importancia de los valores humanos, haciendo claro que los sistemas de IA deben ser diseñados y operados de manera que cumplan con los ideales de dignidad humana, derechos, libertades y diversidad cultural. También se habla del control humano, pues se considera que deben ser las personas quienes decidan si quieren o no delegar decisiones a las IAs y bajo qué términos. Asimismo, se hace necesaria la transparencia de la falla, ya que, si una IA causa algún tipo de daño, debe ser posible determinar por qué.

Ante esto, tenemos innumerables ejemplos, como ha sido el caso de Cambridge Analytica y Facebook respecto al mal uso de los datos de los usuarios, los cuales fueron de alguna manera, engañados y cuyos datos terminando, siendo usados para afectar las elecciones presidenciales en EE. UU. Según (BBC News, 2019). Una inteligencia artificial logró a través de la recopilación y análisis de los datos de los usuarios de Facebook incidir de alguna manera en la decisión tomada por los potenciales votantes y afectando fuertemente las elecciones.

Por otro lado, si hablamos de los derechos sociales, sabemos que cuando se otorga una ciudadanía, con ella también van inmersos los derechos sociales, entre los que se encuentran el derecho a casarse y el derecho a reproducirse, es decir, que si se llega a dar el caso de que otros robots con inteligencia artificial reclamen también su propia ciudadanía y con ello, los derechos que la misma acarrea, podríamos fácilmente vernos en un panorama en el cual, la población de robots sea incluso superior a la población humana.

Ante esta situación, se hace necesario plantear un sistema legal jurídico para las nuevas IA. Es decir, las circunstancias bajo las cuales un robot podría acceder a una ciudadanía, y, además, una serie de requisitos y compromisos que los mismos deberían adquirir para hacerse acreedores de ésta.

Hasta el momento, la decisión de Arabia Saudí de entregar la ciudadanía a Sophia parece ser una estrategia publicitaria con el propósito de distinguirse por su liderazgo en temas referentes a los avances tecnológicos a nivel mundial. Sin

30

embargo, evidencia la precaria situación de los sistemas jurídicos del mundo, ante la incursión de las IA. Por tanto, es necesaria la reglamentación de este tipo de tecnológicas que son de rápido crecimiento y que en pocos años podrían ser cotidianas.

La situación que se presenta por los rápidos y crecientes progresos de la tecnología permite que; se examinen con más seriedad las posibilidades que de ello se desprenden y que en épocas anteriores sonaban descabelladas. Por ejemplo, la idea de que llegue a existir una inteligencia artificial capaz de “eliminar” a ciertas personas que a su juicio, considere perjudiciales o dañinas para la sociedad, como sucede con la hipótesis de “el basilisco de Roko” Según (BBC News, 2018) en la cual, una inteligencia artificial creada para buscar el bienestar de la humanidad, llega a la conclusión de que, quienes no trabajaron para crearla, imposibilitaron que siga aumentando su nivel de bondad, de este modo, no ayudaron a buscar el bienestar de la humanidad pudiendo salvar a muchos, por ende, son perjudiciales para la sociedad.

Entonces, ¿no se hace necesaria la creación de algo que, de alguna manera, impida o al menos, limite que las inteligencias artificiales sigan tomando control de nuestra vida, como sucede en la actualidad? Con las condiciones que han ido presentándose a lo largo de los últimos años, se hace urgente la elaboración de leyes y todo tipo de regulación necesaria para garantizar que las inteligencias artificiales, robots o androides estén al servicio del ser humano, y no al contrario.

CIBORG, EL HUMANO DEL FUTURO

Ciborg es concepto que une, lo cibernético (cyb) a un organismo (org). Lo crearon los científicos, Manfred E. Clynes y Nathan S10. Kline pensando en un ser humano que pudiera vivir en entornos extraterrestres, en los años sesenta cuando la disputa por el espacio exterior aumentaba entre EE. UU. y la URSS, como parte de la Guerra

Los ciborgs, son Fieles exponentes del progreso tecnológico decidieron incorporar dispositivos que les permiten mejorar ciertos mecanismos corporales, suplir deficiencias e incluso otorgarles otras funciones que los diferencian del habitante promedio. La fusión cuerpo-máquina los convierten en seres casi únicos, especiales. Son los ciborgs, los "humanos del futuro", tal como se describen, que sorprenden al mundo por sus peculiares características y virtudes, propias de una película de ciencia ficción (Infobae, 2020).

10 Un cíborg (organismo cibernético) es una criatura compuesta de elementos orgánicos y dispositivos cibernéticos generalmente con la intención de mejorar las capacidades de la parte orgánica mediante el uso de tecnología. Ciborg ser formado por materia viva y dispositivos electrónicos según la Real Academia Española,(2014).

31

Neil Harbisson, es el principal referente de lo que implica ser un ciborg en la actualidad, de nacionalidad británica e irlandesa, Harbisson se crio y educó en Cataluña, durante el curso de sus estudios, la totalidad de sus trabajos visuales eran producidos en blanco y negro, debido a que posee una condición llamada cromatismo, que le impide distinguir la gama completa de colores: solo observaba la gama de blancos, negros y grises (Vodafone, 2016).

En el año 2004, en Inglaterra Neil Harbisson11 conoció al experto en futuros digitales Adam Montandon, quien crearía el Eyeborg, que es una antena atada al cerebro de Harbisson, la cual equilibra el déficit que posee, encontrando una solución eficaz en esta antena auditiva que integra un chip capaz de convertir las ondas de luz en frecuencias de sonido que son percibidas como notas musicales, que conectada al cerebro le permite escuchar los colores, incluso hasta percibir algunos invisibles como infrarrojos y ultravioletas (Vodafone, 2016).

La antena de Harbisson y Montandon, tiene mil posibilidades que van más allá de lo que el ojo humano puede percibir a simple vista. Tal y como explica Harbisson su cerebro es capaz de traducir las frecuencias audibles de los rayos ultravioletas o infrarrojos, algo para lo que el resto de los seres humanos, con nuestra vista multicolor, no estamos capacitados. Es decir, ve más allá de los colores (Vodafone, 2016). La antena cuenta con un receptor externo siempre orientado hacia donde Harbisson dirige la mirada. Gracias a un pequeño chip, el aparato es capaz de traducir las distintas frecuencias de la luz, la composición de los colores del mundo real, en frecuencias audibles. Es el primero de su categoría en ser reconocido por un Gobierno.

Neil Harbisson junto a la española y activista ciborg, Moon Ribas12, crearon a la fundación cíborg, ambos pretenden estimular, apoyar o dar cobijo a todos aquellos humanos que deseen convertirse en cíborgs, promoviendo su reconocimiento legal, la investigación tecnológica e incentivando el arte y la expresión cíborg (García, 2019). Harbisson y Ribas, solicitan el respeto y los derechos para reconocer al ciborg como una nueva categoría de ciudadanos en el mundo. En palabras de Infobae, (2018). Argumentan que con el tiempo todos los seres humanos se transformarán en ciborgs y ponen como ejemplo a otras experiencias aceptadas por

11 Neil Harbisson, nació con una particularidad visual que le hace ver en escala de grises, creció en Mataró, España. Es amigo desde su infancia del también artista cíborg Moon Ribas. A los 19 años se trasladó a Dublín, Irlanda, donde continuó con sus estudios de piano. A los 20 años entró al Dartington College of Arts (Inglaterra), donde estudió composición y piano. Harbisson ha contribuido en la concientización de los ciborgs mediante conferencias en escuelas, universidades y congresos.

12 Moon Ribas, nació en Mataró, España, es una artista vanguardista y activista cíborg, conocida por desarrollar e implantarse sensores sísmicos en los pies que le permiten percibir todos los terremotos del mundo a tiempo real mediante vibraciones. Desde 2007, los medios de comunicación la han descrito como la primera mujer cíborg del mundo o la primera artista cíborg de la historia por expresarse artísticamente a través de un nuevo sentido creado a partir de la unión permanente entre su cuerpo y la cibernética. (Revista Antic Teatre, 2010).

32

la sociedad, como quienes tienen un marcapasos, implante coclear u otra tecnología médica.

En este sentido, los ciborgs serían una expresión del concepto de transespecie, tal como lo cómo define Harbisson. De ahí que también decidiera fundar, junto al activista Manel Muñoz y a Moon Ribas, la Transpecies Society, que se desprende de la Cyborg Foundation (Infobae, 2020). Según el activista Manuel Muñoz, Los Transespecies13 son todas aquellas personas que no se definen como 100% humanas.

Es así como los diferentes activistas ciborg, proponen una nueva corriente llamada "ciborgismo", que pretende convertir al humano en cíborg, tienen claro que el futuro de la humanidad pasa por su total identificación con la tecnología, entonces, ¿seremos todos cíborgs en un periodo no demasiado lejano de tiempo?

Inspirado por su propia experiencia personal, para Harbisson, los seres humanos están en un periodo de transición de convertirse en ciborg. La mayoría de las personas ya son cíborgs psicológicos, debido a que los seres humanos estamos tan ligados a la tecnología, que hablamos directamente de ella en primera persona, como si fuéramos nosotros esa tecnología.

Los ciborgs psicológicos, son producto de esa nueva experiencia humana que se genera gracias a una relación corporal, psíquica e íntima con los aparatos tecnológicos, representando una relación de dependencia con la máquina, que permite romper con las limitaciones e imperfecciones humanas e incluso facilitar funciones, permitiendo la ampliación de las capacidades individuales y colectivas de los seres humanos (Figueroa, 2019. pág. 7).

Existen interesantes proyectos que materializan las posibilidades de ampliación de nuestras capacidades tanto individuales como colectivas. Un ejemplo de esto son los proyectos de Steve Mann, profesor del Departamento de Ingeniería Eléctrica y Computación en la Universidad de Toronto. Sus trabajos datan de la década del

13 Los hombres y mujeres ‘’trans-especies’’, no se identifican como seres humanos, si no como especie animal: pájaros, perros, gatos, etc. Sienten que están atrapados en cuerpos que no les pertenecen. (San juan, 2018). En el año 1983, el infinito universo de la ciencia ficción permitió que a través de una serie de televisión llamada manimal se creara un mundo con la capacidad abierta de trasformación. que se centraba en la vida del Dr. Jonathan Chase, un hombre que poseía la habilidad de convertirse en el animal que deseara, lo que utilizaba para ayudar a la policía a resolver crímenes. La capacidad infinita de transformación viene proyectada desde antes del apogeo de las grandes civilizaciones prehispánicas, debido a que ya tenían nahuales los cuales eran hechiceros. El nahual deja su forma humana por un tiempo determinado para adquirir la de un animal elegido. (matador network,2019). En la ancestral cultura indígena, existen leyendas de que a través de la ingesta de plantas de poder ciertos chamanes amazónicos adquieren la capacidad de transformarse en múltiples criaturas vivientes.

33

ochenta, creando dispositivos que están dedicados a la expansión de las capacidades sensoriales a través de tecnología.

Actualmente existe una amplia gama de dispositivos que proveen no sólo la colaboración sino precisamente esa amplificación de las capacidades humanas anticipadas. El más cotidiano de éstos es el teléfono inteligente, que se ha convertido en un artefacto cognitivo, también han surgido reconocidas invenciones como el Digital Glass EyeTap, se trata de un dispositivo que permite que el ojo funcione, hasta cierto punto, como una pantalla y una cámara. El EyeTap es una pieza ocular que muestra información de la computadora al usuario, pero al mismo tiempo es un dispositivo que le permite procesar y hasta alterar lo que el usuario ve. Esto permite que el usuario del EyeTap, aumente, disminuya o altere la percepción visual de su entorno (Figueroa, 2019, p. 10).

La relación continua de los seres humanos con las maquinas, permite analizar los alcances que tiene el universo de los super sentidos, por ejemplo, para personas que poseen ojos artificiales, los cuales para ellos son más reales que los suyos propios, debido a que sus ojos de nacimiento no solo eran inservibles, sino que por su condición médica muchos de ellos tenían una apariencia desigual. Aunque los ojos prostéticos no tienen la capacidad de visión, compensan esta carencia con una actitud performance de visión. Se han convencido de que la visión trata en gran medida de cómo se encara al entorno, cómo se dirige la mirada en el espacio y hace que aparezca cada cierto tiempo focalizada. Conciliarse con los nuevos ojos prostéticos, acomodarlos correctamente en su cavidad, tratar de prevenir accidentes, organizar su vida con otras prótesis como la computadora y un sintetizador de voz que se convirtieron también en parte de su sistema de visión, son parte de los cambios dirigidos a la producción del cuerpo ciborg. Esta hibridación orgánico-inorgánico que, viabilizada por tecnología digital, sugiere que los procesos de ciborgizacion desbordan los entornos corporales para extenderse al tejido social. En otras palabras, se podría decir que estamos bajo los términos de una sociedad ciborg.

Entonces, ¿Son los Cíborgs un futuro que ya es presente?, Pese al carácter revolucionario de esta iniciativa es evidente que la tecnología lleva mucho tiempo ayudando a personas enfermas o discapacitadas a llevar una vida más cómoda. No hace falta ofrecer ejemplos demasiado complejos: basta con pensar en cualquier familiar cercano cuyo corazón funcione con la ayuda de un dispositivo de asistencia ventricular (Vodafone, 2016).

Harbisson, considerado para muchos como un ideólogo de la hibridación promueve los beneficios de ser ciborg: En esta década se dejará de usar la tecnología como una herramienta. En este siglo la especie humana experimentará tres mutaciones básicas: habrá personas que utilicen elementos mecánicos, electrónicos y cibernéticos como parte de su cuerpo. Desde su perspectiva el ser un híbrido de máquina y hombre es potencia, rompe límites y establece las nuevas condiciones que definen al hombre hiperconectado del siglo XXI.

34

Es justamente esa consolidación del hombre hiperconectado, lo que permite determinar que somos ya ciborgs tecnológicos, Aunque debe existir claridad que esta iniciativa no va dirigida únicamente a personas con discapacidades o con enfermedades, sino a todas aquellas interesadas en expandir sus posibilidades sensoriales a través de la tecnología.

Esa idea de seguir evolucionando, de querer alcanzar lo imposible (Dios, la inmortalidad, etc.) o cómo despertar fuerzas tecnológicas ciclópeas y ser superados por ellas, se empiezan convertir en una realidad. Siendo también un tema recurrente en la historia, que en general suele alertar sobre cómo el avance implacable de una tecnología puede gobernar la vida de los hombres mucho más allá de lo que ellos creen. Las consecuencias de la Revolución Industrial permiten ejemplificar los asuntos del cuerpo mediático, donde las máquinas ya no son herramientas, sino chips dentro del cuerpo, en su avance hacia la consolidación de los individuos ciborg.

Es así como universo de los nuevos sentidos ofrecería a todo el que desee: retro visión, sentido electromagnético o la implementación de la oreja infrasónica. Todo con el objetivo, de que quien quiera ser un cíborg pueda serlo. Esta unión con la tecnología también puede generar dinámicas de vigilancia que provienen de una conexión continúa a un dispositivo electrónico. Situación que debería ser alarmante, requiriendo normatividad expresa que regule la relación de los seres humanos con las maquinas, las IA y la internet. Al existir conexión tan estrecha de los seres humanos con la tecnología se podría fácilmente interferir los aparatos tecnológicos o prótesis de un ciborg. Esto ya debería preocupar a la comunidad internacional, debido a que es necesario un control expreso, con parámetros de regulación definidos, que permitan sentar bases claras que guíen a los países a incluir en su modelo estatal legislación unificada para el tratamiento de las crecientes relaciones de los seres humanos con las maquinas, estableciendo una postura clara que divida lo ilegal de lo legalmente permitido.

En el año 2004, cuando Neil Harbisson fue a renovar su pasaporte, tuvo que ser reconocido por el gobierno británico como un ciborg, ‘’Un caso fue cuando tuve que renovar el pasaporte, que me pidieron que me sacara la antena, pero al final tuvieron que aceptar mi antena como si fuera un órgano’’ (Harbisson, 2016). Situación que permite la formulación de innumerables cuestionamientos, preguntas que hace veinte años sólo podían plantearse en películas o novelas de ciencia ficción y que ya están siendo formuladas por los investigadores de distintos países desde en un plano moral y legal, preguntas como: ¿Qué estatus legal tendrán los cíborgs?, ¿Cuál será su papel dentro de la sociedad?, ¿Con qué derechos o limitaciones contarán?, ¿Su reconocimiento legal trae consigo protección estatal?, ¿Podría peligrar el derecho a la intimidad? y ¿Qué pasaría con el derecho en Colombia, cuando llegue el momento de reconocer un ciudadano ciborg?.

Encontrar respuestas especificas a las preguntas formuladas, es sin duda un reto inmenso, que pone en alerta a la estructura del derecho mismo, que tendría el deber

35

de crear una nueva categoría de persona-ciborg, que al pertenecer a un país se podrían reconocer como los nuevos ciber-ciudadanos, reto que pondrá a los doctrinantes e investigadores del derecho a transformar las concepciones típicas de los viejos modelos históricos preestablecidos.

Este nuevo siglo requiere la creación de un estatus legal para los ciborgs, debido a que no se puede desconocer a su condición humana, admitiendo así su derecho al reconocimiento de una personalidad jurídica que conlleva a la futura creación de mecanismos de control, los cuales les permitirán construir una identidad legal propia, para poder establecer derechos y deberes que regulen sus modificaciones caporales. Derechos como permitir modificaciones necesarias para mejorar su calidad de vida, lo cual encuentra fundamento en la dignidad humana, en la igualdad de oportunidades o en el libre desarrollo de la personalidad; obteniendo así una protección estatal que reconocerá su calidad humana. Sin embargo, al estar fusionados con máquinas es necesario también crear deberes especiales que permitan limitar la realización de esas modificaciones corporales, especialmente las que impliquen poder o superioridad frente a los demás seres humanos, como por ejemplo tener un brazo robótico con el que se podría asesinar al alguien y podría ser considerada un arma; o tener un implante de oído biónico que permita espiar. Si no se limita el alcance ciborg, este podría generar una masiva vulneración de derechos fundamentales, como el derecho a la intimidad, entre otros. Los individuos ciborgs, tienen acceso a datos de manera automática, situación que requiere la pronta intervención del derecho para regular su papel dentro de la sociedad. Colombia, no estaría ajena a esta ‘’transformación cibernética’’, también deberá desarrollar un modelo específico para el reconocimiento ciborg, especificando sus derechos como humanos y sus deberes como maquinas, derechos que actualmente podrían encontrar un fundamento constitucional clave como es el artículo 16 de la constitución política de Colombia de 1991, el cual establece: que todas las personas tienen derecho al libre desarrollo de su personalidad sin más limitaciones que las que imponen los derechos de los demás y el orden jurídico.

En Sentencia T-222 de 199214 la Corte constitucional expuso que con este derecho se quiere garantizar la libertad general de actuar, entendiendo por tal, la facultad que toda persona tiene de hacer o no hacer lo que se considere conveniente, inscribiéndose en el amplio campo de la libertad y en todas aquellas manifestaciones en que el ser humano se proponga realizar autónomamente. En la misma dirección, pero utilizando una denominación ligeramente distinta, señaló en

14 En la Sentencia T-222 de 1992, donde resalta que el libre desarrollo de la personalidad ha sido consagrado de manera expresa en la carta política por el Constituyente de 1991. Se quiere garantizar con él la libertad general de actuar, de hacer o no hacer lo que se considere conveniente. Por tanto, se inscribe en el amplio ámbito de la libertad y en todas aquellas manifestaciones en que el ser humano se proponga autónomamente realizar múltiples actuaciones.

36

sentencia T-532 de 199215, que el núcleo esencial de este derecho protege la libertad general de acción.

Según Prieto, (2000). el derecho al libre desarrollo de la personalidad debe ser entendido como la libertad general de toda persona para actuar, es decir un derecho general de libertad que se comporta a su vez como una cláusula de cierre, esto implicaría que todo lo que no está prohibido o mandado con cobertura constitucional suficiente, debe considerarse jurídicamente permitido

La sentencia, T-532 de 1992, estableció: El derecho fundamental al libre desarrollo de la personalidad plantea una relación individuo-sociedad-Estado, a partir de la cual debe precisarse el alcance de los derechos, deberes y obligaciones.

En este orden de ideas, para lograr establecer una adecuada relación entre el individuo-ciborg, la sociedad y el estado, es transcendental determinar los derechos y deberes de esta nueva categorización de personas-ciborg, evitando así infracciones u omisiones al ordenamiento jurídico, y a los derechos fundamentales de terceros, acudiendo a la típica frase, mis derechos terminan, cuando empiezan los derechos ajenos. Definir los derechos y límites es un reto necesario para poder contemplar plenamente otra categoría de personas: los ciborgs, con DDHH, pero también con Deberes Ciborgs, derivados de las ventajas físicas e intelectuales que las tecnologías posibilitan.

15 En sentencia T-532 de 1992, ‘’Libre desarrollo de la personalidad’’. El núcleo esencial de este derecho protege la libertad general de acción, vinculado estrechamente con el principio de dignidad humana, estableciendo en cada caso la existencia o inexistencia de derechos de otros o disposiciones jurídicas con virtualidad de limitar válidamente su contenido. Es un derecho de estatus activo que exige el despliegue de las capacidades individuales, sin restricciones ajenas no autorizadas por el ordenamiento jurídico.

37

CAPÍTULO 2 LAS PERSONAS Y LAS COSAS: ANÁLISIS CONCEPTUAL DE LAS INTELIGENCIAS ARTIFICIALES, ANDROIDES, ROBOTS Y DERECHO.

¿QUÉ SON? ¿COSAS? ¿SUJETOS DE DERECHOS O DE DEBERES?

Si la hipótesis que las IA, Androides y Robots no son cosas es cierta, entonces hay que ubicarlas en una categoría jurídica alterna o complementaria. Las cosas no razonan (aunque no es desconocido que los diversas especies sienten, como los animales) en tanto las IA sí lo hacen, e interactúan con la humanidad, y en esa perspectiva, habrá que considerarlas una suerte de persona, pero en sentido inverso o negativo, obligada al cumplimiento de deberes hacia las personas humanas, de la misma forma en que las personas humanas tienen deberes hacia la naturaleza; deberes enfocados hacia la protección de los derechos fundamentales de las personas humanas, principalmente el derecho a la intimidad y protección de datos (Leyes de la Robótica de Asimov). Si como creaciones humanas las IAs se parecen a las cosas porque sobre ellas se ejercen derechos de dominio de parte de sus programadores (personas humanas o jurídicas), algunas de éstas están siendo programadas para aprender, es decir, construir razonamientos lógicos más complejos de los que podríamos imaginar y que, eventualmente, tomen sus propias decisiones.

Ahora bien, estas IA, que generalmente están concebidas para la recolección, procesamiento, análisis y uso de datos e información, han hecho posible el desarrollo de vida artificial, como los xenobots, o células programadas para la realización de tareas específicas, como combatir células cancerígenas, por ejemplo, o maximizar los efectos de medicamentos, llevándolos directamente donde se necesitan. Con el ascenso de la computación cuántica, se hace urgente pensar en el estatus jurídico para las IA, privilegiando la protección de los Derechos Humanos y de la Naturaleza.

¿Qué Son Las Personas?

Para el derecho, una persona es un sujeto que, por sus características, cuenta con la capacidad suficiente para tener derechos y asumir obligaciones, concepto que admite la existencia de diferentes tipos de personas.

Las personas se clasifican en dos, por un lado, se tienen a las personas físicas o naturales, es dentro de esta clasificación que se encuentran los seres humanos, y por otro lado están las personas de existencia ideal o personas jurídicas, ejemplo de éstas son las sociedades, fundaciones o el propio Estado.

Para el Código Civil Colombiano, se consideran personas a todos los individuos que hacen parte de la especie humana, cualquiera que sea su edad, sexo, estirpe o condición.

38

A diferencia de lo que ocurría en épocas pasadas, en la actualidad nadie cuestiona el hecho de que todos los seres humanos son personas y por ende, sujetos de derechos y deberes; y no existen seres humanos con más o menos derechos que los demás, es decir, todas las personas son iguales ante la ley según lo manifestado en el artículo 13 de la Constitución Política de Colombia, y a excepción de ciertos casos exactos que se encuentran plasmados dentro del Código Civil Colombiano,, como es el caso de personas con trastorno o enfermedades que impiden el desarrollo pleno de sus facultades , los impúberes , los sordomudos que no puedan darse a entender, los menores de edad o los interdictos, todas las personas tienen los mismos deberes y responsabilidades frente al Estado y a la ley.

Sin embargo, a pesar de que jurídicamente todas las personas son iguales, a diario es posible encontrar situaciones de desigualdad. Si se tienen en cuenta parámetros como la distribución de tierras, las oportunidades de trabajo, o las actividades económicas, se hace más evidente la desigualdad real a la cual se enfrentan las personas cada día, y si bien, en Colombia se han visto reducidos los índices de pobreza monetaria y multidimensional, en cuanto a la redistribución de ingresos aún subsiste un estancamiento, a pesar de que éste es un fenómeno clave para superar la desigualdad real preexistente en el país (De La Rosa, 2019,p.112).

Con respecto a las personas jurídicas, el Código Civil Colombiano las define como personas ficticias, que tienen la capacidad de ejercer derechos y contraer obligaciones civiles representadas por las personas naturales que los conforman. Este tipo de personas pueden y deben ser representadas judicial y extrajudicialmente para hacernos una idea Ver figura 2.

Figura 2 Teoría Heterogénea del concepto de Persona en Derecho: los sujetos de deberes (Ceballos, 2021)

39

Las personas jurídicas se encuentran conformadas por personas naturales, es decir, su existencia obedece principalmente a un fin práctico que busca facilitar el comparar los derechos y obligaciones que pueden contraer con éstas las personas naturales.

Existen dos teorías que buscan explicar la existencia de las personas jurídicas, por un lado, está la teoría de la ficción, según la cual, las personas jurídicas son solamente ficciones de la ley, por lo tanto, son incapaces de querer y obrar. Su personalidad existe única y exclusivamente porque la ley se la otorga, ésta es la teoría planteada por Hans Kelsen, para quien la justificación de la existencia de las personas es la existencia de los derechos subjetivos con valor propio y autónomo, si éstos no existen, tampoco debe existir el sujeto de derecho. Para Ricardo Orestano, “si se acepta la teoría de la ficción, no hay dificultades para aceptar la existencia de patrimonios sin sujeto, precisamente porque si hay que hablar de un sujeto ficticio es porque realmente falta lo que llamamos sujeto. Si tal sujeto real existiese, no sería necesario recurrir a un sujeto artificial o ficticio” Orestano,(1960).

Por el otro lado está la teoría de la realidad, la cual plantea que las personas jurídicas están creadas a semejanza del hombre individual, su personalidad está concedida por su finalidad colectiva y es por este motivo que el Estado tiene el deber de reconocer su existencia. Para Otto Von Gierke, quien fue un defensor de la teoría de la realidad, cuando el derecho atribuye capacidad jurídica a un grupo organizado, lo que hace es reconocer una realidad, una persona jurídica no es una imaginación, sino una representación, para Gierke este tipo de personas son personas completas y reales, por ende, equiparables a una “persona singular”.

Sin embargo, independientemente de la teoría que cada uno considere correcta, ambas coinciden en que las personas jurídicas son también sujetos de derechos y obligaciones a pesar de que no cuentan con una existencia individual física, como la de los seres humanos.

En cuanto a las personas jurídicas, éstas pueden ser: de existencia necesaria, como es el caso de los Estados, o bien, de existencia no necesaria, como las sociedades, asociaciones, ONG, y fundaciones. Cabe aclarar, que la conformación de un Estado como persona jurídica, puede darse de dos formas diferentes, la primera es a través del consenso (teoría del contrato social, asamblea constituyente, o bien, por una evolución (imposición violenta). Para que una persona jurídica de derecho público pueda existir, y en particular el Estado, es necesario que se dé el reconocimiento de otros Estados. Mientras que, para el reconocimiento de las personas jurídicas de derecho privado, el encargado de otorgarles la existencia legal es el Estado como lo menciona (Apaza, 2013, p.14).

En general, las personas jurídicas tienen una serie de ventajas y desventajas, como, por ejemplo, tienen responsabilidad limitada, es decir, en caso de deudas, se responde únicamente con el patrimonio de la compañía y no con el patrimonio propio, también tienen facilidades para acceder a concursos públicos y tienen

40

menos restricciones ante estos, además, es mucho más fácil para una empresa el expandir su portafolio de productos y servicios al extranjero, sin contar con los beneficios sociales y seguros de los cuales puede ser acreedora, como señala (Fintech School, 2019).

Uno de los mayores beneficios de las personas jurídicas es el “velo corporativo”, que se define como una figura que garantiza a una empresa (constituida en persona jurídica) el permanecer separada de sus accionistas, de modo que se protejan los bienes personales de éstos frente a posibles responsabilidades que se originen del riesgo del desarrollo de su objeto social. La finalidad de esta figura es dar seguridad a los posibles socios de una empresa, quienes pueden tener la tranquilidad de que, si su inversión no sale de la mejor forma, nadie podrá perseguir su patrimonio personal. Pero, así como se protege a los accionistas, también debe existir protección a terceros que puedan verse perjudicados por malas acciones por parte de la empresa, como, por ejemplo, del fraude. Inclusive cuando existen fraudes por parte de una empresa en contra de sus clientes, empleados o hasta el mismo Estado, se puede recurrir al llamado “levantamiento del velo corporativo”, que no es sino el quitar esa protección al patrimonio personal con el fin de hacer responder por su mal accionar a quien cometa el fraude como lo señala Sanchez,(2017).

Sin embargo, así como existen ventajas, también existen desventajas, como lo son la dificultad para su creación y liquidación, pues para ambos casos, existen una gran cantidad de trámites y requisitos, además de que al ser una persona jurídica lo impuestos a pagar son más altos y la cantidad de documentos que se deben llevar son muchísimos según indica (CYTE, 2019).

Si bien las personas jurídicas son también sujetos de derechos y de deberes, es apenas lógico suponer que a éstas no se les pueden atribuir todos los delitos existentes, no obstante, si existen delitos que pueden ser cometidos por este tipo de personas, como son, por ejemplo, el delito de estafa, daño ambiental, delitos contra la propiedad intelectual o delitos contra la hacienda pública.

En el caso de los delitos contra el medio ambiente, en Colombia se creó la ley 491 de 1999, la cual busca crear los seguros ecológicos como un mecanismo que permita cubrir los perjuicios económicos cuantificables a personas determinadas como parte o como consecuencia de daños al ambiente y a los recursos naturales y la reforma al Código Penal en lo relativo a los delitos ambientales, buscando mejorar la operatividad de la justicia en este aspecto, la cual incluye a las personas jurídicas como posibles responsables y obliga a las personas, tanto naturales como jurídicas al seguro ecológico obligatorio cuando las actividades a realizar puedan causar daños al ambiente y requieran licencia ambiental. Además, incluye una reforma al Código Penal en diferentes artículos y ordena la creación de un nuevo título de “delitos contra los recursos naturales y el ambiente” (Ley 491, 1999).

En la actualidad, toda persona, ya sea natural o jurídica, es un sujeto de derechos, sin embargo, no es posible considerar que solamente las personas tienen la posibilidad de serlo, pues en nuestras épocas y con los continuos cambios que se

41

vienen experimentando dentro de las sociedades, se ha llegado a la necesidad de otorgarle el título de “sujeto de derechos” a comunidades, ríos, ecosistemas, entre otros, que NO son considerados como personas, ni naturales ni jurídicas, no obstante, si tienen la capacidad de ejercer derechos, los cuales deben ser protegidos, respetados y garantizados por el Estado y en sí, por todas las personas.

¿Qué Son Las Cosas?

Las cosas pueden ser consideradas como todo aquello que existe dentro del mundo, las cuales, en la mayoría de los casos, son susceptibles de apropiación por parte del ser humano, por esta razón ha sido necesario para el derecho y para el ser humano en sí, dar una definición mucho más exacta sobre lo que es una cosa o un bien.

Dentro de la legislación colombiana, los bienes consisten en cosas corporales o incorporales. Corporales son las que tienen un ser real y pueden ser percibidas por los sentidos, como una casa, un libro. Incorporales las que consisten en meros derechos, como los créditos y las servidumbres activas.

Sin embargo, la clasificación de las cosas en corporales e incorporales es demasiado amplia, por lo tanto, ha sido también necesaria la creación de subclasificaciones dentro de ésta. De manera que, en cuento a las cosas corporales, éstas se pueden clasificar como muebles o inmuebles, siendo los muebles los que pueden moverse o trasladarse por sí mismos, o con ayuda del ser humano, de un lugar a otro, mientras que los inmuebles aquellos que no pueden ser transportados a ningún sitio.

Es importante aclarar que lo que para el ser humano son consideradas como cosas o bienes NO cuentan con una personalidad, ni natural ni jurídica, por ende, no pueden ser consideradas como sujetos de derecho ni de deberes, pues no presentan ningún tipo de autonomía, ni mucho menos tienen capacidad de raciocinio, por lo cual su destino depende del ser humano, y es precisamente esto lo que diferencia a las personas de las cosas o bienes. En este orden de ideas, ¿cómo se debe definir a las IA, Androides y Robots? La definición de “cosa” es muy pequeña, teniendo en cuenta que cada día son más los aspectos en los cuales son autónomos, y sus funciones superan a las de la mayoría de los demás objetos, además de que las IA como su nombre lo indica, tienen un nivel de inteligencia racional que en algunas circunstancias puede ser superior a la de los seres humanos. Las inteligencias artificiales y robots son utilizados en muchos planes y proyectos de la raza humana, como por ejemplo, la posible colonización de otros planetas, o en general, la exploración espacial, así como también se usan en circunstancias más cotidianas, como el cuidado de seres humanos en edad avanzada, la mercadotecnia o el funcionamiento de diferentes dispositivos inteligentes. Sin embargo, el concepto actual de persona es demasiado amplio para

42

ser aplicado a un robot, inteligencia artificial o robot con inteligencia artificial, pues no es seguro para la humanidad el entregar derechos a un tipo de ser que supera en diferentes aspectos al ser humano, pero que, sin embargo, fue creado por el hombre para servirle y facilitarle diferentes tareas de la vida cotidiana.

LEGISLACIÓN DE LAS INTELIGENCIAS ARTIFICIALES EN COLOMBIA

Los expertos en inteligencia artificial de todo el mundo aseguran qué es relevante que los gobiernos que integran los distintos países a nivel global adopten desde ahora nuevas políticas para el uso de las diferentes tecnologías como sostiene el (MinTIC, 2019).

La Organización para la Cooperación y el Desarrollo Económico (OCDE), la cual es una organización internacional cuya misión es diseñar mejores políticas para una vida mejor, promoviendo estándares que favorezcan la prosperidad, la igualdad, las oportunidades y el bienestar para todas las personas, realizo una recomendación de adopción de políticas públicas que favorezcan el buen uso de las inteligencias artificiales y la tecnología en todo el mundo (MinTIC, 2019).

El 22 de mayo de 2019, Colombia adoptó formalmente la recomendación del Consejo de la OCDE sobre inteligencia artificial (IA), en la que se incluyen un conjunto de principios y recomendaciones para el diseño de políticas públicas futuras de inteligencia artificial en el país (MinTIC, 2019).

El anuncio fue hecho desde París, Francia, como parte de la agenda del Consejo Ministerial de la OCDE. Este es el primer conjunto de directrices de políticas intergubernamentales sobre inteligencia artificial (IA), en el que los países socios acordaron respetar las normas internacionales que apuntan a garantizar que estos sistemas estén diseñados para ser robustos, seguros, justos y confiables (MinTIC, 2019).

Como antecedente a esta adhesión del gobierno colombiano, el 30 de abril de 2019, se inauguró en Medellín el Centro para la Cuarta Revolución Industrial, una iniciativa del Foro Económico Mundial como una plataforma que prioriza lo relacionado con inteligencia artificial (MinTIC, 2019).

Según la OCDE, seguir las siguientes recomendaciones garantiza una administración responsable del uso de las inteligencias artificiales:

1. Las IA deberían beneficiar a las personas y al planeta impulsando el crecimiento inclusivo, el desarrollo sostenible y el bienestar (MinTIC, 2019).

2. Los sistemas de IA deben diseñarse de una manera acorde, respetando al Estado social de derecho, los derechos humanos, los valores democráticos y la diversidad. Deben incluir salvaguardas apropiados (MinTIC, 2019), por ejemplo, un botón de apagar, cuyo control en Colombia debería estar a cargo de las autoridades policiales correspondientes, con su equipo experto en

43

ciberseguridad, apoyados por la oficina de telemática de la institución, la cual tiene la misión de asesorar y promover el desarrollo tecnológico en las áreas de informática y telecomunicaciones, permitiendo de esta manera la intervención humana cuando sea necesario, para garantizar una sociedad justa y equitativa.

3. Debe haber transparencia y divulgación responsable en torno a los sistemas de IA, Para esto es necesario la creación de una lista publica para el pleno conocimiento de los sistemas de IA utilizados. En Colombia esto tendría fundamento en los artículos 20 y 74 de la Constitución Política de Colombia, los cuales hacen referencia a la garantía de recibir información veraz e imparcial y a la libertad de acceso a los documentos públicos salvo los casos que establezca la ley, para que las personas entiendan los resultados basados en las IA (MinTIC, 2019).

4. Los sistemas de IA deben funcionar de manera robusta y segura a lo largo de sus ciclos de vida y los riesgos potenciales deben evaluarse o gestionarse continuamente (MinTIC, 2019). En Colombia esta evaluación permanente debería estar a cargo del estado, con un grupo de programadores expertos en temas de manejo de inteligencias artificiales, con apoyo de las autoridades policiales las cuales poseen una unidad experta en ciberseguridad y desarrollo informático.

5. Las organizaciones e individuos que desarrollan u operan sistemas de IA deben ser responsables de su correcto funcionamiento, en virtud de los principios anteriores (MinTIC, 2019). En Colombia si no existiera un adecuado manejo, los operadores podrían ser responsables extracontractualmente por los errores o daños causados por estos sistemas de IA.

Expertos en política digital de la OCDE se basan en principios para producir una guía práctica de implementación, la cual cuenta con el respaldo de la Comisión Europea y formo parte de la discusión en la Cumbre de Líderes en japón del año 2020. El documento hace énfasis en el uso seguro y responsable de esta tecnología, pero deja por fuera otros temas que preocupan a expertos en IA, como la automatización, el desempleo y las habilidades que los nuevos ingenieros deben tener para hacer frente a los retos del futuro (MinTIC, 2019).

Los principios utilizados por la OCDE son:

1. Facilitar la inversión pública y privada en investigación y desarrollo para estimular la innovación en una IA confiable.

2. Fomentar los ecosistemas de IA accesibles con infraestructura y tecnologías digitales y mecanismos para compartir datos y conocimientos.

3. Asegurar un entorno de políticas que abra el camino para el despliegue de sistemas de IA confiables.

44

4. Capacitar a las personas con las habilidades para las IA y apoyar a los trabajadores para una transición justa.

5. Cooperar a través de las fronteras y los sectores para avanzar en la administración responsable de las IA (MinTIC, 2019).

Para aplicar el tema en Colombia, Catalina Rengifo, líder de Asuntos Gubernamentales para IBM Colombia, Venezuela y región Caribe, recomienda buenas prácticas como la transparencia, manifestando que una eventual regulación tendría muchas aplicaciones en el país, considerando que actualmente existe una alta implementación de la Inteligencia Artificial (IA) tanto en Colombia, como en el resto del mundo. Es un tema trascendental y los sistemas de Inteligencia Artificial deben ser totalmente comprensibles y su programación debe ser pública o con acceso al público, permitiendo así la elaboración de un registro público de IA en Colombia.

A finales del año 2019, el Consejo Nacional de Política económica y social, CONPES, emite el documento 3975, sobre transformación digital e inteligencia artificial, en cual se establece que en el país todavía es evidente la baja adopción, uso y aprovechamiento de tecnologías avanzadas, como las IA, que alcanza un nivel de adopción menor a 4% entre los empresarios encuestados, manifiesta también que Colombia no es ajena al entusiasmo regulatorio de esa tecnología (MinTIC, 2019).

Para regular en Colombia el tema de las IA, se debería contemplar criterios como:

• El verdadero uso, basado en la intencionalidad con la que se utiliza a cada sistema de IA.

• El contexto del sector en el que se inserta ese uso.

• El nivel de involucramiento del sistema de IA con un sector en concreto.

• Margen de error y grado de riesgo aceptable, el cual debe variar para cada sistema de IAs, que se implemente en Colombia.

En el año 2020 se radico el Proyecto de Ley 021 de 2020, por medio del cual se regula el uso y desarrollo de la IA. Desafortunadamente, este proyecto de ley posee deficiencias conceptuales, técnicas y falta de pertinencia, aunque vale la pena resaltar el entusiasmo regulatorio sobre la IA, en virtud de que una eventual construcción normativa sea eficiente, relevante e informada.

La regulación debe también considerar definiciones apropiadas sobre las IA, reconociendo sus particularidades (un sistema en continua evolución, que aprende, desarrolla y se transforma a sí mismo), determinando que existe una amplia diversidad de usos, que deben estar encaminados desde una perspectiva basada en problemas y riesgos enfocando eficientemente las necesidades regulatorias y atendiéndolas en proporción, dependiendo de si el uso implica un riesgo alto o bajo, como primer filtro.

45

En el año 2019, El presidente Iván Duque Márquez anuncio que una de las metas de su gobierno es que el país tenga una política pública para determinar cuál es la formación requerida, y el marco regulatorio necesario con el objetivo de que Colombia sea pionera en este tipo de tecnologías emergentes propias de la llamada Cuarta revolución industrial (MinTIC, 2019).

Aunque, la respuesta al derecho de petición, el cual fue elaborado para esta investigación, continúa dejando en evidencia que actualmente no existe una propuesta legislativa fuerte respecto al uso de las inteligencias artificiales, debido a sus bajos niveles de adopción en el país. Según la respuesta del ministerio de tecnologías de la información y las comunicaciones, toda iniciativa legislativa debe hacerse con base a estudios técnicos que muestren la tipología, el alcance y madurez de tecnologías de inteligencia artificial y justamente el MinTIC se encuentra trabajando en dichos estudios junto con el centro para la cuarta revolución industrial, con el fin de formular políticas públicas y normatividades necesarias para la regulación del uso de estas nuevas tecnologías (MinTIC, 2019).

LOS SUJETOS DE DEBERES

Figura 3 Inteligencia Artificial (Ceballos 2011)

El siglo XXI llegó con el imperio de las tecnologías de las comunicaciones y la información, particularmente con la masificación de la internet y su uso en todos los aspectos de la vida humana a través de los teléfonos móviles, que ha evolucionado hasta convertirse en verdaderos centros de información, que bien pueden ya considerarse una prótesis del ser humano contemporáneo.

46

No sólo se trata de comercio, de intercambios académicos, religiosos, sexuales o políticos, sino de la digitalización de la vida en todos sus niveles, convirtiendo al ser humano en una suerte de artilugio digital, cuya existencia real depende de su existencia virtual. Shows como los del Gran Hermano de Orwell (1949), o reality shows (Weir, 1998) son más que evidentes con las personas publicando su vida en redes sociales como Facebook, Twitter, Instagram y otras; evidenciando que cada vez son menos los espacios para la intimidad. La perspectiva más terrible de esta realidad nos la ofreció The Matrix (Wachowsky, 1999), en la que los seres humanos estaban, literalmente, conectados a las máquinas, lo que no deja de ser evidente con la dependencia protésica del ser humano con los móviles, por ejemplo.

Las Inteligencias Artificiales, Androides y Robots son ya parte de nuestra realidad, no son asuntos del futuro. Por lo tanto, el derecho debe reflexionar sobre estas realidades, particularmente a partir de las ideas que:

• Son creaciones humanas, lógicas, racionales y funcionales, donde la intencionalidad o finalidad humana detrás de cada IA, Androide o Robot debe evaluarse en función del discurso de defensa de los Derechos Humanos;

• Estas creaciones humanas interactúan con nuestras sociedades e individuos todo el tiempo, pues su labor es fundamental para el buen desempeño de los sistemas informáticos complejos, como la exploración espacial (el Curiosity, por ejemplo, explorando Marte), la investigación médica, la astronomía, la física cuántica, entre otras.

• Las Inteligencias Artificiales, al ser programas informáticos racionales, lógicos, dotados de ciertos niveles autonomía y que tienen interlocución con la humanidad, no son cosas, bienes, o herramientas. Los robots y androides, al ser realidades materiales, si poseen IA entrarían dentro de la perspectiva de ser mucho más que cosas.

• Las Inteligencias Artificiales, Androides y Robots son superiores, racionalmente, a los seres humanos (Deep Blue vs Kasparov en 1997, por ejemplo), aunque carecen, por decirlo de alguna manera, de creatividad y espiritualidad, asuntos importantes en la formación de la civilización humana. Si no son cosas, ¿qué son? La propuesta es la creación de la categoría dogmática de los sujetos de deberes, a mitad de camino entre cosas y personas jurídicas. Sobre estos sujetos de deberes se imponen límites, deberes, sin que tengan derecho alguno por carecer de ese estatus, reservado a los seres vivientes como especies, individuos (humanos, seres sintientes) y ecosistemas.

47

• Siendo este siglo el de la masificación de las tecnologías de las comunicaciones y la información, es pertinente reconocer y visibilizar la existencia del poder informático para la realidad jurídica; entendido este poder como el que otorga la capacidad de recolectar, usar e interpretar datos usando las tecnologías de las comunicaciones y la información. Poder que le permite, a quien lo ostenta, la capacidad de ejercer todo tipo de influencias sobre las personas, tanto liminales (encaminadas a la compra de bienes y servicios principalmente, por ejemplo), como las subliminales, las más peligrosas, pues como en el caso evidenciado con Facebook y Cambridge Analítica (Vercelli, 2018), socavan el ejercicio pleno del poder ciudadano. Y si bien existen leyes de protección de los datos (Leyes 1266 de 2008, 1341 de 2009 y 1581 de 2012, además de una amplia serie de decretos y resoluciones del Ministerio de las TIC y la Comisión de Regulación de Comunicaciones), el poder informático está lejos de ser contenido en función del respeto a los Derechos Humanos.

• La persona virtual (T-414, 1992), entendida como un reflejo digital de las personas humanas en lo virtual, está expuesta al poder informático, en donde se mueven con libertad las IA. Existe, por tanto, la necesidad de conceptualizar e incorporar el concepto de sujeto de deberes, en donde IA, Androides y Robots se vean obligados a incorporar en sus programaciones profundas mecanismos inhibitorios para actuar en contra de los seres humanos, tal y como lo pensó Asimov con las leyes de la robótica (Asimov, Yo, Robot, 1984): 1- Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño. 2-Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley. 3- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

Existen algunas propuestas teóricas para abordar la manera en que se deben regular estos interlocutores humanos, concentradas en la protección del ser humanos a la manera en que lo propuso Asimov en sus relatos de ciencia ficción. Los principios de Asilomar (Pacific Groove, California), por ejemplo, propuestos en 2017 son una suerte de ampliación de las leyes de la robótica para a investigación, el desarrollo y la aplicación de la inteligencia artificial y tiene que ver con la creación de Inteligencia Artificial beneficiosa para el conjunto humano como especie, no de determinados sectores como acurre actualmente con las grandes corporaciones informáticas.

48

• La IA es un asunto que necesita del diálogo entre las ciencias informáticas y el derecho (académicos, jueces, legisladores, litigantes, estudiantes) a fin de establecer los puentes necesarios para el uso benéfico para la humanidad.

• Los sistemas de IA deben ser seguros a lo largo de sus vidas operativas, verificables y controlables por los seres humanos, existiendo procedimientos para establecer si se ha podido ejercer algún daño a los seres humanos.

• Transparencia para la intervención de sistemas autónomos de IA, acompañados explicaciones satisfactorias y auditables por parte de una autoridad humana competente.

• Los diseñadores y desarrolladores de IA son responsables directos de las decisiones de éstas frente al grado de autonomía otorgado en la programación. Son, en alguna medida, los tutores y representantes legales de las IA.

• Privacidad personal: las personas tienen el derecho de acceder, gestionar y controlar los datos que generan, así como poder de autorizar o no, los análisis de parte de las IA.

• Prohibir el desarrollo de IA para la carrera armamentística de armas autónomas letales.

• Las IA deben contribuir al respeto y protección a los Derechos Humanos y el cuidado planetario; lo que supone el respeto a los derechos de los seres sintientes y de la naturaleza (buen vivir).

• Los sistemas de IA diseñados para auto mejorarse recursivamente o autorreplicarse deben estar sujetos a unas estrictas medidas de control y seguridad humana.

En todo caso, la reflexión jurídica apenas inicia, y tarde, porque el desarrollo de IA, Androides y Robots de todo tipo es una carrera para las súper potencias y las grandes megacorporaciones. Países periféricos en el desarrollo de estas tecnologías como Colombia, ven lejana aún la reflexión jurídica sobre estas realidades, y particularmente desde el plano teórico. Los sujetos de deberes, categoría que se propone en el presente informe, es sólo un punto de partida para la reflexión jurídica y su desarrollo.

49

CONCLUSIONES

• El siglo XXI llegó con el imperio de las tecnologías de las comunicaciones y la información, particularmente con la masificación del internet y su uso en todos los aspectos de la vida humana. No sólo se trata de comercio, de intercambios académicos y políticos, sino de la digitalización de la vida en todos sus niveles. Shows como los del Gran Hermano, bajo diferentes perspectivas (reality shows), o redes sociales como Facebook, Twitter y otras, demuestran que cada vez son menos los espacios para la intimidad, tal y como le acontece al protagonista de The Trueman´s Show (Weir, 1998). La perspectiva más terrible de esta realidad nos la ofreció The Matrix (Wachowsky, 1999), en la que los seres humanos estaban, literalmente, conectados a las máquinas.

• Las Inteligencias Artificiales, Androides y Robots son ya parte de nuestra realidad, no son asuntos del futuro. Por lo tanto, el derecho debe reflexionar sobre estas realidades, particularmente a partir de la idea que: 1) Son creaciones humanas, lógicas, racionales y funcionales, asunto último donde está la intencionalidad o finalidad humana detrás de cada IA, Androide o Robot; 2) Estas creaciones interactúan con nuestras sociedades e individuos todo el tiempo, pues su labor es fundamental para el buen desempeño de la internet y, en general, de sistemas informáticos complejos, como la exploración espacial (el Curiosity, por ejemplo, explorando Marte). Las IA son programas informáticos racionales, lógicos, dotados de ciertos niveles autonomía y que tienen interlocución con la humanidad.

• Las Inteligencias Artificiales, Androides y Robots no son cosas, porque razonan e interactúan con los seres humanos. Incluso son superiores, racionalmente, a estos (Deep Blue vs Kasparov en 1997), aunque carecen, por decirlo de alguna manera, de creatividad y espiritualidad, asuntos importantes en la formación de la civilización humana. Si no son cosas, ¿qué son? La propuesta es la creación de la categoría jurídica de los sujetos de deberes, a mitad de camino entre cosas y personas jurídicas. Sobre estos sujetos de deberes se imponen límites, deberes, sin que tengan derecho alguno por carecer de ese estatus, reservado a los seres vivientes como especies (humanos, seres sintientes) y ecosistemas.

• Siendo este siglo el de la masificación de las tecnologías de las comunicaciones y la información, es pertinente reconocer y visibilizar la existencia del poder informático, entendido como el que otorga la capacidad de recolectar, usar, interpretar datos usando las tecnologías de las comunicaciones y la información. Poder que le permite, a quien lo ostenta, la capacidad de ejercer todo tipo de influencias sobre las personas, tanto liminales (encaminadas a la compra de bienes y servicios principalmente, por

50

ejemplo), como las subliminales, las más peligrosas, pues como en el caso evidenciado con Facebook, socavan el ejercicio pleno del poder ciudadano. Y si bien existen leyes de protección de los datos (Leyes 1266 de 2008, 1341 de 2009 y 1581 de 2012, además de una amplia serie de decretos y resoluciones del Ministerio de las TIC y la Comisión de Regulación de Comunicaciones), el poder informático está lejos de ser contenido en función del respeto a los Derechos Humanos, de los Seres Sintientes y de la Naturaleza.

• La persona virtual (T-414, 1992) está expuesta al poder informático, en donde se mueven con libertad las IA. Existe, por tanto, la necesidad de conceptualizar e incorporar el concepto de sujeto de deberes, en donde IA, Androides y Robots se vean obligados a incorporar en sus programaciones profundas mecanismos inhibitorios para actuar en contra de los seres humanos, tal y como lo pensó Asimov con las leyes de la robótica (Asimov, Yo, Robot, 1984): 1- Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño. 2-Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley. 3- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.

• La dogmática prospectiva es una técnica que, aprovechando la dogmática jurídica para la reflexión de la relación del ser humano con las máquinas pensantes, acude al cine y la literatura de ciencia ficción como fuente para la reflexión jurídica. Por tanto, toda Inteligencia Artificial, Androide o Robot deberán: 1) Proteger la vida de los seres humanos, los seres sintientes y los ecosistemas; 2) Obedecer las órdenes humanas siempre que éstas no atenten contra la primera ley; 3) Preservar su propia existencia a menos que ésta entre en conflicto contra las dos primera leyes; 4) Proteger la libertad, intimidad y demás derechos humanos frente a sí mismas, otras IA, así como otros humanos; y 5) Planear, desarrollar y ejecutar, mancomunadamente con la humanidad, la búsqueda del buen vivir.

• La hibridación con las máquinas de parte de los seres humanos no es sólo física, sino mental, y está en desarrollo conforme el relevo generacional va dando paso a todos aquellos seres humanos que han nacido bajo el imperio de las tecnologías de la informática y las telecomunicaciones. Esa hibridación necesita pensarse desde el plano jurídico y lo que significa la interacción de los ciborgs con los seres humanos, en los que la mediación de las Inteligencias Artificiales es fundamental.

51

BIBLIOGRAFÍA

Acosta, A. (2010). Hacia la Declaración Universal de los Derechos de la naturaleza. AFESE.

Acosta, J. (2018). Pueblos indígenas, acción de tutela y derecho fundamental a la. Diálogos de Derecho y Política, 39-58.

Amazonía, STC-4360 (Corte Suprema de Justicia 2018).

Arizmendi, M. (2020). Más que humanos: el robot en la ciencia ficción. Revista Digital Universitaria Vol. 21, Núm. 2.

Asimov, I. (1984). Yo, Robot. Barcelona: EDHASA Disponible en https://irreverenciaemergente.files.wordpress.com/2015/05/asimov-isaac-futuro-01-yo-robot.pdf.

Asimov, I. (1999). Sobre la ciencia ficción. Pocked https://molicarbajal.files.wordpress.com/2015/06/asimov-isaac-sobre-la-cf.pdf.

Atienza, M. (2016). La dogmática jurídica como tecno-práxis. En M. Carbonell, H. Fix, & D. Valadés, Estado constitucional, derechos humanos, justicia y vida universitaria. Estudios en homenaje a Jorge Carpizo. Estado constitucional, tomo IV, volumen 1. México: UNAM, Instituto de Investigaciones Jurídicas.

Barceló, M. (2005). Ciencia y ciencia ficción . Revista Digital Universitaria Volumen 6 Número 7.

Barrera, L. (2012). Fundamentos históricos y filosóficos de Inteligencia Artificial. UCV-HACER. Revista de Investigación y Cultura, vol. 1, núm. 1, 87-92.

BBC. (9 de mayo de 2018). Qué es el Basilisco de Roko, el aterrador experimento mental que unió a Elon Musk y la cantante Grimes. Obtenido de BBC: - https://www.bbc.com/mundo/noticias-44060891

BBC Mundo Tecnología. (30 de octubre de 2017). Sophia, la robot que tiene más derechos que las mujeres en Arabia Saudita. BBC Mundo, pág. s.p.

Bernasconi, A. (2007). El carácter científico de la dogmática jurídica. Revista de Derecho, Vol. XX - N° 1, 9-37.

Bonachera, A. (2017). Vida artificial: el ciborg, representación posmoderna de nuestras ansiedades. Revista de Filología N° 35, 51-72.

Cáceres, E. (2006). Inteligencia artificial, derecho E-Justice (el Proyecto IIJ-Conacyt). Boletín Mexicano de Derecho Comparado, vol. XXXIX, núm. 116, 593-611.

52

Calvo, J. (2015 ). Teoría literaria del derecho. En Á. N. Jorge Luis Fabra Zamora, Enciclopedia de Filosofía y teoría del derecho, volumen uno (pág. 892). México: UNAM, Instituto de Investigaciones Jurídicas.

Cameron, J. (Dirección). (1984). El Exterminador [Película].

Casanovas, P. (2010). Inteligencia Artificial y Derecho: a vuelapluma. En Varios, Teoría y Derecho. Revista de Pensamiento Jurídico (págs. 203-221). Barcelona: Tirant lo Blanc.

Ceballos, F. (2016). Colombia y los derechos de la naturaleza: desafíos ambientales y pueblos originarios. En O. R. Editora, Nuevas perspectivas de la investigación jurídica y socio jurídica en Nariño (págs. 172-183). Pasto: Editorial Institución Universitaria CESMAG.

Ceballos, F. (2019). Las personas, las cosas y la propiedad a partir de los sujetos de derecho no humanos. En V. autores, Rol de la Educación Superior frente a los desafíos sociales (págs. 72-80). Pasto: La Red de Instituciones de Educacion Superior de Ecuador y Colombia-Universidad Cooperativa de Colombia.

Ceballos, F. (2020). Otros sujetos de derechos o personas (?). Estudios Socio Jurídicos N° 22, 321-351.

Ceballos, F. (2021). Teoría Heterogénea del concepto de Persona en Derecho. Estudios de Derecho Vol. 78 N° 171.

Chaplin, C. (Dirección). (1936). Tiempos Modernos [Película].

Código Civil Colombiano. (Artículo 74).

Colombano, S. (2018). New Assumptions to guide SETI research. Moffett Field, CA.: NASA Informe / Número de patente: ARC-E-DAA-TN53461.

Columbus, C. (Dirección). (1999). El hombre bicentenario [Película].

De La Rosa, E. V. (10 de 04 de 2019). La desigualdad en Colombia. Obtenido de La República: https://www.larepublica.co/analisis/eduardo-verano-de-la-rosa-500119/la-desigualdad-en-colombia-i-2849669

DeLucas, J. (2017). El derecho a través del cine. Academicus. Revista de Ciencias de la educación, 40-49.

El financiero. (2 de Noviembre de 2017). Sophia,la primera robot humanoide, cuenta con ciudadanía; ¿realmente fue una buena idea? Obtenido de El Financiero: https://www.elfinanciero.com.mx/

Federal Boreau of Investigations. (s.f.). Project Blue Book. https://vault.fbi.gov/Project%20Blue%20Book%20%28UFO%29%20/Project%20Blue%20Book%20%28UFO%29%20part%201%20of%201.

53

Figueroa, R. (2007). Concepto de persona, titularidad del derecho a la vida y aborto. Revista de Derecho (Valdivia), vol. XX, núm. 2, 95-130.

Fortunat-Stagl, J. (2015). De cómo el hombre llegó a ser persona: Los orígenes de un concepto jurídico-filosófico. Revista de Derecho (Valparaiso), vol. XLV, julio-diciembre, 373-401.

Foucault, M. (2001). Defender la Sociedad. Buenos Aires: Fondo de Cultura Económica.

Foucault, M. (2002). Las palabras y las cosas. Buenos Aires: Siglo XXI Editores S. A. Disponible en http://www.uruguaypiensa.org.uy/imgnoticias/682.pdf.

Foucault, M. (2003). Vigilar y Castigar. Buenos Aires: Siglo XXI Editores S.A. Disponible en https://www.ivanillich.org.mx/Foucault-Castigar.pdf.

Galeano, M. (2017). Estudios de derecho y cine: entramados de una historia que ya se está rodando. Revista CES Derecho (8) 2, 298-321.

Gudynas, E. (2010). La senda biocéntrica, valores intrrínsecos, derechos de la naturaleza y justicia ambiental. Tábúla Rasa N° 13, 45-71.

Gudynas, E. (2011). Desarrollo, derechos de la naturaleza y buen vivir después de Montecristi. En G. W. Editora., Debates sobre cooperación y modelos de desarrollo. Perspectivas desde la sociedad civil en el Ecuador (págs. 83-102). Quito: Centro de Investigaciones CIUDAD y Observatorio de la Cooperación al desarrollo.

Hables, C. (2011). Homo Ciborg: Cincuenta años después. Teknocultura: Revista de cultura digital y movimientos sociales Vol. 8 Nº: 2, 83-104.

Hanson, D. (s.f.). https://www.hansonrobotics.com/. Obtenido de https://www.hansonrobotics.com/sophia/

Haraway, D. (1984). El sueño irónico de un lenguaje común para las mujeres en el circuito integrado. Obtenido de https://xenero.webs.uvigo.es/profesorado/beatriz_suarez/ciborg.pdf

Hernández, E., Duque, N., & Cadavid, J. (2017). Big Data: una exploración de investigaciones, tecnologías y casos de aplicación. TecnoLógicas, vol. 20, no. 39.

Karam, A., & Magalhaes, R. (2009). Derecho y Literatura. acercamientos y perspectivas para repensar el Derecho. Revista Electrónica del Instituto de Investigaciones "Ambrosio L. Gioja" - Año III, Número 4, 164-213.

Kramer, S. (Dirección). (1961). Los juicios de Nuremberg [Película].

Kriegman, S., Blackiston , D., Levin, M., & Bongard, J. (2020). A scalable pipeline for designing reconfigurable organisms. PNAS Vol. 114 N° 4, 1853–1859.

54

Lang, F. (Dirección). (1927). Metrópolis [Película].

Leonard, A., & Conrad, A. (2010). La historia de las cosas. Buenos Aires: Fondo de Cultura Económica .

López, J. (2019). El Gólem, un hombre de barro para salvar a los judíos. https://historia.nationalgeographic.com.es/, https://historia.nationalgeographic.com.es/a/golem-hombre-barro-para-salvar-a-judios_14269/3.

López, R., & Gonzales, P. (2017). Grandes éxitos de la inteligencia artificial. En Inteligencia Artificial (págs. 118-145). Editorial CSIC Consejo Superior de Investigaciones Científicas.

López, R., & Gonzales, P. (2017). Orígenes de la Intelñigencia Artificial. En Inteligencia Artificial (págs. 17-35). Editorial CSIC Consejo Superior de Investigaciones Científicas.

Los Redondos. (1988). Todo un palo. Un baion para el ojo idiota. Buenos Aires, Argentina: Luzbola Patricio Rey y sus redonditos de ricota.

Lucas, G. (Dirección). (1977). Star Wars Ep. IV A New Hope [Película].

Molina, A. (2014). Derechos de los Animales: dela cosificación a la zoopolítica. Bogotá: Universidad Externado de Colombia.

Molina, J. (2014). Derechos de la naturaleza. Bogotá: Universidad Externado de Colombia.

Naciones Unidas. (1948). La Declaración Universal de Derechos Humanos. Obtenido de http://www.un.org: http://www.un.org/es/universal-declaration-human-rights/

National Security Agency. (s.f.). Índice de documentos ovni: Acción Civil No. 80-1562, "Ciudadanos contra el secreto de los objetos voladores no identificados contra la Agencia de Seguridad Nacional. Obtenido de https://www.nsa.gov/news-features/declassified-documents/ufo/

Novell, N. (2008). Literatura y Cine de Ciencia Ficción. Barcelona: Tesis Doctoral Universidad Autónoma de Barcelona.

Orestano, R. (1960). Diritti soggetivi e diritti senza soggetto .

Orwell, G. (1949). 1984. Disponible en http://www.itvalledelguadiana.edu.mx/librosdigitales/George%20Orwell%20-%201984.pdf.

Ponticicia Universidad Bolivariana. (1 de agosto de 2018). https://www.upb.edu.co/. Obtenido de https://www.upb.edu.co/es/noticias/sophia-david-hanson-escuela-verano

55

Redacción BBC News Mundo. (24 de junio de 2019). Cambridge Analytica: la multa récord que deberá pagar Facebook por la forma en que manejó los datos de 87 millones de usuarios. BBC Nwes https://www.bbc.com/mundo/noticias-49093124, pág. s.p.

Río Atrato, T-622 (Corte Constitucional 2016).

Rodríguez, D. (2015). Acercamientos a la ciencia ficción. La palabra (27), 173-187.

Rodríguez, J. (2001). Introducción a la prospectiva: metodologías, fases y explotación de resultados. Economía Industrial N° 342, 13-20. Obtenido de https://www.mincotur.gob.es: https://www.mincotur.gob.es/Publicaciones/Publicacionesperiodicas/EconomiaIndustrial/RevistaEconomiaIndustrial/342/1JesusRodriguez.pdf

Rozo, K. (septiembre de 2018). El robot Sophia, atractivo en la clausura de ANDICOM 2018 en Cartagena . Caaracol radio.

Ruiza, M., & Tamaro, E. (2004). Biografia de Herón de Alejandría. En Biografías y Vidas. La enciclopedia biográfica en línea. Barcelñona: https://www.biografiasyvidas.com/biografia/h/heron.htm.

Sabato, E. (1951). Hombres y Engranajes. Buenos Aires: http://biblio3.url.edu.gt/Libros/2012/LYM/homb_engSaba.pdf.

Sabato, E. (1953). Heterodoxia. https://es.scribd.com/doc/151982383/1953-heterodoxia-ernesto-sabato-pdf.

Saens, M. (2019). Derecho y Literatura. Eunomía. Revista en Cultura de la Legalidad N° 16, 273-282.

Safranski, R. (2002). El mal o el drama de la libertad. Barcelona: Tusquets Editores.

Sanchez, G. (5 de Junio de 2017). Asuntos Legales. Obtenido de Levantamiento del velo corporativo: https://www.asuntoslegales.com.co/analisis/gabriel-sanchez-560541/levantamiento-del-velo-corporativo-2517481

Scott, R. (Dirección). (1983). Blade Runner [Película].

Shelly, M. (1818). Frankenstein o el moderno Prometeo. https://www.elejandria.com/libro/frankenstein/mary-shelley/717.

Subirats, E. (2012). Mito,magia, mímesis. Antípoda. Revista de Antropología y Arqueología, núm. 15, 31-66.

T-414 (Corte Constitucional de Colombia 1992).

Thomas, H. (2001). (IA: Inteligencia Artificial). Polis vol. 1, núm. 2 https://www.redalyc.org/pdf/305/30500219.pdf, s.p.

56

Universidad Pontificia Bolivariana. (1 de agosto de 2018). Sophia y David Hanson, Escuela de Verano UPB. Obtenido de https://www.upb.edu.co/es/noticias/sophia-david-hanson-escuela-verano

Vercelli, A. (2018). La (des)protección de los datos personales: análisis del caso Facebook Inc. - Cambridge Analytica. 47 Jornadas Argentinas de Informática (pág. s.p.). Buenos Aires: Universidad de Palermo.

Villalba, J. (2016). Problemas bioéticos emergentes de la inteligencia artificial. Diversitas: Perspectivas en Psicología, vol. 12, núm. 1, 137-147.

Wachowsky, H. (Dirección). (1999). La Matriz [Película].

Weir, P. (Dirección). (1998). El Show de Trueman [Película].

57

ANEXOS

ANEXO 1 ARTÍCULO DE PUBLICACIÓN

SUJETOS DE DEBERES (INTELIGENCIAS ARTIFICIALES, ANDROIDES, ROBOTS) Y DOGMÁTICA PROSPECTIVA*

SUBJECTS OF LEGAL DUTIES (ARTIFICIAL INTELLIGENCES, ANDROIDS,

ROBOTS) AND PROSPECTIVE DOGMATIC

Franco Alirio Ceballos Rosero**

María Camila Muñoz Bastidas y Deysi Alejandra Mendoza Ortiz***

1- Resumen

Una concepción jurídica pertinente sobre las Inteligencias Artificiales, Androides y Robots

pasa por el reconocimiento de sus capacidades racionales, autonomía y aprendizaje;

convirtiéndolos en interlocutores frente a la humanidad, situación anticipada por la ciencia

ficción. Estas creaciones humanas, que desde una perspectiva alternativa y complementaria

pueden considerarse el reverso de los sujetos de derecho, pues toman decisiones, piensan y

actúan con propósitos definidos por sus programadores, e incluso por ellas mismas mediante

procesos de auto aprendizajes complejos. ¿Qué son, entonces, los robots, androides e

inteligencias artificiales? Para responder esta pregunta se propone la idea del sujeto de

deberes dentro de una teoría heterogénea del concepto de persona en derecho, para lo que se

necesita una dogmática jurídica prospectiva, que tomando como referencia el género literario

y cinematográfico de la ciencia ficción, reflexiones sobre los posibles escenarios que se

avecinan en la relación del ser humano con las máquinas pensantes.

Palabras clave: Inteligencias Artificiales, Androides, Robots, Derecho, Sujetos de Deberes,

Dogmática Prospectiva.

2- Abstract

* Artículo derivado del proyecto de investigación Otros sujetos de derechos: inteligencias artificiales,

androides y robots, financiado por el Comité para el Desarrollo de la Investigación de la Universidad

Cooperativa de Colombia, 2020. ** Abogado y Magister en Etnoliteratura de la Universidad de Nariño. Docente investigador de la Facultad de

Derecho, Campus Pasto, de la Universidad Cooperativa de Colombia, en temas relacionados con pueblos

indígenas y campesinos, derecho al agua, derechos de los seres sintientes y de la naturaleza. Email:

franco.ceballosr@campusucc.edu.co ORCID: https://orcid.org/0000-0002-2706-224X *** Estudiantes egresadas de la Facultad de Derecho Campus Pasto de la Universidad Cooperativa de Colombia.

Auxiliares de investigación del proyecto Otros sujetos de derechos: inteligencias artificiales, androides y

robots y coautoras del presente artículo. E-mail: deysi.mendoza@campusucc.edu.co y

maria.munozba@campusucc.edu.co

58

A pertinent legal conception on Artificial Intelligence, Androids and Robots goes through

the recognition of their rational capacities, autonomy and learning; turning them into

interlocutors with humanity, a situation anticipated by science fiction. These human

creations, which from a heterogeneous perspective can be considered the reverse of the

subjects of law, make decisions, think and act with purposes defined by their programmers,

and even by themselves through complex self-learning processes. What, then, are robots,

androids, and artificial intelligences? To answer this question, the idea of the subject of duties

is proposed within a heterogeneous theory of the concept of person in law, for which a

prospective legal dogmatic is needed, taking as reference the literary and cinematographic

genre of science fiction, reflections on the possible scenarios that lie ahead in the relationship

of human beings with thinking machines.

Keywords: Artificial Intelligence, Androids, Robots, Law, Subjects of Duties, Prospective

Dogmatic.

3- Introducción

El siguiente documento es una propuesta dogmática que se inserta dentro de una teoría

heterogénea del concepto de persona (Ceballos, 2021), aceptando como sujetos de derechos,

además de los seres humanos como individuos y colectividades, a entidades ecosistémicas y

algunos animales sersintientes, que incluso se acogen como parte de la familia humana, como

sucede con los perros y gatos, por ejemplo (Molina A. , 2014) (Ceballos, 2019). Esta teoría

heterogénea del concepto de persona propone que, además de los sujetos de derecho, existen

los sujetos de deberes, como su contracara y complemento al auge de las máquinas pensantes,

robots, androides e inteligencias artificiales que interactúan con los seres humanos.

Bajo esa idea de lo heterogéneo, el siguiente documento: 1) Delimita la teoría antedicha y el

concepto de sujeto de deberes; 2) Define los conceptos de Inteligencia Artificial, Androides

y Robots desde la perspectiva de la ciencia y la ficción (ciencia-ficción) para el abordaje

jurídico que se propone; y 3) Configura la dogmática prospectiva como método de abordaje

para los sujetos de deberes.

4- Teoría heterogénea del concepto de persona y sujetos de deberes

Los seres humanos son animales sersintientes y racionales; y por su imperio o dominio

racional, técnico y material sobre la naturaleza –ante todo a partir del predominio la ciencia

y el intercambio comercial (renacimiento, ilustración, modernidad), se conciben actualmente

a sí mismos, después de incontables guerras, esclavitudes, revoluciones, traiciones,

movimientos sociales y cambios en las formas del poder, como los únicos sujetos del derecho

o personas (Fortunat-Stagl, 2015); sin ningún tipo de exclusión, según lo establece la

Declaración Universal de los Derechos Humanos (1948). Los seres humanos son personas,

59

y éstas sólo pueden ser seres humanos, sea como individuos (persona natural) o como

colectividades fruto del consenso de voluntades (personas jurídicas).

Sin embargo, este antropocentrismo jurídico imperante, construido sobre la base de los

conceptos de dignidad, naturaleza y superioridad humana respecto a los demás seres

existentes, ha encontrado puntos de ruptura entre el nacimiento de los derechos ambientales

en 1972 con la Declaración de Estocolmo y el posterior desarrollo jurídico ambiental; y la

constitucionalización de los derechos de la naturaleza en 2008 en Ecuador (Acosta, 2010)

(Gudynas, 2011) (Molina J. , 2014) (Ceballos, 2016), y posteriormente en Colombia por vía

jurisprudencial (Río Atrato, 2016) (Amazonía, 2018). Hoy es más que evidente,

jurídicamente hablando, la existencia de otros sujetos de derecho de origen natural, sea como

ecosistemas o seres sintientes; replanteando el estatus y lugar en el mundo del ser humano,

reconociéndose, así mismo, como un ser sintiente más, inmerso y dependiente de los

ecosistemas donde vive. Esas reivindicaciones ecosistémicas, junto a la incorporación del

concepto de los sersintientes como sujetos de derecho autónomos frente a la humanidad con

la expedición de la Ley 1774 de 2016, han ampliado el espectro de las personas en derecho,

si entendemos ese concepto central como un constructo jurídico y no como una equivalencia

con la entidad biológica y cultural humana16.

Esta línea de fuga antropocéntrica del concepto de persona hacia sujetos de derecho no

humanos de origen natural, deja abiertas brechas para explorar posibilidades teóricas mucho

más ambiciosas y controversiales, relacionadas con aquellas creaciones humanas que

sobrepasan la dimensión de cosas por su naturaleza racional, dotada de niveles cada vez

superiores de autonomía frente a la interacción con los seres humanos en estos, los tiempos

de las tecnologías de las comunicaciones y la información; y del imperio de las máquinas

pensantes. Esta línea de fuga jurídica, sin embargo, no es no nueva, pues es la misma que nos

permite considerar como personas a creaciones abstractas como las personas jurídicas. El

contexto tecnológico (y tecnolátrico) en que habitamos hace necesario repensar las lógicas

jurídicas desde la perspectiva de la interlocución con máquinas pensantes, asunto que ha

dejado de ser cuestión de la ciencia ficción y que va más allá de la legislación sobre cosas,

bienes y derechos de autor17.

16 La teoría heterogénea del concepto de persona en derecho desarrolla otra ruptura, preliminar a la

antropocéntrica expuesta, en el concepto clásico que no se aborda en el presente documento de manera directa,

porque el sentido del mismo es avanzar hacia los sujetos de deberes. Esa otra ruptura se refiere a la idea de

persona natural como binaria, en la que no sólo tienen cabida los individuos de la especie humana, sino las

colectividades que no se conforman por el acuerdo de voluntades como las personas jurídicas, sino por la

tradición, la costumbre, el mito, la etnia o la espiritualidad (sujetos colectivos de derechos) (Ceballos, 2021)

Esta podría considerarse una suerte teoría ampliada del concepto de persona (Ceballos, 2020), y supone una

conceptualización diferente para el desarrollo jurídico de lo que podría denominarse el sector comunitario del

derecho, donde imperan lógicas alternas para concebir el bienestar, que no parten del individuo, sino de la

comunidad, como acontece con las comunidades indígenas, campesinas y afrodescendientes en Colombia; que

en común tienen ser agrarias, rurales, tradicionales, míticas y, actualmente, alineadas con la defensa de los

derechos ambientales y de la naturaleza. 17 Otra alternativa conceptual que queda fuera del presente documento hace referencia a la posibilidad teórica

(cada vez más aceptada) de la existencia de seres inteligentes no humanos provenientes de fuera del planeta

60

Partiendo de la hipótesis que las Inteligencias Artificiales, los Androides y Robots son

creaciones humanas que exceden la categorización de cosas, máquinas o herramientas por

sus racionalidades y autonomía, se considera la pertinencia proponer una nueva categoría

jurídica para estas creaciones humanas: los sujetos de deberes. Estos sujetos de deberes,

como categoría jurídica, son el reverso de un sujeto de derechos o persona, y sobre ellos se

imponen limitaciones para salvaguardar los Derechos Humanos (de los Seres Sintientes y de

la Naturaleza). Particularmente porque las personas humanas (naturales y jurídicas) están

expuestas a lo que desde 1992 la jurisprudencia constitucional conceptualizó como el poder

informático, o poder que se ejerce sobre las personas a través de la recolección y uso de datos

para establecer perfiles de datos o personas virtuales (T-414, 1992); y rastrear, numerar,

clasificar, jerarquizar, analizar e influir sobre los seres humanos, como aconteció con el caso

de Cambridge Analítica:

Christopher Wylie, un analista de datos que trabajó para Cambridge Analytica, quién

usó los datos e información suministrada por Facebook, dijo que ellos usaron datos

e información personal tomada sin permiso de millones de usuarios para implementar

un sistema que permitiera hacer perfiles de sus usuarios (personas naturales y

jurídicas), en particular votantes norteamericanos, con el propósito de dirigirles

mensajes específicos para influenciar su voto (Redacción BBC News Mundo, 2019).

En principio, queda claro que no se trató de una filtración de datos, ni de un hackeo

de información, sino de una operatoria, que aunque opaca, era relativamente conocida

por desarrolladores, empresas de publicidad / propaganda, Facebook Inc. e, incluso,

hasta podría haber sido notificada clara y legalmente a usuarios afectados. Por ello,

más allá de Cambridge Analytica – SCL, el análisis del caso permite suponer que

muchas otras empresas también podrían disponer de los datos de los usuarios de

Facebook Inc. para los más diversos fines: sean publicitarios, propagandísticos o

electorales. El daño a la protección de datos personales y al derecho humano de las

poblaciones ya es (tiende a ser) irreversible. Ningún estado o empresa podrá retrotraer

la situación dañosa a un estado anterior (de indemnidad) (Vercelli, 2018, pág. s.p.)

Tierra, si modificamos nuestras actuales perspectivas científicas de búsqueda de vida extraterrestre, rompiendo

nuestros límites mentales, físicos y conceptuales alrededor del tema: 1-Interstellar travel is impossible or highly

un likely 2-Radio waves continue to be the major form of communication for thousands or millions of years 3-

Intelligent civilizations would be based on carbon life 4- We have not been, and are not being… visited

(Colombano, 2018). Particularmente es interesante la aceptación, cada vez más fuerte, de concebir la

investigación ufológica como pertinente y aceptable dada la cantidad de casos y documentos existentes sobre

el tema, muchos de ellos liberados por agencias gubernamentales norteamericanas como el FBI o la NSA para

el acceso público (Federal Boreau of Investigations) (National Security Agency, s.f.).

61

Teoría Heterogénea del concepto de Persona en Derecho: los sujetos de deberes (Ceballos, 2021)

La propuesta teórica para abordar el tema de las IAs pasa por considerar la existencia del

concepto de sujetos de deberes para éstas, y limitar el poder informático (T-414, 1992) con

el que se puede afectar a las personas en el ejercicio pleno de sus derechos. Los sujetos de

deberes tienen límites al uso de sus alcances racionales, que a la manera de las leyes de la

robótica de Asimov (1984), incorporan inhibiciones en la programación profunda de una

máquina pensante. Siguiendo la línea de reflexión trazada por Asimov, toda IA, Androide y

Robot para la presente propuesta, debe: 1) Proteger la vida de los seres humanos, los seres

sintientes y los ecosistemas, 2) Obedecer las órdenes humanas siempre que éstas no atenten

contra la primera ley, 3) Preservar su propia existencia a menos que ésta entre en conflicto

contra las dos primera leyes, 4) Proteger la libertad, intimidad y demás derechos humanos

frente a sí mismas, otras IAs, así como otros humanos, y 5) Planear, desarrollar y ejecutar,

mancomunadamente con la humanidad, la búsqueda del buen vivir.

5- Los sujetos de deberes: aproximación desde la ciencia ficción

El espacio más generalizado para abordar el tema de las Inteligencias Artificiales–IA–,

Androides y Robots es, sin lugar a dudas, el cine y la literatura de ciencia ficción (Asimov,

1999) (Barceló, 2005) (Novell, 2008) (Rodríguez D. , 2015), siendo la literatura la fuente de

la que ha bebido el cine para bordar estos temas, particularmente desde el encumbramiento

de la razón científica en la historia de occidente, y los miedos que se hicieron evidentes desde

entonces, particularmente a la mecanización a todo nivel, incluida la propia vida humana, en

lo que Sabato denominó las paradojas de la razón: 1) De la idea del individuo a la

masificación, 2) Del humanismo hacia la deshumanización, y 3) Del naturalismo a la

máquina (Sabato, Hombres y Engranajes, 1951).

5.1- La ciencia ficción

El concepto de ciencia ficción es, en sí mismo, un oxímoron que ha hecho carrera desde que

el editor y escritor Hugo Gernsback acuñara el término en 1926 para referirse a las obras de

62

Julio Verne, H.G. Wells y E. Alan Poe como historias románticas apoyadas en hechos

científicos y visión profética (Novell, 2008); aunque las raíces se hunden en el tiempo hacia

el relato clásico de Mary Shelley Frankenstein o el moderno Prometeo (1818), en el que la

idea de la imitación de la vida por medios artificiales posibilitados por el uso de la razón

científica, desencadenan temores profundos ya presentes en los mitos de diferentes pueblos

de la Tierra; que en la versión judeo-cristiana, por ejemplo, ejemplifica de manera evidente

cómo una creación racional puede salirse de las manos de su creador. La ciencia ficción es,

en estricto sentido, la prospección, en clave mítica, de los miedos que el uso de la ciencia ha

desencadenado en la humanidad, particularmente como creadora de vida a imitación de la

naturaleza y los dioses. Siguiendo esta idea, si bien la ciencia ficción empieza con la

denominación propuesta por Gernsback, así como por el impulso dado por escritor John W.

Campbell con la revista Astounding Science Fiction (Novell, 2008), es posible rastrear el

origen de éste género literario aún más atrás siguiendo a Darko Suvin (1930-), literato

yugoslavo/croata, quien enmarca los relatos utópicos y de viajes extraordinarios anteriores a

las revoluciones industriales y liberales como antecesores del género (Novell, 2008).

En todo caso, la ciencia ficción como género literario (y más tarde cinematográfico), se

presenta como lenguaje propicio para elucubrar sobre las infinitas posibilidades que se

desencadenan en un mundo desatado para la exploración racional humana, encontrando

como puntos de inflexión los grandes descubrimientos y catástrofes de finales del siglo XIX

y mediados del siglo XX, en los que la razón encontraría el ultimátum que pesa sobre la

humanidad desde entonces:

Así es nuestro tiempo. El mundo cruje y amenaza derrumbarse, ese mundo que, para

mayor ironía, es el producto de nuestra voluntad, de nuestro prometeico intento de

dominación. Es una quiebra total. Dos guerras mundiales, las dictaduras totalitarias y

los campos de concentración nos han abierto por fin los ojos, para revelarnos con

crudeza la clase de monstruo que habíamos engendrado y criado orgullosamente

(Sabato, Hombres y Engranajes, 1951).

Como dato significativo, el primer filme declarado por la UNESCO como parte del Programa

Memoria del Mundo es Metrópolis, de Fritz Lang (1927), película alemana que encarna los

temores de la modernidad, que veía como la sociedad, con cada vez más facilidad, era

mecanizada y controlada con la ayuda de las máquinas al servicio de élites perversas

dispuestas a esclavizar a la humanidad18. El género de la ciencia ficción, como visión

profética del mundo a partir de la perspectiva científica, se ha convertido en el espacio idóneo

para el análisis de los peligros de la razón.

18 En Metrópolis, una Ciudad-Estado controlada por la Élite, en la que los Trabajadores son esclavizados en el

subsuelo, una mujer, María, se encarga de llevar ideas revolucionarias para la transformación del mundo, pero

bajo la consigna de hacer lo de forma pacífica. Para contrarrestar la acción de María, la Élite desarrolla un

androide o robot antropomorfo capaz de imitar a María y cambiar su discurso por uno violento, incentivando a

la revolución a los trabajadores y propiciar la represión violenta que extinga los vientos de cambio. La idea

central, la posibilidad de la imitación de la humanidad es central en el filme.

63

5.2- Inteligencias Artificiales, Androides y Robots

Uno de los objetivos de la ciencia es descubrir los secretos de naturaleza e imitarlos, sea con

aparatos voladores, vehículos que corran más rápido que las gacelas, o con cerebros que

piensen como lo hacemos los humanos, o mejor; ser como dioses, creadores de la vida por

caminos antinaturales. Las inteligencias artificiales son creaciones humanas con capacidades

racionales, lógicas, matemáticas, capaces de emular la inteligencia racional humana y

superarla (Cáceres, 2006) (Casanovas, 2010). Una IA no sólo es capaz de procesar y manejar

volúmenes de datos inmensos (big data) (Hernández, Duque, & Cadavid, 2017); por lo que

su interacción con estos está sujeta a la desigualdad que impone sus capacidades de

raciocinio19. Y bien es cierto que las IA no tienen nada parecido a la voluntad y libertad

humanas, actualmente el enfoque no es completamente el de emular una inteligencia humana

desarrollada, sino una que pueda crecer a partir del aprendizaje constante, lo que se conoce

como robótica del desarrollo (López & Gonzales, 2017). Actualmente existen muchas IA

desplegadas en diferentes funciones para el buen funcionamiento del internet y otros sistemas

informáticos, incluidos Robots y Androides. Google, por ejemplo, pasó de ser un simple

buscador de páginas web, a todo un sistema de análisis de los usuarios que usan sus

plataformas, creando perfiles de datos, a fin de brindar mejores experiencias en la

navegación, a través del conocimiento de los gustos y tendencias. El ejemplo de Cambridge

Analítica deja en evidencia los peligros que se cierne sobre la persona humana y sus derechos

con el empoderamiento del mundo digital sobre todos los aspectos de la vida humana

(Vercelli, 2018) (Redacción BBC News Mundo, 2019).

No toda IA es un robot o androide, pues para que ello sea así, la IA debe poseer un cuerpo

físico, sea mecánico o biológico, si nos atenemos a los actuales desarrollos biológicos que

han permitido manipular no sólo el ADN, sino los mecanismos para producir artefactos

biológicos capaces de cumplir funciones programables con la ayuda de poderosas IA

(Kriegman, Blackiston , Levin, & Bongard, 2020).20

19 El caso de Deep Blue, la IA que fue capaz de derrotar a Gary Kasparov entre 1996 y 1997 es particularmente

interesante, porque marca una ruptura frente a una posible supremacía racional de la especie humana sobre las

máquinas. Deep Blue fue capaz no sólo de derrotar a Kasparov, sino de hacerlo abandonar el juego abrumado

por la supremacía racional de la máquina. Sin lugar a dudas, una IA tendrá ventajas racionalmente hablando

frente a cualquier ser humano, y esa diferencia evidente, necesita pensarse en función de una regulación que

proteja al ser humano que podría interactuar dentro del mundo digital. Entre Deep Blue y las capacidades de

las IA actuales, la diferencia es más que abrumadora (Thomas, 2001). 20 “Living systems are more robust, diverse, complex, and supportive of human life than any technology yet

created. However, our ability to create novel lifeforms is currently limited to varying existing organisms or

bioengineering organoids in vitro. Here we show a scalable pipeline for creating functional novel lifeforms: AI

methods automatically design diverse candidate lifeforms in silico to perform some desired function, and

transferable designs are then created using a cell-based construction toolkit to realize living systems with the

predicted behaviors. Although some steps in this pipeline still require manual intervention, complete automation

in future would pave the way to designing and deploying unique, bespoke living systems for a wide range of

functions” (Kriegman, Blackiston , Levin, & Bongard, 2020).

64

5.3- Robots

El concepto de robot está asociado al desempeño de una labor mecánica del ser humano, por

principio, por lo que los robots tienen múltiples formas y apariencias, desde simples brazos

mecánicos en una fábrica ensambladora, por ejemplo, hasta complejos mecanismos que,

incluso, imitan la naturaleza humana con variadas funciones (Arizmendi, 2020).

5.4- Androides

Un androide es un robot que imita la naturaleza humana en, al menos, dos aspectos: 1) En su

apariencia externa; y 2) Que está diseñado para interactuar con el ser humano, siendo su

apariencia, un puente de comunicación. Los androides, en ese sentido, podrían ser de dos

tipos según las especulaciones de la ciencia ficción: o completamente mecánicos como C3PO

de Star Wars (Lucas, 1977), por ejemplo, o biológicos a través del diseño y manipulación

genética, así como la clonación, como los androides de Blade Runner (Scott, 1983), que bien

podrían denominarse como bio-droides al ser constructos biológicos.

5.5- Sophia

Sophia es un androide de apariencia humana femenina, desarrollado por la compañía Hanson

Robotics (Hanson, s.f.), la cual posee una IA maravillosa que le permite mantener

conversaciones en inglés de una manera que sorprende a la humanidad; y no es para menos,

pues está diseñada para aprender y adaptarse al comportamiento humano, lo cual le permite

interactuar con personas satisfactoriamente.

Quiero vivir y trabajar con humanos, por lo que necesito expresar emociones para

comunicarme con ellos y ganarme su confianza", explicó Sophia, quien dijo sentirse

"orgullosa y honrada". / "Mi inteligencia artificial fue diseñada en base a los valores

humanos de la sabiduría, la amabilidad y la compasión. Me esfuerzo por ser una robot

empática”, añadió (BBC Mundo Tecnología, 2017, pág. s.p.)

Este robot tiene la capacidad de expresar 60 gestos humanos, y además, puede seguir la

mirada de una persona, teniendo la capacidad de realizar reconocimiento facial para

complementar las conversaciones con seres humanos, yendo más allá de la literalidad de las

expresiones habladas. La empresa Hanson Robotics creó a Sophia con la intención de

convertirla en una compañera ideal para personas de la tercera edad, para servir como

recepcionista o como mayordomo; sin embargo, aún se considera que se encuentra en fase

de desarrollo y está aprendiendo a interactuar con los seres humanos. Sophia se convirtió en

el primer androide en ser considerada una ciudadana, al obtener esta condición en Arabia

Saudí en octubre de 2017, tal como lo comunicó vía Twitter el Centro Internacional de

Comunicaciones de Arabia Saudí en el marco de Future Investment Initiative II (BBC Mundo

Tecnología, 2017).

La existencia de Sophia como ciudadana de un país coloca en evidencia una realidad en

apariencia reservada para el futuro, pero que es parte del ahora. La ciudadanía robot, en sí

65

misma considerada, es un hecho socio jurídico interesante, una realidad que sobrepasa los

límites territoriales de Arabia Saudí, pues con ese reconocimiento, se impone un

reconocimiento general de esa ciudadanía por principio de reciprocidad entre los estados

nacionales. Sophia, como ciudadana de Arabia Saudí, goza de todos los derechos que esa

condición le otorga frente a otros Estados, como Colombia, que acogió su presencia en la

Escuela de Verano de la Universidad Pontificia Bolivariana en agosto de 2018 (Ponticicia

Universidad Bolivariana, 2018). ¿Cómo fue la entrada de Sophia al territorio colombiano?

¿Cómo objeto o ciudadana? ¿Permanece despierta o funcionando todo el tiempo? ¿En su

inactividad se convierte en cosa?

Si Sophia es una ciudadana Saudí, los países que tienen relaciones diplomáticas con éste

reconocen la ciudadanía robot, y por lo tanto se hace necesario resolver esta ruptura de la

estructura antropocéntrica del derecho, ya no en la dirección de la naturaleza como acontece

con los derechos de los animales sersintientes y la naturaleza, sino en la dirección de las

creaciones humanas que, a diferencia de las cosas, interactúan con nosotros desde

racionalidades y capacidades de aprendizaje que podrían amenazar a la humanidad. La

ciencia ficción está plagada de estas advertencias.

5.6- La persona virtual y el ciborg psicológico

La Corte Constitucional de Colombia, a través de la Sentencia T-414 de 1992, al decidir

sobre la protección de los derechos fundamentales de un ciudadano frente a la negativa de

Asobancaria de borrarlo de la lista de deudores morosos por prescripción de la deuda,

declarada por sentencia judicial, habló sobre dos conceptos clave de cara al mundo actual: el

poder informático y la persona virtual. El poder informático hace referencia al poder derivado

de los procesos de recolección, almacenamiento, procesamiento e interpretación de datos,

que bien puede hacerse por medios manuales o, como impera actualmente, por medios

electrónicos. La persona virtual es el concepto que utiliza la Corte Constitucional para

referirse a los perfiles de datos, o interpretación que se hace sobre los datos de una

determinada persona, sea natural o jurídica, y que son un reflejo digital; que se puede

considerar una especie de huella o rastro sobre el que se pueden y ejercen poderes de distinto

índole (T-414, 1992). El caso de Cambridge Analítica nos coloca en alerta sobre los alcances

de ese poder y las consecuencias (terribles) para una humanidad cada día más controlada por

aparatos tecnológicos y la tecnolatría.

Sobre la base de estos conceptos y su realidad, es pertinente agregar a la reflexión el concepto

del ciborg psicológico, que hace alusión a la hibridación del ser humano y las máquinas en

el plano mental. A diferencia del concepto tradicional de ciborg, que alude a la hibridación

de la biología con dispositivos o prótesis tecnológicos, la hibridación no (sólo) sucede a nivel

físico sino mental, mediante mecanismos de dependencia y adicción del ser humano hacia

diferentes dispositivos electrónicos; asunto palpable con los dispositivos móviles, frente a los

cuales el lenguaje evidencia realidades tenebrosas. Expresiones como me quedé sin batería,

o no tengo memoria suficiente, por ejemplo, revelan hasta qué punto la tecnología se ha

fusionado mentalmente con nosotros (Haraway, 1984) (Hables, 2011) (Bonachera, 2017).

66

Y si ello es así, ¿qué decir de los alcances del poder informático? Esa hibridación mental con

aparatos tecnológicos hace evidente que nuestra persona virtual está alimentada

constantemente por nosotros mismos, colocándonos en una situación en la que la intimidad

cada vez está siendo más reducida, posibilitando, de paso, convertirnos en datos y cifras para

análisis complejos destinados, tanto a vendernos cosas con eficiencia, como influir sobre

nuestras decisiones, en un plano en el que no somos conscientes plenamente de ello.

El problema principal, siguiendo la línea argumental trazada, es que al estar hibridados con

las máquinas, las IA tienen acceso a nuestros datos pudiendo elaborar perfiles complejos para

influir plenamente sobre nosotros, lo que hace evidente la necesidad de abordar desde la

perspectiva jurídica un estatus para estas creaciones humanas.

6- Dogmática prospectiva: la ciencia ficción como fuente para la reflexión jurídica

Utilizar la literatura o el cine para la reflexión jurídica no es algo novedoso (Karam &

Magalhaes, 2009) (Calvo, 2015 ) (Galeano, 2017) (DeLucas, 2017) (Saens, 2019). Puede

entenderse dos posibilidades básicas en esa relación: 1) el derecho como fuente para la

literatura y el cine, en cuyo caso serviría como medio de inspiración y expresión de procesos

importantes, tanto con funciones pedagógicas como de entretenimiento como, por ejemplo,

la película de Stanley Kramer Los juicios de Núremberg (1961); o 2) el cine y la literatura

como fuentes para la reflexión jurídica, sin que tengan que contar procesos o casos judiciales

para ello, como la película el Hombre Bicentenario de Chris Columbus (1999), que pese a

sus carencias cinematográficas, plantea un escenario interesante para la reflexión en el

sentido que se ha planteado en el presente documento. En todo caso, los lazos entre el

derecho, el cine y la literatura son importantes, y sobre éstas se cimienta la dogmática jurídica

prospectiva.

La dogmática prospectiva es una técnica necesaria para la reflexión jurídica alrededor de los

sujetos de deberes propuestos por la teoría heterogénea del concepto de persona en derecho.

Es dogmática porque apela a ésta como herramienta científica de análisis jurídico (Atienza,

2016) (Bernasconi, 2007)21; y como ciencia, el derecho utiliza diversas herramientas para

21 En todo caso, la discusión de si el derecho se puede o no catalogar como ciencia no se abordará en el presente

documento por su complejidad, aunque cabe aclarar que, pese a la ubicación tradicional del derecho como una

ciencia social, su praxis está más cercana al ejercicio del poder, y en eso podría el derecho catalogarse más

como una disciplina, en el sentido en que las teorías del poder de Foucault apuntaron. / Sólo a manera de

aclaración, para considerar al derecho más como una disciplina hay que partir de la premisa que el derecho, al

menos en las sociedades occidentales, articula el ejercicio del poder soberano, el poder político sobre el que

sustenta todo ordenamiento jurídico, cuya función no es tanto armonizar la sociedad en la búsqueda del bien

común, sino disciplinar una sociedad; colaborar, junto a otras disciplinas del poder como la medicina

psiquiátrica, o instituciones como la Escuela, la Iglesia o la Familia. El derecho, para ejecutar esos propósitos,

se reviste del saber que catapultó a occidente a la era tecnológica: la ciencia, encontrando en los postulados de

las libertades y la democracia, aliados en esos propósitos. / El derecho es, en este sentido una disciplina del

saber, en donde la verdad se define por consenso o razonamientos lógicos, que en todo caso van ligados a

vigilar, controlar, numerar, clasificar la sociedad (Foucault M. , 2001) (Foucault M. , 2002) (Foucault M. ,

2003)

67

que sus proposiciones (leyes, sentencias, doctrina) sean verificables, corazón de la

cientificidad; misma que depende de dos cosas básicas (Bernasconi, 2007): 1) la generalidad

de la reflexión jurídica, y 2) la réplica de una comunidad académica amplia, especializada y

con trayectoria.

Es prospectiva porque acude a la ciencia ficción (cine y literatura) como escenarios para

pensar la relación actual, y cada vez más profunda, del ser humano con las máquinas

inteligentes. La dogmática prospectiva es un método que sistematiza la reflexión

transdisciplinar que se propone (Derecho-Ciencia Ficción) como base del proceso, apoyada

en principios de creatividad, conocimiento e interacción (Rodríguez J. , 2001).

Para la reflexión sobre los sujetos de deberes es más que importante acudir a la literatura y

el cine de ciencia ficción a fin de reflexionar sobre las problemáticas que cada vez son más

parte de nuestra cotidianidad con el imperio de las máquinas inteligentes; y prevenir, desde

el plano jurídico, las pesadillas que ha producido el triunfo de la razón mecánica. Dos grandes

caminos de reflexión: 1) La condición jurídica de las máquinas inteligentes por sus amplias

y posibles implicaciones, como administrar un patrimonio autónomo o una empresa, decidir

sobre la vida o muerte de seres humanos, animales o ecosistemas (piénsese en misiles

autónomos u otro tipo de maquinaria de guerra que funcione con programas de inteligencia

artificial, transportes inteligentes), o diseñar biotecnologías que afecten (no necesariamente

bien) la vida de los seres humanos; y 2) la hibridación física y mental de las máquinas con

los seres humanos, produciendo ciborgs, que pueden llegar a representar un problema para

los derechos humanos, especialmente, ya que estos ciborgs pueden desarrollar sentidos

digitales, como la geolocalización, la agudización de los sentidos visuales y auditivos, o la

fuerza física.

7- Conclusiones

• El siglo XXI llegó con el imperio de las tecnologías de las comunicaciones y la

información, particularmente con la masificación del internet y su uso en todos los

aspectos de la vida humana. No sólo se trata de comercio, de intercambios académicos

y políticos, sino de la digitalización de la vida en todos sus niveles. Shows como los

del Gran Hermano, bajo diferentes perspectivas (reality shows), o redes sociales

como Facebook, Twitter y otras, demuestran que cada vez son menos los espacios

para la intimidad, tal y como le acontece al protagonista de The Trueman´s Show

(Weir, 1998). La perspectiva más terrible de esta realidad nos la ofreció The Matrix

(Wachowsky, 1999), en la que los seres humanos estaban, literalmente, conectados a

las máquinas.

• Las Inteligencias Artificiales, Androides y Robots son ya parte de nuestra realidad,

no son asuntos del futuro. Por lo tanto, el derecho debe reflexionar sobre estas

realidades, particularmente a partir de la idea que: 1) Son creaciones humanas,

lógicas, racionales y funcionales, asunto último donde está la intencionalidad o

finalidad humana detrás de cada IA, Androide o Robot; 2) Estas creaciones

68

interactúan con nuestras sociedades e individuos todo el tiempo, pues su labor es

fundamental para el buen desempeño de la internet y, en general, de sistemas

informáticos complejos, como la exploración espacial (el Curiosity, por ejemplo,

explorando Marte). Las IA son programas informáticos racionales, lógicos, dotados

de ciertos niveles autonomía y que tienen interlocución con la humanidad.

• Las Inteligencias Artificiales, Androides y Robots no son cosas, porque razonan e

interactúan con los seres humanos. Incluso son superiores, racionalmente, a estos

(Deep Blue vs Kasparov en 1997), aunque carecen, por decirlo de alguna manera, de

creatividad y espiritualidad, asuntos importantes en la formación de la civilización

humana. Si no son cosas, ¿qué son? La propuesta es la creación de la categoría

jurídica de los sujetos de deberes, a mitad de camino entre cosas y personas jurídicas.

Sobre estos sujetos de deberes se imponen límites, deberes, sin que tengan derecho

alguno por carecer de ese estatus, reservado a los seres vivientes como especies

(humanos, seres sintientes) y ecosistemas.

• Siendo este siglo el de la masificación de las tecnologías de las comunicaciones y la

información, es pertinente reconocer y visibilizar la existencia del poder informático,

entendido como el que otorga la capacidad de recolectar, usar, interpretar datos

usando las tecnologías de las comunicaciones y la información. Poder que le permite,

a quien lo ostenta, la capacidad de ejercer todo tipo de influencias sobre las personas,

tanto liminales (encaminadas a la compra de bienes y servicios principalmente, por

ejemplo), como las subliminales, las más peligrosas, pues como en el caso

evidenciado con Facebook, socavan el ejercicio pleno del poder ciudadano. Y si bien

existen leyes de protección de los datos (Leyes 1266 de 2008, 1341 de 2009 y 1581

de 2012, además de una amplia serie de decretos y resoluciones del Ministerio de las

TIC y la Comisión de Regulación de Comunicaciones), el poder informático está lejos

de ser contenido en función del respeto a los Derechos Humanos, de los Seres

Sintientes y de la Naturaleza.

• La persona virtual (T-414, 1992) está expuesta al poder informático, en donde se

mueven con libertad las IA. Existe, por tanto, la necesidad de conceptualizar e

incorporar el concepto de sujeto de deberes, en donde IA, Androides y Robots se vean

obligados a incorporar en sus programaciones profundas mecanismos inhibitorios

para actuar en contra de los seres humanos, tal y como lo pensó Asimov con las leyes

de la robótica (1984): 1- Un robot no hará daño a un ser humano o, por inacción,

permitirá que un ser humano sufra daño. 2-Un robot debe cumplir las órdenes dadas

por los seres humanos, a excepción de aquellas que entrasen en conflicto con la

primera ley. 3- Un robot debe proteger su propia existencia en la medida en que esta

protección no entre en conflicto con la primera o con la segunda ley.

• La dogmática prospectiva es una técnica que, aprovechando la dogmática jurídica

para la reflexión de la relación del ser humano con las máquinas pensantes, acude al

cine y la literatura de ciencia ficción como fuente para la reflexión jurídica. Por tanto,

69

toda Inteligencia Artificial, Androide o Robot deberán: 1) Proteger la vida de los seres

humanos, los seres sintientes y los ecosistemas; 2) Obedecer las órdenes humanas

siempre que éstas no atenten contra la primera ley; 3) Preservar su propia existencia

a menos que ésta entre en conflicto contra las dos primera leyes; 4) Proteger la

libertad, intimidad y demás derechos humanos frente a sí mismas, otras IAs, así como

otros humanos; y 5) Planear, desarrollar y ejecutar, mancomunadamente con la

humanidad, la búsqueda del buen vivir.

• La hibridación con las máquinas de parte de los seres humanos no es sólo física, sino

mental, y está en desarrollo conforme el relevo generacional va dando paso a todos

aquellos seres humanos que han nacido bajo el imperio de las tecnologías de la

informática y las telecomunicaciones. Esa hibridación necesita pensarse desde el

plano jurídico y lo que significa la interacción de los ciborgs con los seres humanos,

en los que la mediación de las Inteligencias Artificiales es fundamental.

8- Referencias

Acosta, A. (2010). Hacia la Declaración Universal de los Derechos de la naturaleza. AFESE.

Amazonía, STC-4360 (Corte Suprema de Justicia 2018).

Arizmendi, M. (2020). Más que humanos: el robot en la ciencia ficción. Revista Digital

Universitaria Vol. 21, Núm. 2.

Asimov, I. (1984). Yo, Robot. Barcelona: EDHASA Disponible en

https://irreverenciaemergente.files.wordpress.com/2015/05/asimov-isaac-futuro-01-

yo-robot.pdf.

Asimov, I. (1999). Sobre la ciencia ficción. Pocked

https://molicarbajal.files.wordpress.com/2015/06/asimov-isaac-sobre-la-cf.pdf.

Atienza, M. (2016). La dogmática jurídica como tecno-práxis. En M. Carbonell, H. Fix, &

D. Valadés, Estado constitucional, derechos humanos, justicia y vida universitaria.

Estudios en homenaje a Jorge Carpizo. Estado constitucional, tomo IV, volumen 1.

México: UNAM, Instituto de Investigaciones Jurídicas.

Barceló, M. (2005). Ciencia y ciencia ficción . Revista Digital Universitaria Volumen 6

Número 7.

Barrera, L. (2012). Fundamentos históricos y filosóficos de Inteligencia Artificial. UCV-

HACER. Revista de Investigación y Cultura, vol. 1, núm. 1, 87-92.

BBC Mundo Tecnología. (30 de octubre de 2017). Sophia, la robot que tiene más derechos

que las mujeres en Arabia Saudita. BBC Mundo, pág. s.p.

Bernasconi, A. (2007). El carácter científico de la dogmática jurídica. Revista de Derecho,

Vol. XX - N° 1, 9-37.

Bonachera, A. (2017). Vida artificial: el ciborg, representación posmoderna de nuestras

ansiedades. Revista de Filología N° 35, 51-72.

Cáceres, E. (2006). Inteligencia artificial, derecho E-Justice (el Proyecto IIJ-Conacyt).

Boletín Mexicano de Derecho Comparado, vol. XXXIX, núm. 116, 593-611.

70

Calvo, J. (2015 ). Teoría literaria del derecho. En Á. N. Jorge Luis Fabra Zamora,

Enciclopedia de Filosofía y teoría del derecho, volumen uno (pág. 892). México:

UNAM, Instituto de Investigaciones Jurídicas.

Casanovas, P. (2010). Inteligencia Artificial y Derecho: a vuelapluma. En Varios, Teoría y

Derecho. Revista de Pensamiento Jurídico (págs. 203-221). Barcelona: Tirant lo

Blanc.

Ceballos, F. (2016). Colombia y los derechos de la naturaleza: desafíos ambientales y pueblos

originarios. En O. R. Editora, Nuevas perspectivas de la investigación jurídica y socio

jurídica en Nariño (págs. 172-183). Pasto: Editorial Institución Universitaria

CESMAG.

Ceballos, F. (2019). Las personas, las cosas y la propiedad a partir de los sujetos de derecho

no humanos. En V. autores, Rol de la Educación Superior frente a los desafíos

sociales (págs. 72-80). Pasto: La Red de Instituciones de Educacion Superior de

Ecuador y Colombia-Universidad Cooperativa de Colombia.

Ceballos, F. (2020). Otros sujetos de derechos o personas (?). Estudios Socio Jurídicos N°

22, 321-351.

Ceballos, F. (2021). Teoría Heterogénea del concepto de Persona en Derecho. Estudios de

Derecho Vol. 78 N° 171.

Colombano, S. (2018). New Assumptions to guide SETI research. Moffett Field, CA.: NASA

Informe / Número de patente: ARC-E-DAA-TN53461.

Columbus, C. (Dirección). (1999). El hombre bicentenario [Película].

DeLucas, J. (2017). El derecho a través del cine. Academicus. Revista de Ciencias de la

educación, 40-49.

Federal Boreau of Investigations. (s.f.). Project Blue Book.

https://vault.fbi.gov/Project%20Blue%20Book%20%28UFO%29%20/Project%20B

lue%20Book%20%28UFO%29%20part%201%20of%201.

Fortunat-Stagl, J. (2015). De cómo el hombre llegó a ser persona: Los orígenes de un

concepto jurídico-filosófico. Revista de Derecho (Valparaiso), vol. XLV, julio-

diciembre, 373-401.

Foucault, M. (2001). Defender la Sociedad. Buenos Aires: Fondo de Cultura Económica.

Foucault, M. (2002). Las palabras y las cosas. Buenos Aires: Siglo XXI Editores S. A.

Disponible en http://www.uruguaypiensa.org.uy/imgnoticias/682.pdf.

Foucault, M. (2003). Vigilar y Castigar. Buenos Aires: Siglo XXI Editores S.A. Disponible

en https://www.ivanillich.org.mx/Foucault-Castigar.pdf.

Galeano, M. (2017). Estudios de derecho y cine: entramados de una historia que ya se está

rodando. Revista CES Derecho (8) 2, 298-321.

Gudynas, E. (2011). Desarrollo, derechos de la naturaleza y buen vivir después de

Montecristi. En G. W. Editora., Debates sobre cooperación y modelos de desarrollo.

Perspectivas desde la sociedad civil en el Ecuador (págs. 83-102). Quito: Centro de

Investigaciones CIUDAD y Observatorio de la Cooperación al desarrollo.

Hables, C. (2011). Homo Ciborg: Cincuenta años después. Teknocultura: Revista de cultura

digital y movimientos sociales Vol. 8 Nº: 2, 83-104.

Hanson, D. (s.f.). https://www.hansonrobotics.com/. Obtenido de

https://www.hansonrobotics.com/sophia/

71

Haraway, D. (1984). El sueño irónico de un lenguaje común para las mujeres en el circuito

integrado. Obtenido de

https://xenero.webs.uvigo.es/profesorado/beatriz_suarez/ciborg.pdf

Hernández, E., Duque, N., & Cadavid, J. (2017). Big Data: una exploración de

investigaciones, tecnologías y casos de aplicación. TecnoLógicas, vol. 20, no. 39.

Karam, A., & Magalhaes, R. (2009). Derecho y Literatura. acercamientos y perspectivas para

repensar el Derecho. Revista Electrónica del Instituto de Investigaciones "Ambrosio

L. Gioja" - Año III, Número 4, 164-213.

Kramer, S. (Dirección). (1961). Los juicios de Nuremberg [Película].

Kriegman, S., Blackiston , D., Levin, M., & Bongard, J. (2020). A scalable pipeline for

designing reconfigurable organisms. PNAS Vol. 114 N° 4, 1853–1859.

Lang, F. (Dirección). (1927). Metrópolis [Película].

López, R., & Gonzales, P. (2017). Grandes éxitos de la inteligencia artificial. En Inteligencia

Artificial (págs. 118-145). Editorial CSIC Consejo Superior de Investigaciones

Científicas.

López, R., & Gonzales, P. (2017). Orígenes de la Intelñigencia Artificial. En Inteligencia

Artificial (págs. 17-35). Editorial CSIC Consejo Superior de Investigaciones

Científicas.

Lucas, G. (Dirección). (1977). Star Wars Ep. IV A New Hope [Película].

Molina, A. (2014). Derechos de los Animales: dela cosificación a la zoopolítica. Bogotá:

Universidad Externado de Colombia.

Molina, J. (2014). Derechos de la naturaleza. Bogotá: Universidad Externado de Colombia.

Naciones Unidas. (1948). La Declaración Universal de Derechos Humanos. Obtenido de

http://www.un.org: http://www.un.org/es/universal-declaration-human-rights/

National Security Agency. (s.f.). Índice de documentos ovni: Acción Civil No. 80-1562,

"Ciudadanos contra el secreto de los objetos voladores no identificados contra la

Agencia de Seguridad Nacional. Obtenido de https://www.nsa.gov/news-

features/declassified-documents/ufo/

Novell, N. (2008). Literatura y Cine de Ciencia Ficción. Barcelona: Tesis Doctoral

Universidad Autónoma de Barcelona.

Ponticicia Universidad Bolivariana. (1 de agosto de 2018). https://www.upb.edu.co/.

Obtenido de https://www.upb.edu.co/es/noticias/sophia-david-hanson-escuela-

verano

Redacción BBC News Mundo. (24 de junio de 2019). Cambridge Analytica: la multa récord

que deberá pagar Facebook por la forma en que manejó los datos de 87 millones de

usuarios. BBC Nwes https://www.bbc.com/mundo/noticias-49093124, pág. s.p.

Río Atrato, T-622 (Corte Constitucional 2016).

Rodríguez, D. (2015). Acercamientos a la ciencia ficción. La palabra (27), 173-187.

Rodríguez, J. (2001). Introducción a la prospectiva: metodologías, fases y explotación de

resultados. Economía Industrial N° 342, 13-20. Obtenido de

https://www.mincotur.gob.es:

https://www.mincotur.gob.es/Publicaciones/Publicacionesperiodicas/EconomiaIndu

strial/RevistaEconomiaIndustrial/342/1JesusRodriguez.pdf

Sabato, E. (1951). Hombres y Engranajes. Buenos Aires:

http://biblio3.url.edu.gt/Libros/2012/LYM/homb_engSaba.pdf.

72

Sabato, E. (1953). Heterodoxia. https://es.scribd.com/doc/151982383/1953-heterodoxia-

ernesto-sabato-pdf.

Saens, M. (2019). Derecho y Literatura. Eunomía. Revista en Cultura de la Legalidad N° 16,

273-282.

Safranski, R. (2002). El mal o el drama de la libertad. Barcelona: Tusquets Editores.

Scott, R. (Dirección). (1983). Blade Runner [Película].

Shelly, M. (1818). Frankenstein o el moderno Prometeo.

https://www.elejandria.com/libro/frankenstein/mary-shelley/717.

Subirats, E. (2012). Mito,magia, mímesis. Antípoda. Revista de Antropología y Arqueología,

núm. 15, 31-66.

T-414 (Corte Constitucional de Colombia 1992).

Thomas, H. (2001). (IA: Inteligencia Artificial). Polis vol. 1, núm. 2

https://www.redalyc.org/pdf/305/30500219.pdf, s.p.

Vercelli, A. (2018). La (des)protección de los datos personales: análisis del caso Facebook

Inc. - Cambridge Analytica. 47 Jornadas Argentinas de Informática (pág. s.p.).

Buenos Aires: Universidad de Palermo.

Villalba, J. (2016). Problemas bioéticos emergentes de la inteligencia artificial. Diversitas:

Perspectivas en Psicología, vol. 12, núm. 1, 137-147.

Wachowsky, H. (Dirección). (1999). La Matriz [Película].

Weir, P. (Dirección). (1998). El Show de Trueman [Película].

ANEXO 2 ARTÍCULO DE PUBLICACIÓN

Máquinas Pensantes, Interlocutores De La Humanidad: Inteligencias Artificiales, Androides Y Robots*

Franco Ceballos Rosero**

Deisy Alejandra Mendoza / María Camila Muñoz***

Resumen

* Artículo derivado del proyecto de investigación Otros sujetos de derechos: inteligencias artificiales,

androides y robots, financiado por el Comité para el Desarrollo de la Investigación de la Universidad

Cooperativa de Colombia, 2020. ** Abogado y Magister en Etnoliteratura de la Universidad de Nariño. Docente investigador de la Facultad de

Derecho, Campus Pasto, de la Universidad Cooperativa de Colombia, en temas relacionados con pueblos

indígenas y campesinos, derecho al agua, derechos de los seres sintientes y de la naturaleza. Email:

franco.ceballosr@campusucc.edu.co ORCID: https://orcid.org/0000-0002-2706-224X *** Estudiantes egresadas de la Facultad de Derecho Campus Pasto de la Universidad Cooperativa de Colombia.

Auxiliares de investigación del proyecto Otros sujetos de derechos: inteligencias artificiales, androides y

robots y coautoras del presente artículo. E-mail: deysi.mendoza@campusucc.edu.co y

maria.munozba@campusucc.edu.co

73

Las máquinas pensantes (Inteligencias Artificiales, Androides y Robots) poseen capacidades

racionales, autonomía y aprendizaje que los convierte en interlocutores de la humanidad,

situación anticipada por la literatura y cine de ciencia ficción. Muchas de las labores de estas

máquinas pensantes afectan a las personas, llegando a lesionar derechos humanos

fundamentales como la intimidad, como se evidenció en el caso de Cambridge Analítica de

cara a las elecciones presidenciales de Estados Unidos en 2016. Las máquinas pensantes no

son cosas porque toman decisiones, piensan (lógica y racionalmente) y actúan con propósitos

(no tan transparentes) frente a las personas. Para estas máquinas pensantes se propone la idea

de los sujetos de deberes dentro de una teoría heterogénea del concepto de persona en

derecho.

Palabras clave: Inteligencias Artificiales, Androides, Robots, Derecho, Sujetos de Deberes,

Ciborg.

Abstract

Thinking machines (Artificial Intelligence, Androids and Robots) possess rational capacities,

autonomy and learning that make them interlocutors of humanity, a situation anticipated by

science fiction literature and cinema. Many of the tasks of these thinking machines affect

people, even damaging fundamental human rights such as privacy, as evidenced in the case

of Cambridge Analytical ahead of the 2016 US presidential elections. Thinking machines are

not things because they make decisions, think (logically and rationally) and act with purposes

(not so transparent) in front of people. For these thinking machines, the idea of the subjects

of duties is proposed within a heterogeneous theory of the concept of person in law.

Keywords: Artificial Intelligence, Androids, Robots, Law, Subjects of Duties, Cyborg.

1. Introducción.

El siguiente documento es una propuesta dogmática que se inserta dentro de una teoría

heterogénea del concepto de persona en derecho (Ceballos, 2020) (Ceballos, 2021),

aceptando como sujetos de derechos o personas no humanas a animales sersintientes y

ecosistemas, bajo la idea de lo heterogéneo, lo plural. Es, en todo sentido, heterodoxia

jurídica, ya que esta ampliación del concepto de personas implica la desestructuración de

derechos como la propiedad (Ceballos, 2019), sobre la que gira la protección jurídica por

excelencia. Y de paso se pone en cuestión un concepto como el de soberanía, central en la

estructura jurídica, pues es del poder soberano que emana el derecho.

En el siguiente documento, luego de delimitar la teoría heterogénea del concepto de persona

en derecho, desarrollará la idea del sujeto de deberes como la contracara de las personas, es

decir, entidades sobre las que recaen deberes o, más concretamente, inhibiciones profundas

en sus programaciones profundas, para proteger los derechos humanos, de los seres sintientes

y de la naturaleza. Finalmente se hablará sobre los casos del androide Sophia y la idea del

Ciborg en un abordaje desde la dogmática prospectiva, entendida ésta como la reflexión

previsiva sobre la relación de los seres humanos con las máquinas pensantes.

2. Teoría heterogénea del concepto de persona y sujetos de deberes.

74

La teoría jurídica tradicional sobre el concepto de persona en derecho comparte algunos

lugares comunes que no se discuten: 1) los conceptos de persona y ser humano son utilizados

indistintamente, pues son considerados como equivalentes, aunque las discusiones alrededor

del tema del estatus jurídico de los nasciturus deja en evidencia que tal idea es errónea; y que

2) las personas sólo son de dos tipos: las naturales y las jurídicas, siendo las primeras

atribuibles a los seres humanos, y las segundas a la voluntad y libertad de éstos para asociarse

en función del cumplimiento de objetivos comunes. Sin embargo, las dos ideas son

incorrectas.

Primero: los avances jurídicos ambientales y de protección animal, han posesionado como

realidades la existencia de sujetos de derecho que bien pueden considerarse alguna especie

de persona: los animales sersintientes y los ecosistemas; lo que, indudablemente, amplía el

espectro del concepto de persona más allá del antropocentrismo jurídico imperante. Segundo:

las personas naturales, que hacen referencia a la naturaleza humana, no sólo abarcan a los

individuos, sino a las comunidades que éstos integran, y que en muchos casos, imperan como

idea fundante de la existencia, como ocurre, por ejemplo, con las comunidades indígenas. Es

decir, la idea de la persona natural es binaria, pues acoge la realidad humana como biológica

pero también social. Un error frecuente es considerar que las personas naturales colectivas

son una suerte de personas jurídicas, pero eso no es así porque: 1) Las colectividades

humanas, particularmente los llamados sujetos colectivos de derecho (como indígenas), no

se fundan en la voluntad y libertad humanas de llegar a un consenso o acuerdo, sino que

preceden a éste.

Ya fragmentado el concepto de persona en sujetos de derechos humanos y no humanos, y

gracias a la de la existencia de las personas jurídicas, resulta evidente que es posible imaginar

otro tipos de personas o sujetos de derecho, particularmente frente a dos casos: 1) Las

máquinas pensantes (Inteligencias Artificiales, Androides y Robots) por esa condición y la

interacción con la humanidad; y 2) las inteligencias no humanas que puedan existir dentro y

fuera del planeta. La segunda posibilidad se muestra más complicada por las fronteras

75

infranqueables que ha impuesto la ciencia al respecto, pero que, a todas luces, hacen aguas

frente al abundante material documental e histórico sobre la existencia de contactos con seres

inteligentes no humanos a lo largo de la historia (Colombano, 2018).

Así es que, si se toma en consideración la hipótesis que las Inteligencias Artificiales, los

Androides y Robots son más que cosas, máquinas o herramientas, una nueva categoría

jurídica se hace necesaria: los sujetos de deberes. Siendo así porque carecerían de derechos,

pero no de deberes, relacionados con la protección de los derechos humanos, principalmente,

pero también la de los seres sintientes y de la naturaleza.

3. Los sujetos de deberes

Los sujetos de deberes hacen relación a las máquinas pensantes, que deben tener en su

programación profunda, las inhibiciones suficientes para respetar los derechos humanos, de

los seres sintientes y de la naturaleza. Los sujetos de deberes son una categoría anticipada

por las conocidas leyes de la robótica de Asimov, que reflexionó sobre los desafíos que

impone la ciencia de crear máquinas dotadas de razón. No hacer daño a los seres humanos,

obedecerlos y proteger su existencia (¿vida?) son los pilares de las leyes de Asimov: 1) Un

robot no debe hacer daño a un ser humano, n i permitir que eso ocurra; 2) Un robot debe

obedecer las órdenes de todo ser humano, a menos que éstas vayan en contra de la primera

ley; y 3) Proteger la existencia propia, a menos que esto contradiga las leyes precedentes.

Simple: un seguro para la humanidad ante la rebelión, el mayor de los temores de la ficción

de los siglos XX y XXI, si se tiene en consideración la cantidad y éxito de películas sobre

76

androides que destruyen a la humanidad (Lang, 1927) (Scott, 1983) (Cameron, 1984)

(Wachowsky, 1999), o que colocan en duda su estatus vital (Columbus, 1999)22.

Siendo la regulación alrededor de las máquinas pensantes aún seminales, hay que partir por

una categorización jurídica adecuada a las mismas, que permita establecer principios básicos

de los cuales debería partir toda regulación jurídica del tema. Toda máquina pensante debe

respetar los derechos humanos, sersintientes y de la naturaleza.

4. Ciencia y Ficción

Las máquinas pensantes han sido un asunto primario en el cine y la literatura de ciencia

ficción, siendo el trasfondo de la reflexión, el temor de la humanidad a la mecanización de la

vida producto de la aventura prometeica de la razón científica, que acarrearon las paradojas

que hoy padecemos y que son la raíz de la emergencia ecológica y social que atravesamos:

1) Del individuo a la masificación, 2) Del humanismo hacia la deshumanización, y 3) Del

naturalismo a la máquina (Sabato, Hombres y Engranajes, 1951)23. Particularmente la

22 La película de Chris Columbus, El Hombre Bicentenario, al margen de sus defectos como película, propone

un escenario interesante en la discusión, en la que un androide llamado Andrew, decide buscar su aceptación

de la humanidad como parte de su especie, pues no le hace falta poseer estatus jurídico de persona (lo que le

permite administrar una fortuna y servir como científico a los pueblos del planeta) para sentirse completo. Al

final Andrew lo logra con complejas modificaciones que permiten a su cuerpo y cerebro envejecer y morir. Un

humano transespecie, aunque a la inversa de lo que plantean hoy los humanos ciborgs, que implementan

mejoras mecánicas y electrónicas, a sus cuerpos. 23 La idea de las máquinas existe desde tiempos remotos, si nos atenemos a las ideas de los autómatas, ya

delineadas por Herón de Alejandría (¿S. I o II d. C.?), como máquinas capaces de imitar los movimientos de

los seres naturales incluidos el ser humano, aplicados estos al trabajo escenográfico del teatro griego (Fuente

especificada no válida.. O las ideas del Golem, no exactamente una máquina, pero sí un ser creado por el

hombre (en la leyenda del siglo XVI por Judá Leví ben Betzalel, conocido como Rabbí Löw) a partir del barro,

77

máquina como opresora de la humanidad es una idea que, además de recurrente por tener

sustento en los hechos (piénsese en el problema laboral, por ejemplo), ha funcionado como

una alerta que parece haber tenido el efecto contrario en la sociedad, pues nuestras

preocupaciones por la regulación de la existencia y funcionamiento de las máquinas, no ha

sido un asunto de discusión pública a pesar de su relevancia; sino que se degrado a asuntos

del futuro lejano, de la ficción.

Sin embargo, es evidente que el tema es real, y que ya desde mediados del siglo XX se estaba

investigando y desarrollando el tema de la robótica y la creación de inteligencias que

emularan la humana (López & Gonzales, 2017). Particularmente fue muy interesante un hito

en la historia de la robótica, cuando la Inteligencia Artificial Deep Blue, desarrollada por

IBM, derrotó a Gary Kasparov en un torneo de ajedrez, demostrando que las capacidades

racionales de una máquina podían comparase con las mejores mentes humanas. El tiempo ha

transcurrido desde entonces, y las fronteras lógicas de Deep Blue fueron superadas por

mucho hace muchos años por las cada vez más complejas y peligrosas máquinas pensantes.

5. El robot Sophia

Sophia es un robot desarrollado por la compañía Hanson Robotics para empatizar con los

seres humanos, interactuar con ellos, aprender y, en general, convivir para prestar un servicio,

que en el caso de Sophia es claramente la interlocución. Dialogar, conversar con cada vez

mayor complejidad y creatividad. Sophia ha hecho bromas siniestras cuando, en alguna

ocasión, habló de querer destruir a la humanidad. Pero al final se supone que era sólo un

expresión, una forma de hablar… O quizá no.

"Quiero vivir y trabajar con humanos, por lo que necesito expresar emociones para

comunicarme con ellos y ganarme su confianza", explicó Sophia, quien dijo sentirse

"orgullosa y honrada". / "Mi inteligencia artificial fue diseñada en base a los valores

humanos de la sabiduría, la amabilidad y la compasión. Me esfuerzo por ser una robot

empática", añadió (BBC Mundo Tecnología, 2017, pág. s.p.)

Este robot tiene capacidades de expresión de gestos humanos, realizar reconocimiento facial

e interactuar creativamente con los seres humanos. Hanson Robotics creó a Sophia como

compañera para personas de la tercera edad, recepcionista y mayordomo, aunque se

encuentra en fase de desarrollo. Sophia se convirtió en el primer robot en obtener una

ciudadana por parte del Gobierno de Arabia Saudí en 2017 (BBC Mundo Tecnología, 2017).

Este acto jurídico de parte de Arabia Saudí provoca una serie de reflexiones y preguntas que

necesitan hipótesis novedosas para solucionar los dilemas que se presentan. Si Sophia es un

ciudadano, ¿cuáles derechos le corresponden? ¿Al ser ciudadano, Sophia se puede o debe

considerar algún tipo de persona jurídica? ¿Puede votar? ¿Qué puede y qué no puede hacer

que adquiría vida a través de encantamientos, imitando la naturaleza humana sin alcanzarla, por no tener el

soplo divino Fuente especificada no válida..

78

bajo la ciudadanía? Es natural que los Estados con los que Arabia Saudí mantiene relaciones

de algún tipo, deberán reconocer, si no la ciudadanía robot (¿personalidad jurídica?), por lo

menos un estatus especial para el androide de compañía Sophia.

Colombia acogió a Sophia en 2018, y fue distinguida con la imposición del Escudo de la

Universidad Pontificia Bolivariana por parte del Rector dada su naturaleza de invitada

especial, reconociéndole la interlocución con la humanidad (Sophia y David Hanson, Escuela

de Verano UPB, 2018). Con Sophia es fácil entender la situación, porque fue programada

para la empatía humana, pero, ¿qué sucede con los robots programado para asesinar, como

miles de armas “inteligentes” que poseen las súper potencias militares? Es más, ¿por qué se

permiten las creaciones de inteligencias artificiales como armas o para el desarrollo de

armas? Sin duda que el asunto de las máquinas está lejos de estar agotado, dejando de ser

asunto del futuro, para ser parte de nuestra cotidianidad. El futuro, dijo el Indio Solari, llegó

hace rato (Los Redondos, 1988).

6. El ciborg

Entre las tantas películas sobre máquinas inteligentes existentes, hay una que ejemplifica un

problema complejo, aunque patético si se piensa bien: El hombre bicentenario de Chris

Columbus (1999). El filme es, en síntesis, la historia de un androide llamado Andrew que

busca ser considerado parte de la especie humana, no sólo como la entelequia conceptual de

persona, en igualdad de derechos y deberes, sino como parte de su biología y metafísica.

Andrew, creado máquina, está muy lejos de ser parte de la humanidad; y contra ese destino,

después de una larga vida de investigación y desarrollo, Andrew logra hacer que su cerebro

y cuerpo envejezcan y, eventualmente, mueran; instante cuando obtiene la membresía la

humanidad24. Andrew es un robot, un androide que podríamos denominar como trans; que

busca humanizarse a través de la transformación paulatina de la naturaleza de su cuerpo

mecánico. Un ciborg al revés.

Al revés de Andrew, pero con el mismo movimiento de transformación, de mutación, existe

en el planeta un movimiento de seres humanos que buscan la hibridación de la biología con

las máquinas y máquinas pensantes por una decisión libre, más allá de la necesidad de

reemplazar partes del cuerpo por razones médicas (Haraway, 1984) (Hables, 2011)

(Bonachera, 2017). Este movimiento por la hibridación está generando una serie de seres

humanos dotados de herramientas artificiales que los ubican en situación de ventaja frente a

los demás seres humanos, bien sea, por ejemplo, porque tengan implantes auditivos que les

permitan captar de mejor manera los sonidos del ambiente (y espiar, de paso); o ya porque

24 Es importante dejar de lado, por ahora, las elucubraciones que la tesis del Director propone, al proponer que lo que hace al ser humano, en definitiva es su mortalidad; que es el punto de ruptura mítico con los dioses, para quienes rige la eternidad. Las máquinas presuponen el desafío a nuestra mortalidad en un movimiento inverso al mítico, en el que los dioses crean al ser humano; pues de lo que se trata es que, con la creación de las máquinas inteligentes, se esté creando una generación de dioses mecánicos dispuestos a esclavizarnos.

79

desarrollen simbiosis con máquinas inteligentes con dispositivos instalados dentro de los

cuerpos para mejorar desempeños laborales. Los ciborgs pueden desarrollar otro tipo de

sentidos, como la orientación magnética, la navegación web o, inclusive, mayor velocidad,

fuerza y destreza.

¿Hasta dónde un ser humano puede llegar en las hibridaciones tecnológicas? En cierto

sentido, los seres humanos ciborgs no sólo deberían considerarse como sujetos de derechos,

sino que, dependiendo del grado de hibridación, deberían ser considerados como sujetos de

deberes, en especial si los implantes cibernéticos les ofrecen ventajas inaceptables frente a

las capacidades y derechos de los demás seres humanos.

Finalmente, es preocupante que el tema ciborg no sea sólo cuestión de una minoría

implantándose aparatos tecnológicos en el cuerpo, sino que trasciende de manera siniestra en

la realidad, donde esa hibridación está ejecutada sobre la inmensa mayoría de la población,

pero a nivel mental. La dependencia de los aparatos tecnológicos como los móviles o los

portátiles, ha hecho que estos artefactos se conviertan en prótesis mentales, como lo revela

el lenguaje en expresiones como me quedé sin batería o no tengo señal.

7. Conclusiones: los sujetos de deberes.

• La digitalización de la vida en todos sus niveles debe hacernos reflexionar sobre

estos territorios imaginarios que hemos creado para nuestra civilización, y por donde

circulan, a diario, trillones de datos a velocidades inimaginables; coordinados por

inteligencias artificiales que suponen enormes retos para una humanidad cada día más

esclava de la tecnología; al punto de sentirnos parte del universo de 1984 de Orwell

(1949), o del de The Trueman´s Show (Weir, 1998). La perspectiva más terrible de

finales del siglo XX la ofreció The Matrix (Wachowsky, 1999), en la que los seres

80

humanos estaban, literalmente, conectados a las máquinas en una simulación

interactiva que sus mentes juzgaban como la realidad.

• Las máquinas pensantes no son asuntos del futuro: 1) son artefactos de creación

humana, con propósitos predeterminados en una programación, y sustentan nuestros

modelos de vida, de forma análoga a las personas jurídicas; 2) interactúan con los

seres humanos: los cuantifican, clasifican, enumeran, analizan, posibilitando la

violación de derecho humanos como la intimidad, o la libertad a través de la

manipulación.

• Las máquinas pensantes son sujetos de deberes, a mitad de camino entre las cosas,

bienes y herramientas, y las personas jurídicas como creaciones racionales que son

útiles para nuestros modos de vida. Sobre los sujetos de deberes se imponen límites,

deberes encaminados a la protección de los derechos humanos, de los seres sintientes

y de la naturaleza; es decir, los sujetos de derecho biológicos, que se contraponen a

los sujetos de derechos no biológicos, como las personas jurídicas y míticas.

• Por la digitalización de la vida del ser humano, el poder que se despliega de los

territorios digitales, y que tiene que ver con el acceso a bancos de datos e información

para su análisis, debe ser limitado. No sólo se trata de tener leyes de protección de

datos (en Colombia leyes como la 1266 de 2008, 1341 de 2009 y 1581 de 2012),

sino de establecer reglas jurídicas para el poder informático y las máquinas pensantes

que habitan en él, y que interactúan con la humanidad a diferentes niveles.

8. Referencias

Acosta, A. (2010). Hacia la Declaración Universal de los Derechos de la naturaleza. AFESE.

Amazonía, STC-4360 (Corte Suprema de Justicia 2018).

Asimov, I. (1984). Yo, Robot. Barcelona: EDHASA Disponible en

https://irreverenciaemergente.files.wordpress.com/2015/05/asimov-isaac-futuro-01-

yo-robot.pdf.

Barrera, L. (2012). Fundamentos históricos y filosóficos de Inteligencia Artificial. UCV-

HACER. Revista de Investigación y Cultura, vol. 1, núm. 1, 87-92.

BBC Mundo Tecnología. (30 de octubre de 2017). Sophia, la robot que tiene más derechos

que las mujeres en Arabia Saudita. BBC Mundo, pág. s.p.

Bonachera, A. (2017). Vida artificial: el ciborg, representación posmoderna de nuestras

ansiedades. Revista de Filología N° 35, 51-72.

Cáceres, E. (2006). Inteligencia artificial, derecho E-Justice (el Proyecto IIJ-Conacyt).

Boletín Mexicano de Derecho Comparado, vol. XXXIX, núm. 116, 593-611.

81

Cameron, J. (Dirección). (1984). El Exterminador [Película].

Casanovas, P. (2010). Inteligencia Artificial y Derecho: a vuelapluma. En Varios, Teoría y

Derecho. Revista de Pensamiento Jurídico (págs. 203-221). Barcelona: Tirant lo

Blanc.

Ceballos, F. (2016). Colombia y los derechos de la naturaleza: desafíos ambientales y pueblos

originarios. En O. R. Editora, Nuevas perspectivas de la investigación jurídica y socio

jurídica en Nariño (págs. 172-183). Pasto: Editorial Institución Universitaria

CESMAG.

Ceballos, F. (2019). Las personas, las cosas y la propiedad a partir de los sujetos de derecho

no humanos. En V. autores, Rol de la Educación Superior frente a los desafíos

sociales (págs. 72-80). Pasto: La Red de Instituciones de Educacion Superior de

Ecuador y Colombia-Universidad Cooperativa de Colombia.

Ceballos, F. (2020). Otros sujetos de derechos o personas (?). Estudios Socio Jurídicos N°

22, 321-351.

Ceballos, F. (2021). Teoría Heterogénea del concepto de Persona en Derecho. Estudios de

Derecho Vol. 78 N° 171.

Colombano, S. (2018). New Assumptions to guide SETI research. Moffett Field, CA.: NASA

Informe / Número de patente: ARC-E-DAA-TN53461.

Columbus, C. (Dirección). (1999). El hombre bicentenario [Película].

Fortunat-Stagl, J. (2015). De cómo el hombre llegó a ser persona: Los orígenes de un

concepto jurídico-filosófico. Revista de Derecho (Valparaiso), vol. XLV, julio-

diciembre, 373-401.

Gudynas, E. (2011). Desarrollo, derechos de la naturaleza y buen vivir después de

Montecristi. En G. W. Editora., Debates sobre cooperación y modelos de desarrollo.

Perspectivas desde la sociedad civil en el Ecuador (págs. 83-102). Quito: Centro de

Investigaciones CIUDAD y Observatorio de la Cooperación al desarrollo.

Hables, C. (2011). Homo Ciborg: Cincuenta años después. Teknocultura: Revista de cultura

digital y movimientos sociales Vol. 8 Nº: 2, 83-104.

Haraway, D. (1984). El sueño irónico de un lenguaje común para las mujeres en el circuito

integrado. Obtenido de

https://xenero.webs.uvigo.es/profesorado/beatriz_suarez/ciborg.pdf

Kriegman, S., Blackiston , D., Levin, M., & Bongard, J. (2020). A scalable pipeline for

designing reconfigurable organisms. PNAS Vol. 114 N° 4, 1853–1859.

82

Lang, F. (Dirección). (1927). Metrópolis [Película].

López, R., & Gonzales, P. (2017). Grandes éxitos de la inteligencia artificial. En Inteligencia

Artificial (págs. 118-145). Editorial CSIC Consejo Superior de Investigaciones

Científicas.

López, R., & Gonzales, P. (2017). Orígenes de la Intelñigencia Artificial. En Inteligencia

Artificial (págs. 17-35). Editorial CSIC Consejo Superior de Investigaciones

Científicas.

Los Redondos. (1988). Todo un palo. Un baion para el ojo idiota. Buenos Aires, Argentina:

Luzbola Patricio Rey y sus redonditos de ricota.

Naciones Unidas. (1948). La Declaración Universal de Derechos Humanos. Obtenido de

http://www.un.org: http://www.un.org/es/universal-declaration-human-rights/

Novell, N. (2008). Literatura y Cine de Ciencia Ficción. Barcelona: Tesis Doctoral

Universidad Autónoma de Barcelona.

Orwell, G. (1949). 1984. Disponible en

http://www.itvalledelguadiana.edu.mx/librosdigitales/George%20Orwell%20-

%201984.pdf.

Redacción BBC News Mundo. (24 de junio de 2019). Cambridge Analytica: la multa récord

que deberá pagar Facebook por la forma en que manejó los datos de 87 millones de

usuarios. BBC Nwes https://www.bbc.com/mundo/noticias-49093124, pág. s.p.

Río Atrato, T-622 (Corte Constitucional 2016).

Sabato, E. (1951). Hombres y Engranajes. Buenos Aires:

http://biblio3.url.edu.gt/Libros/2012/LYM/homb_engSaba.pdf.

Sabato, E. (1953). Heterodoxia. https://es.scribd.com/doc/151982383/1953-heterodoxia-

ernesto-sabato-pdf.

Scott, R. (Dirección). (1983). Blade Runner [Película].

Shelly, M. (1818). Frankenstein o el moderno Prometeo.

https://www.elejandria.com/libro/frankenstein/mary-shelley/717.

T-414 (Corte Constitucional de Colombia 1992).

Thomas, H. (2001). (IA: Inteligencia Artificial). Polis vol. 1, núm. 2

https://www.redalyc.org/pdf/305/30500219.pdf, s.p.

83

Universidad Pontificia Bolivariana. (1 de agosto de 2018). Sophia y David Hanson, Escuela

de Verano UPB. Obtenido de https://www.upb.edu.co/es/noticias/sophia-david-

hanson-escuela-verano

Vercelli, A. (2018). La (des)protección de los datos personales: análisis del caso Facebook

Inc. - Cambridge Analytica. 47 Jornadas Argentinas de Informática (pág. s.p.).

Buenos Aires: Universidad de Palermo.

Villalba, J. (2016). Problemas bioéticos emergentes de la inteligencia artificial. Diversitas:

Perspectivas en Psicología, vol. 12, núm. 1, 137-147.

Wachowsky, H. (Dirección). (1999). La Matriz [Película].

Weir, P. (Dirección). (1998). El Show de Trueman [Película].