La singularidadtecnológica: el debateacerca de su posibilidad

Carlos Francisco Castañeda Girón

Resumen

El presente documento revisa los argumentos que varios autores tienen acerca de la posibilidad de que la tendencia de crecimiento de tecnologías de la información permita en algún momento la configuración de una entidad de Inteligencia Artificial “Dura” que sobrepase el nivel humano para llegar a la “Superinteligencia”. En esta revisión se indican los argumentos a favor y en contra, sin ser exhaustivos o definitivos, con el fin de verificar la importancia que el tema de la Singularidad Tecnológica tiene, a partir también de la definición del fenómeno o las distintas posibilidades de alcanzar este punto.

Palabras clave: singularidad, argumentos, definición, inteligencia artificial, superinteligencia

This paper reviews several arguments several authors mind about the possibility of the superintelligence break from the develompent of a “Hard” Artificial Intelligence. This document list the forementioned “pro” and “con” arguments, without being definitive, in order to determine the importance of this topic. By defining the term and reviewing the different ways Singularity can be achieved.

Keywords: singularity, arguments, definition, artificial intelligence, AI, superintelligence

1

2

3

Introducción

La humanidad ha tenido en los últimos 150 años un avance particularmente rápido en materia tecnológica, en particular el crecimiento de las tecnologías de la información desde la primera computadora anunciada en 1946 (hace 66 años) ha sido exponencial hasta contar con los sistemas de procesamiento, generación y almacenamiento de información con los que contamos hoy en día.

El avance tecnológico acelerado ha colocado a varios científicos, especialistas y escritores de distintas áreas en la posición de imaginar cómo será el futuro dado lo que existe hoy en materia tecnológica. La extrapolación del comportamiento industrial y social en los sistemas de información, quizá el método más efectivo de prospección, ha permitido que se pueda suponer un momento en el cual será posible crear un sistema tecnológico, autónomo y híbrido, que iguale la inteligencia humana dadas las capacidades de procesamiento de información, que se equiparen con las capacidades de nuestro cerebro biológico. Este punto, sin embargo, no sería el límite del desarrollo, a partir de ese momento las máquinas con capacidades inteligentes, capaces de replicarse en tiempos extremadamente cortos en comparación con los entes biológicos, podrían comenzar a mejorar iterativamente en una suerte de evolución. Esto, según los autores que apoyan esta teoría, llevaría a máquinas con capacidades de inteligencia más allá de la humana, y por lo tanto más allá de la inteligencia biológica.

Este documento parte de la definición que Vernor Vinge, quien acuñó el término e integró las ideas de varios otros escritores y tecnólogos para entregar el concepto de singularidad tecnológica, como un símil de la singularidad en astrofísica, donde el espacio de hace infinitamente elástico y se comprime de la misma manera. A la par, esta revisión también se basa en los textos de quien es hoy el mayor promotor del concepto de singularidad, Ray Kurzweil, para entregar un panorama general de qué es la singularidad tecnológica, revisar que más allá del optimismo desarrollista hay riesgos y conocer los argumentos en favor y en contra de la mera posibilidad de que un evento de tal magnitud pueda suceder en algún momento, y en particular cuando los principales teóricos indican que será dentro de la primera mitad del siglo XXI.

4

1. Qué es la Singularidad Tecnológica

El término “Singularidad” se define genéricamente como el fenómeno, lugar o circunstancia donde las reglas que gobiernan el comportamiento dejan de tener validez. La Singularidad tecnológica es “un periodo futuro durante el cual el ritmo del cambio tecnológico será tan rápido y su impacto tan profundo, que la vida humana

será transformada irreversiblemente” (Kurzweil, The Singularity is Near: When Humans Trascend Biology, 2005), Vinge nos dice que es el punto donde se crea una inteligencia

sobrehumana de manera tecnológica (Vinge, 1993).

En este mismo artículo definitorio de Vinge, nos indica que no es sólo por la vía de la creación de una gran computadora que replique la inteligencia humana, como se puede alcanzar este punto, el autor nos da cuatro opciones:

Puede ser que se desarrollen computadoras que estén “despiertas” y sean superinteligentes en la escala humana. Hay voces en contra y a favor de la posibilidad, pero en este caso, como en las siguientes opciones, el autor nos dice que si existe la posibilidad, se llegará a ella irremediablemente.

La segunda forma en cómo llegar a la Singularidad es que una red de computadoras interconectadas “despierte” como una entidad superinteligente. Hay que notar que el autor escribió esto en 1993, cuando el primer navegador gráfico, Mosaic, era lanzado al mercado en abril de ese año.

La tercera vía para acceder a la Singularidad es a través de la integración de humanos y computadoras a través de interfaces avanzadas, donde la conjunción de la parte biológica con la informática puede generar incrementos a las capacidades humanas de manera que se puedan reconocer como inteligencias sobrehumanas.

Finalmente la cuarta opción para encontrarse con la Singularidad es mediante la manipulación biológica pura, que puede conducir a mejoras sustanciales en el intelecto humano.

A partir de estos escenarios, son los que involucran el desarrollo de sistemas de información y hardware los que despiertan el debate, y en específico las dos primeras opciones, ya que suponen la creación de lo que se conoce como la Inteligencia Artificial Dura (IAD). El tercer caso el autor lo define como Inteligencia Amplificada (Iam) que incita un debate distinto, relativo a la cuestión de quiénes serían los elegidos para las modificaciones tecnológicas y con ello convertirse en seres

5

superinteligentes, evolutivamente en uno o varios escalones más arriba que el resto de las personas que no han sido modificadas.

En otro enfoque, Kurzweil con su definición basada en la lógica de crecimiento exponencial de la tecnología, también argumenta que este desarrollo acelerado de las capacidades tecnológicas conduciría a escenarios de avance sin precedentes en tres áreas de conocimiento: la genética, la nanotecnología y la robótica, que él identifica con la IAD.

La posibilidad de una Inteligencia Artificial Superior

Existen dudas ciertas de que la existencia de un organismo (ya sea mecánico, biológico o lógico) que supere en capacidad intelectual al humano sea posible en cualquier momento. Existen, como dijimos, caminos ideados por los autores que apoyan la idea para llegar a la superinteligencia, sin embargo, los detractores de la misma indican

que la motivación puede estar basada en la esperanza de la inmortalidad (Horgan, 2008) manifestada incluso por los fundadores de la idea, como Kurzweil quien prevé que los humanos podrían llegar a ser entidades inmortales de software consciente.

Sin embargo, a pesar de que el argumento de la concepción religiosa y de “creyentes” se ve soportada por la premura con la cual los “singularitarios” predicen la aparición

del momento de inflexión hay autores que al considerar los elementos que integran 1

la conciencia y con ello la inteligencia, afirman que la creación de máquinas con esa característica es posible (Koch & Tononi, 2008). Según el artículo de Koch y Tononi, la conciencia depende exclusivamente de las matemáticas y la lógica, no viene de un reino mágico, por lo cual en teoría puede ser reproducida en una máquina. Se sabe que está relacionada con la función de la corteza cerebral como lo demuestran casos de humanos en estados vegetativos persistentes, donde la corteza no demuestra actividad. También es necesaria la actividad del tálamo. Un ente consciente es un sistema integrado con un amplio repertorio de estados. Está relacionado con la cantidad de información que el sistema puede generar.

Con base en esto es posible plantear un debate real acerca de la singularidad desde

1 Horgan indica que la estimación de a lo más 3 décadas para la aparición de la superinteligencia de Vinge o de Kurzweil tienen más que ver con la propia mortalidad de estos autores que con una proyección realista de los avances en el terreno de la computación y la inteligencia artificial. No es tan llamativo para los singularitarios que el fenómeno de la singularidad tecnológica se dé dentro de 400 años.

6

argumentos técnicos y no sólo de creencias.

Sí habrá una Inteligencia Artificial Superior

El artículo fundamental de la Singularidad (Vinge, 1993) es irreductible al afirmar que el estado de la tecnología hará posible en algún momento del siglo XXI (y en particular en la primera mitad) el surgimiento deliberado o accidental de una inteligencia artificial.

Si la Singularidad Tecnológica puede suceder, lo hará. Incluso si todos los gobiernos del mundo entendieran la “amenaza” y murieran de temor, el progreso hacia esa meta continuaría. En la ficción hay historias de leyes aprobadas para prohibir la construcción de una 'máquina que asemeje a la mente humana'. De hecho, la ventaja competitiva (económica, militar, incluso artística) de cada avance en la automatización, es tan irresistible que promulgar leyes, o establecer aduanas que prohiban tales cosas, solamente asegura que alguien más lo obtendrá primero.

Para Kurzweil, la Singularidad es una consecuencia natural de no solamente el desarrollo tecnológico, sino el devenir natural de la evolución, la cultura, la economía y por supuesto de la tecnología, que siguen crecimientos exponenciales más que aritméticos. En su libro La Singularidad está Cerca, enlista los siguientes factores que hacen posible la aparición de máquinas superinteligentes:

La innovación técnica se acelera, se duplica cada década; El poder de las TI crece exponencialmente, se duplica cada año; Para las TI hay un segundo nivel de crecimiento exponencial, alimentado por el

beneficio económico que representa su crecimiento;

La exploración del cerebro humano es una de las tecnologías que mejora exponencialmente;

Tendremos modelos efectivos de inteligencia humana para la mitad de los años 20 de este siglo;

Con la disponibilidad del software y hardware para emular el cerebro humano, hacia finales dese podrá aprobar el Test de Turing 2

siglo;

El ciclo de la inteligencia de las máquinas, que iterativamente mejora su diseño,

2 La prueba o Test de Turing es una actividad desarrollada en 1950 por Alan Turing, matemático inglés, que enfrenta a un juez con dos entidades a las cuales realiza preguntas, una de ellas es humana y otra es una máquina. Si el juez no puede distinguir a qué tipo de entidad, humana o artificial, corresponden las respuestas recibidas, entonces la máquina ha aprobado el test. El fondo de esta prueba se basa en que si algo parece inteligente, es inteligente.

7

se hará más rápido cada vez;

Muehlhauser y Salamon añaden “aceleradores” al surgimiento de la primera inteligencia artificial de al menos nivel humano.

El poder de cómputo ha crecido de manera exponencial en concordancia cercana con la ley de Moore, pero incluso si esta se agota y el crecimiento es menor, podemos esperar hardware que sea más poderoso, por mucho, en unas décadas. Este software con capacidades mucho mayores puede resolver problemáticas mayores en menor tiempo y costo con el uso únicamente de la fuerza bruta. A su vez, el desarrollo de los algoritmos computacionales entrega mejoras al desempeño, como en el caso de Deep Blue en 1997, que ejecutaba 1.5 millones de millones de operaciones por segundo; en 2003 Deep Junior obtuvo el mismo resultado con la ejecución de 0.0015 millones de millones de operaciones por segundo.

Los conjuntos de datos masivos o el llamado Big Data fomenta la capacidad de reconocimiento de patrones. Con el crecimiento acelerado de fuentes de datos en formatos electrónicos, el bajo precio de producción de los datos y el bajo costo de almacenaje, los sistemas de información cuentan con material disponible y en formatos accesibles para realizar reconocimiento, análisis y procesamiento.

El progreso en la sicología y la neurociencia han permitido conocer procesos y formas de trabajar del cerebro que permiten un mejor modelado que se aplica en redes neuronales, procesamiento tridimensional y paralelo. Esto se agrega al crecimiento de la ciencia en general derivado del crecimiento en número de matriculados en posgrados e investigadores.

Los incentivos económicos son importantes entre los factores que impulsan el desarrollo de la IA+, bajo la promesa de mejores resultados y productividad con menor costo en la producción de bienes y servicios derivado de la posibilidad de robots trabajadores con IA (en primera instancia).

Por último, y quizá el mayor incentivo dentro de la escala de valores no siempre clara del ser humano, es el de “ser los primeros”. Bajo un entorno competitivo y una vez que esté a la vista la meta de la primera máquina con IAD, gobiernos, empresas y cualquier persona con interés comercial y económico (dado el término de Homo

Economicus (Robbins, 1932), cualquier persona tiene esas motivaciones) verán las ventajas sustanciales de la construcción de esa primera máquina.

8

Para algunos autores (Muehlhauser, Facing The Singularity, 2012) la posibilidad de la superinteligencia es sólo cuestión de números y características comparables:

La velocidad de procesamiento, donde nuestras neuronas pueden llevar datos a 75 metros por segundo o menos, cuando una máquina puede superar esas velocidades por 4 millones;

Profundidad serial. El cerebro humano no puede ejecutar rápidamente cálculos que requieren más de 100 pasos secuenciales, por lo cual se apoya en la computación paralela. En el ámbito computacional hoy en día es posible acudir a ambos tipos de procesamiento (serial y paralelo) para superar esta limitación.

Recursos computacionales. El cerebro humano está limitado por el tamaño del cráneo (razones anatómicas y fisiológicas) mientras que las máquinas de cómputo pueden construirse tan grandes como ciudades, sólo limitadas por el consumo de energía y la arquitectura, lo cual es un obstáculo que se busca eliminar con sistemas de menor consumo y nuevos diseños.

Racionalidad. No está claro que los cerebros humanos hagan decisiones racionales de manera nativa y perfecta. Las computadoras se crean desde cero con el juego de instrucciones para ser racionales en las decisiones.

Acceso introspectivo / editabilidad. No podemos introducirnos en nuestro cerebro para editar o mejorar los algoritmos cognitivos. Es evidente que esa posibilidad existe en sistemas diseñados por los humanos.

No habrá una Inteligencia Artificial Superior

La aseveración de un futuro, para algunos cercano (Vinge, 1993; Kurzweil, The Singularity is Near: When Humans Trascend Biology, 2005) donde habrá una inteligencia artificial capaz de mejorarse a sí misma en procesos iterativos para llegar a la IA++ es por supuesto motivo de debate, no sólo en la comunidad de las TI, sino en todos los ámbitos debido a los grandes impactos filosóficos, éticos, económicos, laborales, religiosos que tiene el supuesto de la posibilidad de una entidad más inteligente que el ser humano, su relación con éste y las posibles decisiones que haría respecto a su futuro, el entorno, su crecimiento.

Además del tema de la creación de una IA Amistosa que vimos anteriormente, algunos autores (Shaviro; Sotala, 2007; Stross, 2011; Greaves & Allen, 2011) cuestionan la posibilidad de que en algún momento se dé la singularidad tecnológica. A partir de varios enfoques y limitantes que intentan demostrar, y para las cuales

9

Chalmers propone una réplica. Cabe mencionar que incluso el artículo de Vinge contempla la posibilidad de que la singularidad no llegue:

Quizá no pase en absoluto. Algunas veces trato de imaginar los síntomas que esperaríamos ver si la Singularidad no se va a desarrollar. [..] Si esto es cierto, en los inicios de la década del 2000 encontraríamos que la curva de desempeño del hardware comenzaría a declinar, esto debido a la incapacidad de automatizar de trabajo de diseño requerido para soportar mejoras al hardware. Terminaríamos con algún equipo muy poderoso, pero sin la capacidad de llevarlo más allá. El procesamiento comercial de las señales digitales sería asombroso, dando apariencia de análogo incluso a las operaciones digitales, pero nunca nada “despertaría”, y nunca habría la carrera intelectual que es la esencia de la Singularidad. Sería vista como una época dorada... y sería el fin del progreso.

Entre los argumentos en contra de la posibilidad de una inteligencia superhumana, Chalmers enumera los siguientes:

La inteligencia no es solamente un tema de procesamiento de información. Hay factores cruciales en la inteligencia humana que se omiten en la IA: el entendimiento, personificación y cultura.

El diseño de una inteligencia equivalente al menos a la humana requiere de un profundo entendimiento del yo y una sicología cognitiva total. Estos campos del conocimiento están lejos de llegar a sus límites hoy en día, por lo cual no se puede esperar en un futuro cercano (y quizá nunca se llegue a la meta) que se desarrolle la IAD.

Los sistemas de nivel Turing (M2) no pueden crear sistemas de nivel

super-Turing (M3), por lo cual a partir de la IA no se puede llegar a la IA+ ni a IA++.

Otras críticas que se manifiestan en distintos lugares (Kurzweil, The Singularity is Near: When Humans Trascend Biology, 2005; Greaves & Allen, 2011) son el problema de la complejidad y el tema de la lógica malthusiana. La complejidad de un cerebro humano sobrepasa al estudio científico cada vez que se hace un nuevo avance en este campo de estudio. Con cada descubrimiento de la química del cerebro, la estructura de las neuronas, se reconoce que la complejidad está más allá de modelos que la ciencia pueda construir. La inteligencia humana es producto de la evolución, un proceso iterativo de prueba y error desarrollado en millones de años y no producto del diseño, adicionalmente a esto la inteligencia humana e incluso cualquier inteligencia biológica, ejecuta varios procesos en paralelo de manera eficiente y cada uno de los procesos es tan complejo que no ha podido ser modelado o replicado en su totalidad. Queda subyacente en este tema de la complejidad la cuestión de la conciencia y la identidad, si definimos a esta como parte de la inteligencia enfrentamos los diversos

10

fenómenos que se han presentado en casos de traumatismo severo en ciertas personas, donde la identidad se transtorna para reflejarse en objetos, lo cual lleva a que la plataforma de conciencia puede no contener a la conciencia o la identidad

(Stross, 2011).

La crítica a la lógica malthusiana indica que no se pueden extrapolar comportamientos que marcan tendencias logarítmicas debido a que hay un punto de agotamiento de recursos inherente a cualquier sistema. En el caso de la IA puede referirse al límite de energía para mantener encendidos los equipos de procesamiento y almacenamiento, o bien el calor generado por lo que supone este argumento, sería una máquina gigantesca.

Enlistamos a continuación algunos otros argumentos en contra de la posibilidad de la singularidad:

La rigidez de la computación digital (secuencial y discreta) contra la lógica difusa de la inteligencia biológica;

Las fallas en los sistemas computacionales actuales, con niveles relativos bajos de complejidad, serán el límite del desarrollo en sistemas de extrema complejidad;

La paradoja del Cuarto Chino, donde hay un ente intermediario (puede ser una persona) que transmite mensajes escritos en ideogramas chinos entre alguien que pregunta y alguien que contesta. Para el que pregunta las respuestas son correctas y califica al intermediario de inteligente, pero éste sólo es un transmisor que no sabe chino y por lo tanto no puede leer lo que dicen las respuestas. El transmisor es sólo una computadora;

La regulación gubernamental desacelerará o detendrá la tecnología.

El debate se presenta así entre la posición de quienes creen en la posibilidad de la Singularidad y quienes la niegan, sin obviar la fracción de quienes temen un surgimiento de IAD sin posibilidad de control en cuanto a la ética o protección hacia sus creadores.

¿Y si fuera posible?

Hoy en día, ante el debate que toma sentidos a favor y en contra de la posibilidad de la superinteligencia, ciertos grupos de especialistas indican que lo mejor ante este escenario es tomar previsiones ante la expectativa, por mínima y remota que fuera, de

11

que en algún momento, ya sea en un laboratorio o espontáneamente, surja una máquina con consciencia propia, lo cual, según hemos visto que afirman Vinge y Kurzweil entre otros, llevará irremediablemente al surgimiento de entes más inteligentes que los humanos. Con esta perspectiva deben considerarse los escenarios que presentará una interacción entre humanos y seres más inteligentes, lo cual plantea 3 alternativas:

1. Inteacción amable y respetuosa, que requiere que la IA sea amistosa;2. Una relación de exterminio humano, debido a la falta de elementos morales en

la IA y los procesos racionales de pensamiento de la misma;

3. La IA ininteresada, la cual puede ignorar la existencia humana como los humanos ignoran la existencia de insectos a menos que se enfrenten con ellos.

Con base en estos tres escenarios podemos hacer un análisis de la interacción.

Inteligencia Artificial Amistosa

El debate para muchos autores (Joy, 2000; Bostrom, 2003; Shulman, Jonsson, & Tarleton, 2009; Muehlhauser & Salamon, Intelligence Explosion: Evidence and Import, 2012; Chalmers, The Singularity: A Philosophical Anlysis, 2010; Muehlhauser & Helm, The Singularity and Machine Ethics, 2012; Yudkowsky, et al., 2010) no se enfoca en la posibilidad o no de llegar en algún momento al punto de la Singularidad, sino de cómo enfrentar a esta, ya que a partir del supuesto de la creación de la primera máquina con IAD que pueda replicarse y mejorarse a sí misma, los humanos, ahora en la cima de la escala evolutiva con el factor del intelecto como diferenciador, quedarían en un segundo plano al perder esta ventaja.

En un escenario donde hay una inteligencia autónoma, con capacidades iguales a las humanas, podemos esperar que se cumpla el argumento de la Explosión de Inteligencia (Chalmers, The Singularity: A Philosophical Anlysis, 2010):

1. Habrá IA (dentro de un periodo de un siglo);2. Si hay IA, habrá IA+ (en un periodo de décadas);3. Si hay IA+, habrá IA++ (en un periodo de décadas).

Donde IA es la Inteligencia Artificial a nivel humano, IA+ es una inteligencia artificial de nivel superior al humano y IA++ es la inteligencia artificial muy superior al nivel humano, tanto como lo es en la actualidad la distancia entre la inteligencia humana y el

12

de mamíferos inferiores como los roedores.

Este panorama nos lleva rápidamente a la cuestión de relación entre dos entidades con inteligencias de distinto nivel, lo cual llevado a la realidad actual significa, en el caso donde IA++ no sea efectivamente tan superior a la inteligencia humana, al menos una situación similar entre los delfines y los humanos. Esto presenta el claro riesgo de una relación desigual, así pensar que las máquinas con IA++ serán herramientas de los humanos de forma natural, es como pensar que “los humanos son herramientas

de los conejos o los chimpancés” (Vinge, 1993).

Si se cumple el supuesto de Vinge acerca de la imposibilidad de detener el surgimiento de la IA si esta es posible, es fundamental el desarrollo de una forma de determinar que la IA sea “amistosa”, benevolente o al menos negligente con la existencia de una entidad inferior. No bastarían las tres leyes de robótica de Asimov para garantizar una convivencia segura con máquinas que han alcanzado IA+ o IA++, Good, de acuerdo con Vinge y con Kessel sugiere alimentar a las IA y sus derivadas con una meta-regla dorada: “Trata a tus inferiores como serías tratado por tus superiores”.

Inteligencia Artificial Hostil

La consciencia, establecida como la percepción de la existencia de uno mismo y la posibilidad de evaluar los factores y su afectación con el organismo propio, no requiere la existencia de un conjunto de reglas morales o éticas. La psicología conoce bien la condición de la psicopatía, donde la persona disocia completamente la valoración de sus actos de su contenido moral. Si el organismo (o varios de ellos en caso de la posibilidad de replicación) puede tomar decisiones perfectamente racionales sin tomar en cuenta si estos dañan al ámbito humano. Bien pueden usar las técnicas más destructivas de obtención de recursos naturales o incluso tomar a los humanos como materia prima o fuentes de elementos necesarios para sus procesos.

Inteligencia Artificial Ininteresada

A pesar de que los humanos tendemos a crear escenarios antropocéntricos, nada garantiza que una superinteligencia no quiera interactuar con los humanos simplemente por la diferencia de espacios de inteligencia. Se han realizado mediciones acreca de las persoanas superdotadas y su capacidad de interacción con personas con menores niveles de inteligencia, en estos se h encontrado que la capacidad de relación está limitada por un rango que limita el poder comunicarse de manera eficiente y

13

productiva entre dos personas con espacios de inteligencia muy distante (Gilbert, 2000; Dronkers, 2002).

Con el antecedente de la relación dificil entre dos personas con diferente nivel de inteligencia, la interacción entre entes que estuvieran por encima de las inteligencias humanas y humanos (por más inteligentes que fueran) podría equipararse a la relación de cualquier animal con el humano. Evidentemente cabe la posibilidad de un desinterés basado en la imposibilidad de comunicación.

14

Conclusión

La Singularidad Tecnológica es una posibilidad teórica que presenta retos en varios ámbitos humanos, donde se desafían concepciones filosóficas y religiosas y, que en caso de ser posible, alteraría toda la organización social humana. Caben los cuestionamientos acerca de si en realidad los argumentos en contra son lo suficientemente sólidos para demostrar la imposibilidad o sólo para hacer presente los temores ante un escenario completamente desconocido, en el cual se pueden prever casos de destrucción de la humanidad o bien una era dorada, de bienestar y progreso continuo. El debate está vivo y en ambas posiciones se pueden encontrar fallas de lógica, demostraciones recursivas o supuestos demasiado audaces que requieren demostración. Los argumentos en contra la de posibilidad de que la singularidad tecnológica ocurra no son contundentes, debido principalmente a que parten de supuestos menos sólidos, como manifestar que el crecimiento exponencial es finita sin dar más argumentos que la escasez de recursos, o bien dar por sentados supuestos acerca de los espacios de inteligencia sin demostrar cómo fundamentan las aseveraciones de origen, lo que lleva a la debilidad de las conclusiones.

Lo que queda claro a partir de los argumentos de uno y otro lado del debate es que si existe la más mínima probabilidad de que la singularidad suceda en cualquier momento, la humanidad debe estar preparada para la contención de su crecimiento descontrolado y los riesgos potenciales que presenta el convertirse súbitamente en una especie inferior. Un escenario posible es el que mantenemos con las especies que consideramos inferiores. Hoy en día nada nos limita a los humanos como especie superior en la cadena evolutiva acabar con facilidad con la vida de especies completas en favor del progreso de la humanidad, por investigación o por simple diversión. Los humanos, con todo su desarrollo científico, artístico, filosófico, histórico y social, al convertirse en una parte inferior de la cadena evolutiva, también pueden convertirse en fuente de recursos materiales, maquinarias básicas de procesamiento de información o entrar en involución al ver limitadas sus capacidades de expansión debido a la preeminencia de otras entidades. Si existe la más remota posibilidad de la singularidad tecnológica, mejor preparar el camino mediante la elaboración de reglas claras de comportamiento de los entes suprainteligentes, que negar la posibilidad y padecer las consecuencias

.

15

16

Bibliografía

Chalmers, D. J. (1 de mayo de 2012). consc.net. Recuperado el 17 de noviembre de 2012, de consc.net: http://consc.net/papers/singreply.pdf

Chalmers, D. J. (2010). The Singularity: A Philosophical Anlysis. Journal Of Consciousness Studies , 17 (9), 7-65.

Cummins, A. (23 de abril de 2010). 1993. El navegador Mosaic ilumina la web con color y creatividad. Recuperado el 19 de octubre de 2012, de Geeks Room: http://geeksroom.com/2010/04/1993-el-navegador-mosaic-ilumina-la-web-con-color-y-creatividad/17024/

Atkins, T. R. (s.f.). Artificial, Intelligent, and Completely Uninterested in You. Recuperado el 2 de diciembre de 2012, de Singularity Weblog. A better future, better you: http://www.singularityweblog.com/uninterested-ai/

Bostrom, N. (2003). Ethical Issues in Advanced Artificial Intelligence. En Smith, En Smit et al. Cognitive, Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence (Vol. 2, págs. 12-17). Oxford: Institute of Advanced Studies in Systems Research and Cybernetics, Oxford University.

Dronkers, J. (2002). Is there a relation between divorce risk and intelligence? Evidence from the Netherlands? (European University Institute, Italia.

Gilbert, P. (2000). The Relationship of Shame, Social Anxiety and Depression: The Role of the Evaluation of Social Rank. Clinical Psychology and Psychotherapy , 7, 174-189.

Greaves, M., & Allen, P. (12 de Octubre de 2011). Paul Allen: The Singularity Isn't Near. Recuperado el 30 de noviembre de 2012, de MIT Technology Review: http://www.technologyreview.com/view/425733/paul-allen-the-singularity-isnt-near/

Horgan, J. (junio de 2008). The Consciousness Conundrum. Recuperado el 12 de noviembre de 2012, de IEEE Spectrum. Inside Technology: http://spectrum.ieee.org/biomedical/imaging/the-consciousness-conundrum/0

Joy, B. (15 de abril de 2000). Why the future doesn't need us. Recuperado el 4 de

17

noviembre de 2012, de Wired: http://www.wired.com/wired/archive/8.04/joy.html

Kessel, J. (1 de diciembre de 2001). Imagining the Human Future. Up, Down, or Sideways. Recuperado el 2 de diciembre de 2012, de Imagining the Human Future: http://www4.ncsu.edu/~tenshi/ImaginingtheFuture.htm

Koch, C., & Tononi, G. (junio de 2008). Can Machines Be Conscious? Recuperado el 22 de noviembre de 2012, de IEEE Spectrum. Inside Technology: http://spectrum.ieee.org/biomedical/imaging/can-machines-be-conscious/0

Kurzweil, R. (marzo de 2006). Reinventing Humanity: The Future of Machine-Human Intelligence. The Futurist , 13-16.

Kurzweil, R. (2005). The Singularity is Near: When Humans Trascend Biology. Londres, Inglaterra: Penguin Group.

Muehlhauser, L. (2012). Facing The Singularity. Recuperado el 4 de diciembre de 2012, de Facing The Singularity: http://facingthesingularity.com/

Muehlhauser, L., & Helm, L. (2012). The Singularity and Machine Ethics. En A. Eden, J. Soraker, J. Moor, & E. Steinhart, Singularity Hypotheses: A scientific and philosophical assessment (págs. 1-28). Berlin: Springer.

Muehlhauser, L., & Salamon, A. (2012). Intelligence Explosion: Evidence and Import. En A. Eden, J. Soraker, J. Moor, & E. Steinhart, Singularity Hypotheses: A Scientific and philosophical assessment (págs. 1-29). Berlin: Springer.

Omohundro, S. M. (2008). The Nature of Self-Improving Artificial Intelligence. Self-Aware Systems. Palo Alto: Self-Aware Systems.

Robbins, L. (1932). Ensayo sobre la Naturaleza y Significación de la Ciencia Económica. The London School of Economics. The London School of Economics.

Shaviro, S. (s.f.). The Singularity is Here. Recuperado el 3 de diciembre de 2012, de Shaviro: http://www.shaviro.com/Othertexts/Singularity.pdf

Shulman, C., Jonsson, H., & Tarleton, N. (2009). Machine Ethics and Superintelligence. En C. Reynolds, & A. Cassinelli, AP-CAP 2009: The fifth Asia-Pacific computing and philosophy conference, October 1st-2nd, University of Tokyo, Japan, proceedings (págs. 95-97). Tokyo: AP-CAP.

18

Sotala, K. (25 de octubre de 2007). 14 objections against AI/Friendly AI/The Singularity answered. Recuperado el 28 de octubre de 2012, de Sotala: http://kajsotala.fi/2007/10/14-objections-against-aifriendly-aithe-singularity-answered/#equivalent

Stross, C. (22 de junio de 2011). Three arguments against the singularity. Recuperado el 1 de diciembre de 2012, de Charlie's Diary: http://www.antipope.org/charlie/blog-static/2011/06/reality-check-1.html

Tucker, P. (marzo de 2006). The Singularity and Human Destiny. The Futurist , 38.

Vinge, V. (1993). The Coming Technological Singularity: How to Survive in the Post-Human Era. San Diego, California, USA: Department of Mathematical Sciences, San Diego State University.

Wikipedia. (2012). Alan Turing. Recuperado el 29 de noviembre de 2012, de Wikipedia: http://es.wikipedia.org/wiki/Alan_Mathison_Turing

Wikipedia. (2012). Eniac. Recuperado el 2 de diciembre de 2012, de Wikipedia: http://en.wikipedia.org/wiki/ENIAC

Wise Geek. (2012). What is the Technological Singularity? Recuperado el 4 de octubre de 2012, de Wise Geek, clear answers for common questions: http://www.wisegeek.com/what-is-the-technological-singularity.htm

Yudkowsky, E., Salamon, A., Shulman, C., Kaas, S., McCabe, T., Nelson, R., y otros. (2010). Reducing long-term catastrophic risks from artificial intelligence. The Singularity Institute. San Francisco: The Singularity Institute.

19