IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

¿Puede pensar una máquina?(Apéndice a la Unidad 3)

Este señor con aspecto de “científico loco” es el matemático John McCarthy. En

una conferencia en la Universidad de Darmouth en 1956 pronunció por primera vez los

términos “Artificial Intelligence” y estableció el plan para cumplir este sueño imposible

en el que también creyó Marvin Minsky, otro visionario (fallecido la semana pasada)

que trabajó junto a McCarthy en el laboratorio de IA que fundaron en el MIT

(Massachusetts Institute of Technology, en Boston). Minsky precisó mejor que nadie

qué es la IA:

“Es la ciencia de hacer que las máquinas hagan cosas que requerirían inteligencia si las hubiera

hecho un humano”

Se trataría por tanto de una “máquina inteligente”, que imitaría el

pensamiento humano. Más o menos al mismo tiempo en el Reino

Unido otro profesor y matemático Alan Turing publicó un

artículo cuyo título he utilizado para encabezar este apéndice:

“¿Puede pensar una máquina?”. En él proponía el famoso test de

Turing, que es un juego para comprobar si las máquinas son

capaces de imitar nuestro pensamiento. Este no es el único mérito

de Turing, pues no sólo expresó esta interesante pregunta sino que

1

“Este estudio procederá sobre la base de la conjetura de que todos los aspectos del aprendizaje o cualquier otro rasgo de la inteligencia pueden, en principio, ser descritos de una forma tan precisa que se puede crear una máquina que los simule".

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

hizo todo lo posible con sus enormes contribuciones al desciframiento (y ciframiento)

de los lenguajes criptográficos a través del diseño de “máquinas universales” que fueran

las precursoras del lenguaje de la computación y de los primeros ordenadores.

1. El test de Turing:

2

Alan Turing, más que un matemático…

Sin este matemático de Cambridge, fallecido trágicamente en 1954, el mundo sería muy

distinto y francamente peor. No sólo merecen reconocimiento sus aportaciones a las ciencias de la

computación y a la inteligencia artificial sino que además Turing contribuyó de manera decisiva a la

victoria sobre la Alemania nazi en la II Guerra Mundial pues descifró los códigos secretos de la

máquina Enigma del ejército alemán. No debió parecer suficiente para algunos que lo denunciaron por

tener una relación homosexual. Le obligaron a someterse a un proceso de castración química (entonces

el ejercicio de la homosexualidad era delito) que le produjo graves secuelas. Se suicidó dos años

después(todavía su muerte no se ha aclarado).

Como cuenta la siguiente noticia, el pasado año Alan Turing fue exonerado e indultado de los

delitos de los que le acusaban por la Reina Isabel II de Inglaterra:

http://internacional.elpais.com/internacional/2013/12/24/actualidad/1387873660_129481.html

Vamos a ver la película “Descifrando Enigma (The Imitation game)” (2014) de Morten

Tyldum. Gracias a ella conoceremos mejor a este genio inigualable:

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

Empezaremos por analizar el célebre test de Turing tal y como lo describió el

propio matemático:

“Propongo que se considere la cuestión «¿ Pueden pensar las máquinas?» La discusión debería comenzar por las definiciones sobre el significado de los términos «máquina» y «pensar». Cabría construir tales definiciones de modo que reflejasen en lo posible el uso normal de las palabras, pero esta actitud es peligrosa. Si se ha de encontrar el significado de las palabras «máquina» y «pensar» examinando cómo se las usa habitualmente, es difícil escapar a la conclusión de que el significado y la respuesta a la pregunta «¿Pueden pensar las máquinas?», han de buscarse mediante una investigación estadística, como las encuestas Gallup. Pero esto es absurdo. En lugar de buscar una definición de ese tipo, reemplazaré la pregunta por otra que está muy relacionada con ella mediante palabras relativamente inequívocas.

La nueva forma del problema se puede describir en términos de un juego que llamaremos el «juego de imitación». Intervienen en él tres personas, un hombre (A), una mujer (B) y un interrogador (C) que puede ser de cualquier sexo. El interrogador se coloca en una habitación, separado de los otros dos. El objeto del juego para el interrogador consiste en determinar cuál de los otros dos es el hombre y cuál la mujer. Se refiere a ellos con las letras X e Y, y a final del juego, o bien dirá «X es A e Y es B» o bien «X es B e Y es A». El interrogador puede formular a A y B preguntas como ésta:

C: ¿Podría X decirme la longitud de su pelo?

Supongamos que, de hecho, X es A; entonces deber ser A quien conteste. La misión de A en el juego consiste en trata de conseguir que C se equivoque al realizar la identificación. Su respuesta por lo tanto podría ser:

«Mi pelo está escalonado y los más largos miden unos 23 cm».

Para evitar que el tono de la voz ayude al interrogador, las respuestas deberían darse por escrito, o mejor aún, mecanografiadas. La situación ideal es cuando se dispone de un teletipo que comunique las dos habitaciones. Otra alternativa es que las preguntas y las respuestas sean repetidas por un intermediario. El objeto del juego para el tercer jugador (B) es ayudar al interrogador. Su mejor estrategia consistirá, probablemente, en dar respuestas verdaderas. Puede añadir a sus respuestas cosas tales como «Yo soy la mujer, ¡no le haga caso!», pero sin garantía de seguridad, puesto que el hombre puede hacer observaciones similares.

Ahora preguntamos, «¿Qué ocurrirá cuando una máquina realice el papel de A en este juego?» ¿Se equivocará el interrogador, cuando el juego se haga así, con la misma frecuencia que cuando se realiza entre un hombre y una mujer? Estas preguntas reemplazan a la original, «¿Pueden pensar las máquinas?»”

“¿Puede pensar una máquina?” de A. M. Turing (pp.17-18. Turing, Putnam, Davidson: "Mentes y máquinas". Ed. Tecnos. Madrid, 1985).

3

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

Por lo tanto podemos decir que según el llamado “test” de Turing una máquina

piensa si un interlocutor humano, comunicándose por escrito con ella y con otros

humanos, es incapaz de distinguir a la máquina de los otros interlocutores humanos.

Otros retos, como la simulación de partidas de ajedrez (asunto en el que ya trabajó

visionariamente Turing) o la prueba creativa de teoremas, también han sido propuestos

con el fin de probar la posibilidad de que una máquina imite nuestra capacidad de

pensar. Turing creía que, en cincuenta años (es decir, ahora), empezaría a ser posible

construir máquinas capaces de enfrentarse a nosotros mismos en juegos en los que se

pone a prueba sobre todo la inteligencia de los competidores. ¿Hasta qué punto se ha

cumplido su predicción?

La victoria del ordenador Deep Blue sobre el mejor ajedrecista del mundo G.

Kasparov en 1997 pareció confirmar aquel vaticinio. Watson, otro superordenador de

IBM, confirmó en 2011 que una máquina puede vencer a los mejores competidores

humanos en uno de los mejores concursos televisivos de preguntas y respuestas de

EE.UU. El último juego en el que las “máquinas inteligentes” han vencido a los

humanos es el milenario juego chino GO. Esta misma semana han difundido la noticia

de que Deepmind, el ordenador de Google, ha vencido al mejor jugador de Europa, un

reto mucho más difícil que el que afrontó Deep Blue porque como dice el interesante

artículo que se hace eco de la noticia:

“Frente a los 20 o 30 movimientos que se pueden realizar en cada jugada de ajedrez, el Go

ofrece hasta 250. Además, una partida completa se desarrolla en muchos más turnos que el ajedrez: 200

frente a unos 40. Por tanto, el número completo de combinaciones es inabarcable, siquiera por la

supercomputación: exige soluciones selectivas, razonadas, intuitivas. Los humanos no eligen entre todas

las variables, sino que escogen las que parecen más razonables tras visualizar la situación”.

Ahora bien todavía hay retos pendientes de superar para “las máquinas

inteligentes”. Los traductores automáticos no han conseguido emular la capacidad

humana para entender semánticamente las lenguas que hablamos. Las máquinas

automáticas no pueden entender el doble sentido y la ambigüedad de las expresiones de

nuestro lenguaje. Basta con que intentemos traducir alguna de nuestras canciones

favoritas para que nos demos cuenta de ello.

Esta clase de test ha servido también para discernir si el que tenemos delante

es una máquina o un ser humano y así preservar la seguridad de la red Internet. Es lo

4

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

que sucede, por ejemplo, con los filtros CAPTCHA (Completely Automated Public

Turing test to Tell Computers and Humans Apart) que hay en las páginas WEB en las

que nos registramos, que pretenden impedir que un robot se haga pasar por uno de

nosotros.

El profesor Giulio Sandini defiende una variante del Test de Turing, esta vez

basado en el comportamiento del robot o androide. Si un robot expresa una conducta

que nos hace exclamar que parece que es humano (o que tiene un humano dentro)

entonces es que ha superado el test de la inteligencia humana. “Ello va en la línea de las

investigaciones recientes que resaltan que la verdadera inteligencia ha de ser corpórea,

encarnada (“embodied”)” como dice Carme Torras.

Asimo, el robot bípedo de Honda

Sin embargo, los robots actuales no superarían el test en la variante de Sandini.

De momento los robots que se comportan como humanos sólo aparecen en las pantallas

de los cines…

5

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

Wall-E, el encantador autómata de la película homónima

2. Las leyes de la robótica.

6

En las series de televisión también podemos observar el interés por el futuro de la

IA y los conflictos y dilemas que se avecinan. En la serie británica Humans (2015), que está

inspirada a su vez en la serie sueca Real Humans, el espectador siente la misma inquietud

que alguno de sus protagonistas por la similitud extraordinaria de los androides con los

humanos. Son tan similares que nos asustan. Es un fenómeno muy curioso y perturbador.

Vamos a probar si es así viendo el primer capítulo de la serie:

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

El sueño positivo de los que defienden el transhumanismo es poder ampliar y

mejorar las capacidades innatas humanas (o que hayan sido dañadas) con la ayuda de la

tecnología; superar los límites que nos impone nuestro cuerpo orgánico con implantes

biónicos o procedentes de la nanotecnología, en definitiva que la IA nos complemente y

haga posible lo que ahora es inimaginable la reposición de órganos sintéticos o incluso

la prolongación de la vida humana. Los más osados como Ray Kurzweil, director de

Ingeniería de Google, apuntan al nacimiento para 2045 de la “singularidad”, cuando la

máquina supere a los humanos dentro de dos generaciones.

Este discutible sueño puede transformarse en pesadilla si, como advierte la

ciencia ficción (en su vertiente literaria y cinematográfica), estas singulares máquinas en

lugar de ayudarnos nos sometieran después de emanciparse de nuestro control.

7

Por lo visto, para la ciencia-ficción (en la literatura y en el cine), el futuro que nos espera no

es demasiado halagüeño. La trilogía de “Matrix” (1999) propone una distopía o utopía negativa en la

que, en un mundo en sombras, las máquinas inteligentes y despiadadas “cultivan” a los humanos

después de que, en una rebelión, se hiciesen con el poder absoluto y sometiesen a los humanos. Esta

terrible situación se la comunica, en la escena que veremos a continuación, “Morpheo” a “Neo”.

Otra película anuncia de manera más poética y existencial la posibilidad de

que los “androides” con aspecto humano se rebelen contra sus amos y creadores es

“Blade Runner” (1982) de Ridley Scott, reproduciendo en el futuro el mito antiguo

del desafío de Prometeo contra los dioses (actualizado, a su vez, por Mary Shelley en

“Frankenstein”) Esta escena refleja mejor que ninguna la rebelión de la criatura contra

el creador…

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

Para evitar la posible rebelión de las máquinas,

Isaac Asimov (1920-1992, divulgador científico y escritor

de relatos de ciencia-ficción), propuso, aunque no

sabemos hasta que punto creía en esa posibilidad

realmente, las célebres tres leyes de la robótica, que dicen

así:

1. “Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser

humano sufra daño.

2. Un robot debe obedecer las órdenes que le son dadas por un ser humano,

excepto si estas órdenes entran en conflicto con la Primera Ley.

3. Un robot debe proteger su propia existencia, hasta donde esta protección no

entre en conflicto con la Primera o la Segunda Ley”.

Estas leyes, que son el código moral del cerebro positrónico de los robots,

intervienen en numerosos relatos de I. Asimov, en los que los intereses de los robots y

sus creadores humanos entran en conflicto.

8

Esto es lo que sucede en los relatos recopilados en el libro “Yo, robot” de Isaac Asimov, donde se

explica a través de los citados relatos la evolución que han sufrido los robots a lo largo de la historia futura

(estos relatos fueron publicados en 1950 y sitúan la acción a partir de finales de la década de los ochenta del S.

XX en adelante). El hilo conductor de la trama es el personaje de Susan Calvin, experta en robopsicología,

quién cuenta, a través de los relatos, las vicisitudes de la robopsicología desde los primeros robots no parlantes

hasta los más sofisticados con los conflictos que las leyes de la robóticas pretendían resolver no siempre con

éxito.

Os propongo la lectura de los dos primeros relatos titulados: “Robbie” y “Sentido giratorio”. Para

contestar, a continuación, las siguientes preguntas:

“Robbie”.

- ¿Qué tipo de Robot es Robbie?¿Cuál es su función?

- ¿Es justificado el miedo de la madre de que su hija se encapriche de una máquina teniendo

en cuenta las leyes de la robótica?

- ¿Y el miedo del vecindario hacia “Robbie” tiene razón de ser?

- ¿Crees que las personas pueden desarrollar sentimientos hacia las máquinas?

- ¿Las máquinas, a su vez, pueden sentir, como lo hacemos los humanos, la humillación o la

ternura?

- ¿Qué cuento muy popular le gusta mucho a Robbie? ¿Por qué consideras que le gusta

tanto?

“Sentido Giratorio”

- Según uno de los personajes ¿Qué se hizo para evitar que los robots fuesen prohibidos?

- ¿Qué leyes entran en contradicción en el cerebro robótico de Speedy?

- ¿Cómo se resuelve el conflicto entre leyes?

Los dos relatos se encuentran en el Box del blog Filosofía en el Instituto.

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

-

En los relatos de Asimov los autómatas gozan de mucha autonomía. Algunos

se preguntan si esto no es demasiado peligroso a pesar de la regulación propuesta por el

mismo Asimov. Recientemente en un encuentro convocado por la ONU un grupo de

científicos ha promovido una campaña llamada Stop Killer Robots en contra del uso de

los llamados LAWS (Sistemas de Armas Autónomos Letales), robots militares que

9

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

pueden tomar la decisión de matar de forma independiente de cualquier control humano.

Sería la antesala del escenario que describe la ciencia ficción. Es natural que muchos

investigadores y organizaciones sientan mucha inquietud. De momento la decisión de

abrir fuego sigue siendo humana, pero ¿hasta cuándo?

10

En Japón y en Corea del Sur han hecho caso a Asimos y ya regulan la conducta de sus robots:

Japón y Corea del Sur preparan leyes para regular la conducta de los robotsEl Ministerio de Industria japonés ha elaborado un documento de 60 páginas para debatir con la industria - Las tres reglas que redactó Isaac Asimov se consideran insuficientes por las autoridades.

En pocos días se han sucedido dos noticias hermanas. Los gobiernos de Japón y Corea del Sur están preocupados por un futuro lleno de robots y no están muy seguros de que se trate en todos los casos de máquinas amigas. Y ambos, aunque con perfiles un tanto distintos, han iniciado una política preventiva ante este futuro, parece ser, incierto con los robots.

El Gobierno japonés ha redactado un borrador de 60 páginas con el propósito de garantizar que los robots siempre estarán bajo el control humano. Este documento debe ser discutido por la industria, investigadores y abogados con el fin de elaborar una ley que satisfaga este propósito. El título del borrador ya es una muestra del miedo que preside la iniciativa: "Borrador de guía para asegurar la sana conducta de la próxima generación de robots".

El periódico británico The Times informó de su existencia la semana pasada e incluso le dedicó un editorial un tanto incrédulo en el que trasladaba este ejercicio legislativo a Gran Bretaña. El diario simplificaba enormemente, hasta el ridículo, las reglas que deben regir el futuro de los robots y las circunscribía a conductas como la de no ofenderse si le preguntaban la edad a la hora de comprar cigarrillos o alcohol, apagar

El documento japonés propone evaluar el nivel de riesgo y las fuentes del mismo. Uno de los remedios preventivos consiste en crear una base de datos en la que se recojan

todos los incidentes en los que un humano haya sido herido por un robot, las causas del mismo y que esta documentación sea accesible a todos los fabricantes de robots.

Japón es uno de los países donde está más desarrollada la robótica, no ya en el sector industrial, sino también en el de la ayuda doméstica y a ancianos. La próxima generación, inminente, asumirá tarea de patrullaje de seguridad y tutela de bebés. El mercado de estos robots "de ayuda" ronda los 10.000 millones de yenes, pero las

autoridades creen que en 15 años se disparará a cifras astronómicas. Algunos analistas atribuyen el empuje de esta industria robótica auxiliar a que con las máquinas se

intentan solucionar problemas, como la asistencia a ancianos, que de otra manera exigirían altos contingentes de mano de obra inmigrante, cuya entrada se quiere evitar.

Corea del Sur también ha reunido a un grupo de expertos para elaborar un código ético que evite que los hombres sean víctimas de los robots... o viceversa.

La carta ética de los robots debería suscribirse antes de que termine este año. Trabaja en ella un comité que reúne a expertos, futurólogos y autores de ciencia ficción. De acuerdo con un comunicado oficial, recogido por la BBC, el Gobierno quiere implantar un criterio de conducta sobre las funciones de los robots porque éstos pueden desarrollar una vida inteligente en un futuro próximo.

Park Hye-Young, miembro del despacho de robótica del ministerio surcoreano de Comercio e Industria, explicó que el código se iba a inspirar en las reglas establecidas por Isaac Asimov. El objetivo de la iniciativa es garantizar el control del hombre sobre estas máquinas, evitar su uso clandestino, tenerlas perfectamente identificadas y asegurar que el uso de los datos adquiridos por los robots no vulnere derechos como el de la privacidad.

El imaginario de la ciencia-ficción no ha sido muy amable con los robots. Menos todavía el cine, más proclive a presentarlos como criaturas, almas de metal, que se rebelan contra su creador, en una repetición del relato bíblico. Sin embargo, en la realidad, el empleo de los robots es pacífico y creciente. Sólo en el sector industrial, en 2004, había 850.000 robots, de los que más del 40% habitaban en Japón. El parque de robots en España rondaba los 22.000.

TOMÀS DELCLÓS 19/04/2007

Después de leer esta noticia, responde estas preguntas:

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

No olvides el origen etimológico de la palabra “robot”, significa en checo y otras

lenguas eslavas “sirviente” o “servidumbre prestada por un siervo a su señor”. Un robot

es un trabajador que se debe a su amo. El mundo del trabajo es otro ámbito en el que ya

se advierte el impacto de las máquinas en la automatización o computerización de los

11

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

empleos. Un estudio vaticina que en una o dos décadas la fuerza laboral humana podría

reducirse en Europa entre un 40 % y un 60%1. En concreto en España se perdería más o

menos la mitad de los empleos realizados por un trabajador humano. Esto afectaría

sobre todo a las clases medias que serían las más afectadas por el desempleo. No es de

extrañar que revivan los neoludditas (seguidores de Ned Ludd, el apodo del líder más o

menos legendario de aquellos trabajadores que destruían máquinas en el S.XIX) cuando

ya se entreve en un futuro no muy lejano lo que decía el economista David Ricardo, que

“la maquinaria podía hacer redundante la población (humana)”.

4. Las máquinas todavía no pueden pensar.

No todos están de acuerdo en que una máquina pueda pensar de la misma forma

que un humano. El profesor J. Searle afirma que las máquinas sólo alcanzan a combinar,

1 https://www.ahorasemanal.es/robots-contra-las-clases-medias

12

Debate

Nuestras máquinas inteligentes… ¿son herramientas de comunicación o instrumentos de control?

En España no hay tantos robots (excepto en las fábricas) como en otros países orientales sin embargo nuestro país es el primer país de Europa en el uso de smartphones (teléfonos inteligentes). Un 55 % de los usuarios de móviles en España tienen uno de estos teléfonos de última generación. También hay casas inteligentes, edificios inteligentes y en Corea del Sur ha construido una ciudad inteligente, Songdo, inspirándose en las redes neuronales del cerebro humano…

http://www.bbc.co.uk/mundo/noticias/2013/09/130903_tecnologia_ciudad_inteligente_songdo_ap.shtml

Estos objetos inteligentes ofrecen unas posibilidades enormes para mejorar nuestra vida pero, al mismo tiempo, nunca antes habíamos sido tan dóciles a la hora de prestarnos al control de los demás, de los que nos gobiernan y de los que tiene interés en nosotros como potenciales consumidores. Da miedo pensar que el Big Brother de George Orwell está en nuestros bolsillos…

http://economia.elpais.com/economia/2015/05/19/actualidad/1432029128_644860.html

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

según unas instrucciones precisas, un número muy importante de símbolos sin que

jamás lleguen a comprender su significado, su contenido semántico, no entienden a qué

se refieren las letras o números combinados con los que operan. Este prestigioso

profesor de la Universidad de California en Berkeley ha propuesto el argumento de la

habitación china.

Podéis encontrarlo en la siguiente página. Es una buena manera de concluir este

apéndice que empezaba preguntándose si es posible que las máquinas lleguen a emular

a la inteligencia humana. El tiempo lo dirá, mientras tanto sigamos reflexionando, las

máquinas no sabemos si podrán pensar, lo que es seguro es que nosotros sí podemos

hacerlo, ¿no es maravilloso?

John Searle

13

IES Manuel de Falla Guillermo García Domingo Dpto. Filosofía

14