ensayo sobre ia

Curso Propedéutico para un Aprendizaje Autogestivo en un Ambiente Virtual

Convocatoria de Proceso de Admisión 2016-1

AUTOR: HECTOR H. TRUJILLO S. 1

EJE 4. Lectura y elaboración de textos académicos

Unidad 3. Estructura de los tipo de texto

Actividad 3. Evaluando mi texto académico

Tema: ¿Es seguro el uso de la Inteligencia Artificial en las máquinas?

Nombre del aspirante.

Héctor Hugo Trujillo Sánchez

Docente en línea.

Yéssica Osorio Pérez

Fecha de entrega.

30/11/2015



Índice

1. Introducción.....................................................................................................3

2. Entre el beneplácito y la preocupación.........................................................5

3. Un caso lamentable.........................................................................................9

4. Conclusión.....................................................................................................12




1. Introducción

La inteligencia artificial (IA) puede definirse como “el medio por el cual las computadoras, los robots y otros dispositivos realizan tareas que normalmente requieren de la inteligencia humana” (Herrera, 1999).

En la siguiente figura se hace la diferenciación en 4 categorías:

Sistemas que piensan como humanos

Sistemas que piensan racionalmente

«El nuevo y excitante esfuerzo de hacer que los computadores piensen... máquinas con mentes, en el más amplio sentido literal». (Haugeland, 1985)

«[La automatización de] actividades que vinculamos con procesos de pensamiento humano, actividades como la toma de decisiones, resolución de problemas, aprendizaje...» (BelImán, 1978)

«El estudio de las facultades mentales mediante el uso de modelos computacionales». (Charniak y McDermott, 1985)

«El estudio de los cálculos que hacen posible percibir, razonar y actuar». (Winslon, 1992)

Sistemas que actúan como humanos Sistemas que actúan racionalmente

«El arte de desarrollar máquinas con capacidad para realizar funciones que cuando son realizadas por personas requieren de inteligencia». (Kurzweil, 1990)

«El estudio de cómo lograr que los computadores realicen tareas que, por el momento, los humanos hacen mejor». (Rich y Knight, 1991)

«La Inteligencia Computacional es el estudio del diseño de agentes inteligentes». (Poole et al., 1998)

«IA... está relacionada con conductas inteligentes en artefactos». (Nilsson, 1998)

Figura 1 Definiciones de inteligencia artificial, organizadas en cuatro categorías. (Russell, 2004)




La Inteligencia artificial (IA) puede ser vista también desde 2 perspectivas complementarias:

a) Una perspectiva cognitiva concerniente al estudio de los mecanismos de lo que se considera la inteligencia humana (cabe mencionar que hay otros tipos de inteligencia que no están en el ámbito de la IA).

b) Las iniciativas o líneas en la investigación para poder dotar a las máquinas de capacidades que son propias de los seres humanos.

Por otro lado es interesante otra división que considera 2 divisiones importantes:

a) La Inteligencia artificial reducida focalizada en el diseño para desempeñar tareas específicas muy acotadas (como el reconocimiento facial para aspectos de seguridad, búsquedas inteligentes sobre internet, o la inteligencia para conducir un automóvil).

b) La inteligencia artificial fuerte se focaliza en aspectos sobresalientes en los robots que tienen que ver con su mayor capacidad para realizar tareas cognitivas.

La aplicación de la Inteligencia Artificial incluye varias áreas como: La Robótica, La comprensión y traducción de lenguajes, Los sistemas expertos, La Defensa Militar, La industria de Oil&Gas, Las Matemáticas, La Automatización y control en los procesos Industriales, La Medicina, etc.

En este documento nos referiremos principalmente al campo de la Robótica en donde es más visible el comportamiento de una máquina realizando acciones que frecuentemente realizan los seres humanos y en donde también se aprecia un esfuerzo notable de dotar a robots con características similares a las humanas. Cabe señalar que es también en este dominio de la IA donde existen grupos humanos que se mantienen alertas en cuanto al uso racional de la tecnología (por ejemplo la organización “The future of Life Institute”).

El objetivo de este escrito es abordar algunos temas como la seguridad y la calidad en el uso de la inteligencia artificial aplicada a las máquinas; mucho se ha




escrito acerca de los beneficios de replicar en las máquinas los procedimientos similares a los procesos inductivos y deductivos del cerebro humano, sin embargo aún hay temas abiertos sobre los riesgos y beneficios reales que se pueden obtener a través del uso de la Inteligencia Artificial.

2. Entre el beneplácito y la preocupación

Así como hay una gran expectativa de que la relación con las máquinas dotadas de inteligencia artificial sea útil y que la interacción con ellas sea lo más natural posible, hay una preocupación autentica sobre las consecuencias que puede tener el dotar de inteligencia a las máquinas que posteriormente pudieran representar una amenaza para la raza humana. Los miedos fundados y el optimismo son 2 emociones que en la misma proporción parecen estar en el colectivo de los científicos y gente especializada en la materia. Aunque la investigación actual busca la forma de mejorar la producción de máquinas con inteligencia artificial todavía los esfuerzos parecen no dar los frutos esperados puesto que hay errores aun tanto en el producto y en la forma de operarlos, así como también aún falta establecer hasta donde las máquinas tendrán autonomía como para tomar decisiones que actualmente son funciones humanas.Un ejemplo de un área de aplicación es un robot amigable llamado JIBO, que puede integrarse a la familia bajo el concepto de un Robot social:




JIBO como es un Robot Social para el Hogar, puede realizar las siguientes funciones:

Ver Escuchar Hablar Aprender Ayudar Relatar

Los roles de JIBO son como Asistente, Mensajero, Fotógrafo, Avatar, Cuentista y Acompañante dada su capacidad de comunicación.

Hoy JIBO está agotado y está una lista de espera para su adquisición.

Aquí se da una lista de puntos a reflexionar sobre el hecho de adquirir un JIBO para integrarlo a la familia:

¿Los niños están listos para una interacción con robots de este tipo?




¿No podría perderse el sabor cotidiano de la interacción entre personas como ha pasado con el uso no racional del celular?

¿Cuáles son los riesgo en el uso de éste tipo de robots que a como se perciben a primera vista, parecen totalmente inofensivos y atractivos?

¿Cómo se hace para detectar un mal funcionamiento en el robot y que todo esté bajo control? Recordemos los accidentes tan solo en aparatos electrónicos de uso común

¿Podría convertirse en un elemento intrusivo en la familia y acentuar (o provocar) diferencias entre sus elementos?

¿Qué medidas de seguridad deben incorporarse para convivir con estos robots?

¿Qué normatividad aplica para que estos robots puedan ser calificados como inofensivos como para incorporarlos al hogar de una familia y que dicha tecnología tenga elementos humanísticos observables, medibles y auditables?

¿Se perderían habilidades de comunicación naturales que son comunes entre los seres humanos, considerando aspectos como la calidez, el tono de voz, el lenguaje corporal, etc.?

Una de las funciones básicas de diseño de un robot es la definición del paquete de reglas que dirigen el comportamiento de las máquinas con inteligencia artificial. Es aquí donde es posible establecer que dicho comportamiento esté controlado del lado humano (como por ejemplo JIBO el cual es un producto tecnológico con funciones humanizadas). ¿Las reglas que rigen el comportamiento de un robot, son equiparables a las normas morales de los seres humanos?

El conocido autor Isaac Asimov escribió las tres leyes de la robótica como las normas con las que la mayoría de los robots de sus novelas y cuentos están diseñados para cumplir. Estas leyes aparecieron escritas por primera vez en el relato RUNAROUND (1942) y son las siguientes:

1. Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.

2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.

3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.




Estas leyes evitan que los robots dañen a un ser humano y los condiciona a obedecer las órdenes recibidas, dejando al último el preservar su propia existencia.

Yo robot de Isaac Asimov, es un volumen publicado en 1950 en los que se establecen y plantean problemas de estas 3 leyes de la Robótica que son las bases de una moral aplicable a supuestos robots inteligentes.

Solo por enumerar algunas interrogantes planteadas en Yo robot, se pueden mencionar las siguientes:

¿Pueden sustituir las máquinas a los seres humanos? ¿Es probable que los seres humanos al convivir pacíficamente con los

robots puedan llegar a desarrollar sentimientos afectivos hacia ellos? Si se perfeccionara la creación de robots con base a hacerlos idénticos a

los humanos, ¿Cómo hacer una diferenciación? ¿Y si llegara el momento en que los robots rebasaran las capacidades de

los seres humanos? ¿Qué ocurre si un robot entra en contradicción y no sabe qué hacer? ¿Podría un robot cuestionar su propia existencia?

Lidia Franzoni, directora del programa de Ingeniería en Computación del Instituto Tecnológico Autónomo de México comentó:

“Sería posible tener en la robótica una serie de reglas para que esta tecnología no nos sobrepase, no creo que se trate de algo de ficción y la ética es la que deberá indicarnos que reglas poner”.




3. Un caso lamentable

Aunque el espíritu de la investigación y desarrollo de máquinas con inteligencia artificial está motivado por un impacto benéfico en la sociedad, no todo son buenas noticias. Me referiré a un accidente ocurrido el 1 de Julio de 2015 en una planta de Volkswagen en Alemania cerca de Kassel, donde finalmente perdió la vida un trabajador a causa de un ataque por parte de un Robot en una línea de ensamble.

A continuación se reproduce la noticia de la página web del FINANCIAL TIMES:




Este lamentable accidente da la pauta para reflexionar sobre lo siguiente:

El tema de la seguridad en el empleo de robots en la industria, donde personas y máquinas deben interactuar en diversas condiciones para lograr los objetivos de una organización.

El tema de la calidad de las pruebas que deben ser sometidos dichos robots, tanto en lo relativo a los programas para su administración y control, con el fin de asegurar su funcionamiento adecuado y confiable, así como del hardware que hospeda dichos programas. En este caso el robot golpeó al trabajador y no hubo forma de que operaran mecanismos que protegieran a éste último o que regularan el comportamiento del robot.

El tema de la capacitación y entrenamiento para poder administrar, controlar e interactuar con máquinas dotadas de inteligencia artificial.




Existen riesgos en el uso de máquinas con inteligencia artificial que impactarán su funcionamiento y/o rendimiento, ya sea por un error en su lógica de programación o por causas de falla en los componentes de dichas máquinas. Aunado a esto. si la operación y/o mantenimiento de estas máquinas no se realiza por personal altamente capacitado y entrenado los riesgos se incrementan (aunado a que se haga en el tiempo programado). Por otro lado si el hecho de que una maquina dotada de inteligencia artificial no funcione de manera normal puede convertirse en una amenaza para los humanos y su entorno como se puede ver en el caso del robot de Volkswagen.

Cuando los investigadores consideran que las máquinas superinteligentes con Inteligencia Artificial pueden llegar a superar a los humanos y que si de repente los riesgos son visibles es porque:

1. Las máquinas fueron programados con hacer algo devastador (por ejemplo un arma autónoma).

2. Las máquinas tienen Inteligencia artificial con reglas programadas que las hacen actuar como benéficas pero desarrollan un método destructivo para el logro de sus metas.

Es probable que adicional a esto, cualquier máquina con Inteligencia artificial en condiciones donde sufra daños, podría tener un comportamiento errático, lo cual podría representar un riesgo para las operaciones o funciones que realiza.

Muchas personas de ciencia y tecnología se han unido para manifestar su posición con respecto a los riesgos en el uso de la Inteligencia artificial y sus implicaciones. Recientemente un grupo de ellos –incluyendo a Stephen Hawking- se unieron para firmar una carta abierta pidiendo la prohibición de las armas ofensivas autónomas.

Nacen organizaciones como por ejemplo “The future of Life Institute” cuya misión es ser un soporte para la investigación e iniciativas para salvaguardar la vida y desarrollar visiones optimistas para el futuro. La carta abierta que se menciona arriba, está organizada por éste instituto.




4. Conclusión

Hay temas importantes sobre normatividad, seguridad, calidad, ética, supervisión y control que deben considerarse antes de desarrollar maquinas dotadas con inteligencia artificial, que podrían rebasar los límites establecidos. La seguridad nunca está cubierta al 100% por lo que hay que mejorar la calidad de los robots como productos gestionando los riesgos y maximizando los beneficios.

Para el ser humano crear inteligencia similar o mejor a la propia es un reto y una meta que puede traer consecuencias tanto positivas como negativas (y tan graves como el poner en peligro la continuidad de la vida en la tierra).

Una máquina fuera de control no es algo que se espere como un comportamiento aceptable, por lo tanto se deben realizar las pruebas de calidad pertinentes que demuestren que dicha maquina está lista para realizar sus funciones y que las reglas para la interacción con humanos está probada. Esto va desde la lógica de la programación hasta las partes que componen la máquina. Los errores en el diseño, desarrollo y operación de robots pueden cobrar vidas humanas como el caso del Robot de Volkswagen que mató a un trabajador en julio de 2015.

Conocer los componentes que integran una máquina es una buena práctica para poder determinar el impacto que tiene el mal funcionamiento de uno de ellos sobre el resto de los componentes.

Es importante la colaboración entre los seres humanos y los robots dado que el ser humano tiene ciertas limitaciones que pueden sobrepasarse con la ayuda de ellos. Hay áreas donde dar autonomía a los robots representa una amenaza que deberá ser considerada para no incurrir en errores que cobren vidas humanas o efectos nocivos colaterales.

Es casi seguro que la inteligencia artificial y el desarrollo tecnológico subsecuente estarán al servicio de una minoría y es un reto para todos verlo de manera global.

El sentido de usar la inteligencia artificial de forma racional en robots es para mejorar muchos aspectos de la vida cotidiana como la salud, la educación, los servicios, erradicar la pobreza y todo aquello que contribuya a la construcción de un mundo mejor asegurando la continuidad de la vida en la tierra.




Reflexión

a) ¿Por qué he elegido este tema?

He elegido este tema porque me agrada todo lo relacionado con la robótica y soy partidario de que la tecnología debe usarse racionalmente; que lo que usemos como herramientas tecnológicas deben estar metodológicamente probadas, cumplir con la normatividad y cumplir con las especificaciones de seguridad para que se garantice que no habrá daños a las personas, al ambiente e instalaciones. Me conmovió mucho el accidente ocurrido en VW en Alemania ocurrido que relato en este escrito y me ha hecho reflexionar al respecto.

Estoy en contra de los efectos nocivos que puede ocasionar el uso de una tecnología por falta de análisis de riesgos, por baja calidad y por ignorar los aspectos de seguridad que apliquen.

b) ¿De donde partí para empezar a escribir?

He partido de algunas definiciones de lo que es la Inteligencia artificial para continuar con plantear que hay una división en la percepción de que la IA es benéfica y por otro lado que hay una preocupación creciente de que crear máquinas con inteligencia artificial similar a la inteligencia humana puede ser una amenaza si dicha inteligencia rebasa a la de los seres humanos, puesto que existe el riesgo de que las máquinas tomen el control.




Bibliografía

Figueras, J. C. (22 de 06 de 2015). Temen a la Inteligencia Artificial. Obtenido de EXCELSIOR: http://www.excelsior.com.mx/global/2015/06/22/1030673#view-1

Hernandez, A. (03 de 02 de 2015). Divide a cientificos la Inteligencia Artificial. Obtenido de EXCELSIOR: http://www.excelsior.com.mx/hacker/2015/02/03/1006208

Herrera, R. G. (1999). La inteligencia artificial ¿Hacia donde nos lleva? ¿Como ves? (UNAM), 4.

INSTITUTE, F. o. (13 de 11 de 2015). BENEFITS & RISKS OF ARTIFICIAL INTELLIGENCE. Obtenido de Future of life INSTITUTE: http://futureoflife.org/background/benefits-risks-of-artificial-intelligence/

Russell, S. J. (2004). INTELIGENCIA ARTIFICIAL, UN ENFOQUE MODERNO. Madrid: Pearson educación.


http://www.excelsior.com.mx/hacker/2015/02/03/1006208

http://www.excelsior.com.mx/global/2015/06/22/1030673#view-1

ensayo sobre ia

Documents