cómo fabricar robots

7/25/2019 Cmo Fabricar Robots.

1/3

3/7/2016 Cmo fabricar robots honestos?, Google intenta hacerlo - Versin para imprimir | ELESPECTADOR.COM

http://www.elespectador.com/print/639367

Economa| Mie, 06/22/2016 - 18:00

Cmo fabricar robots honestos?,

Google intenta hacerlo

Por: Bloomberg

Los sistemas actuales de inteligencia artificialpermiten que los autos se conduzcan solos,interpretan lo que se habla en los telfonos einvierten en bolsa.

Google imagina perfectamente un futuro con robots que nos ayudarn avaciar el lavavajilla y barrer el piso. La cuestin es garantizar que al

hacerlo no tiren al piso involuntariamente un jarrn, o algo peor.

Investigadores de la unidad Google de Alphabet Inc., junto con

colaboradores de la Universidad Stanford, la Universidad de California en

Berkeley, y OpenAi una empresa de desarrollo de inteligencia artificial

(IA) financiada por Elon Musk- tienen algunas ideas para disear mentes

de robot que no provoquen consecuencias desagradables para las

personas a las que prestan servicio. El martes dieron a conocer un

documento tcnico en el que exponen sus ideas.

La motivacin para la investigacin es la enorme popularidad de la

inteligencia artificial, el software capaz de recibir informacin sobre el

mundo y luego actuar. Los sistemas actuales de IA permiten que los autos

se conduzcan solos, interpretan lo que se habla en los telfonos y

conciben estrategias de comercializacin para el mercado burstil. En el
http://www.elespectador.com/noticiashttp://www.elespectador.com/http://www.elespectador.com/noticias


2/3



futuro, las compaas proyectan usar la IA como asistentes personales, en

un primer momento como servicios de software a la manera de Siri de

Apple Inc. y Google Assistant, y ms adelante como robots inteligentes

capaces de emprender acciones por s mismos.

Pero antes de dar a las mquinas inteligentes la posibilidad de tomar

decisiones, es necesario garantizar que los objetivos de los robots

coincidan con los de sus propietarios humanos.

Si bien los posibles riesgos de la IA para la seguridad han recibido mucha

atencin pblica, la mayor parte de la discusin hasta ahora ha sido

hipottica y especulativa. Creemos que es esencial fundamentar las

preocupaciones en la investigacin real del aprendizaje con mquinas y

comenzar a desarrollar metodologas prcticas para elaborar sistemas de

IA que operen de manera segura y confiable, escribi el investigador de

Google, Chris Olah, en un mensaje de blog que acompaa el documento.

Estructura suficiente

El informe describe algunos de los problemas que pueden llegar a

enfrentar los diseadores de robots en el futuro y enumera algunas

tcnicas para desarrollar software que las mquinas inteligentes no

puedan subvertir. El problema es la naturaleza indefinida de la inteligencia

y el enigma es similar al que han enfrentado los reguladores en otras

reas, como el sistema financiero: cmo disear normas que permitan a

las entidades alcanzar sus objetivos dentro de un sistema que se regula

de manera tal que no puedan subvertir dichas normas ni verse

innecesariamente constreidas por ellas?

Por ejemplo, si se trata de un robot para la limpieza (y OpenAI se propone

desarrollar un aparato de ese tipo): cmo asegurarse, al recompensarlo,

de no estar dndole un incentivo para hacer trampa? Si usted lo

recompensa por limpiar una habitacin, podra reaccionar barriendo elpolvo debajo de la alfombra para que quede fuera de la vista, o podra

aprender a apagar sus cmaras, impidiendo que usted vea un desastre y

por ende le d una recompensa.

Hacer trampa con la limpieza de la casa quiz no parezca un problema

fundamental, pero los investigadores lo extrapolan a futuros usos posibles

en los que se jueguen cosas ms importantes. Con este documento,


3/3



Google y sus colaboradores tratan de resolver problemas que slo pueden

entender vagamente antes de que se manifiesten en sistemas del mundo

real. En lneas generales, la idea es que estar algo preparados es mejor

que no estarlo en absoluto.

Direccin web fuente:

http://www.elespectador.com/noticias/economia/fabricar-robots-honestos-google-intenta-hacerlo-articulo-639367

COPYRIGHT 2016 www.elespectador.comProhibida su reproduccin total o parcial, as como su traduccin a cualquier idioma

sin autorizacin escrita de su titular.Reproduction in whole or in part, or translation without written permission is

prohibited.

All rights reserved 2016 EL ESPECTADOR
http://www.elespectador.com/noticias/economia/fabricar-robots-honestos-google-intenta-hacerlo-articulo-639367

cómo fabricar robots

Documents