Fuente: http://next.clarin.com/innovacion/Google-trabaja-prevenir-rebelion-robots_0_1591040972.html
Google parece haber tomado nota del film que llevó al estrellato a
Arnold Schwarzenegger, donde una supercomputadora (Skynet) decretaba el
fin de la raza humana. Para evitar caer en una realidad como la de
Terminator, Google se embarcó en la creación de un "botón rojo" de
emergencia, capaz de apagar una inteligencia artificial que se
torne peligrosa para el género humano.
La investigación que involucra a DeepMind -que se hizo célebre al vencer
al campeón mundial de go- fue publicada en el sitio del Machine
Intelligence Research Institute de la Universidad californiana de
Berkeley.
Los expertos afirman haber creado una suerte de "botón" rojo que no
sólo puede detener las acciones de una inteligencia artificial
-imaginando un escenario como el del film "Ex Machina"- sino también
impedir que un sistema demasiado desarrollado pueda comprender y sortear
la interrupción.
Sin embargo aún no está claro, según explicaron
los científicos al sitio Business Insider, "si todos los tipos de
algoritmo pueden ser 'interrumpidos' fácilmente y de modo seguro".
Los investigadores, de hecho, están estudiando la situación de que un
agente de inteligencia artificial pueda evolucionar también de modo
peligroso o contraproducente para el ser humano
El estudio será ilustrado en la Conference on Uncertainty in Artificial
Intelligence (UAI) programada para fines de junio en Nueva York.
El resumen de la investigación publicado por los expertos -Laurent
Orseau de DeepMind, Stuart Armstrong de la Universidad de Oxford y
otros- explica que es "improbable" que los agentes de inteligencia
artificial" actúen óptimamente todo el tiempo".
"Si un agente así
está operando en tiempo real bajo supervisión humana, podría ser
necesario para el operador humano apretar el gran botón rojo para
prevenir que el agente siga una secuencia dañina de acciones, para el
agente o para el ambiente, llevándolo a una situación más segura",
escribieron.
Por su parte, DeepMind sabe que la tecnología que está creando tiene el
potencial de causar daño. Sus fundadores -Demis Hassabis, Mustafa
Suleyman y Shane Legg- permitieron a su compañía ser comprada por Google
bajo la condición que se creara un comité de ética sobre inteligencia
artificial para monitorear sus avances en ese sector.
Quién sesiona en
ese comité, y qué hace exactamente, sigue siendo un misterio, comentó
Business Insider.
Ver más: http://next.clarin.com/innovacion/Google-trabaja-prevenir-rebelion-robots_0_1591040972.html
No hay comentarios:
Publicar un comentario