Inteligencia artificial, aprendiendo de los errores

53

SAN FRANCISCO, California — En OpenAI, el laboratorio de inteligencia artificial que fundó el director ejecutivo de Tesla, Elon Musk, las máquinas están aprendiendo solas a comportarse como seres humanos. Pero en ocasiones, les sale mal.

Hace unos días, el investigador Dario Amodei se encontraba sentado en las oficinas de OpenAI en San Francisco, mientras presumía un sistema autónomo que había aprendido por sí mismo a jugar el antiguo videojuego de carreras de lanchas Coast Runners. Gana el jugador que acumule más puntos y que cruce la línea de meta en primer lugar.

El resultado fue sorprendente: la lancha mostraba demasiado interés en las cositas verdes que saltaban en la pantalla. Al atraparlas, acumulaba puntos. En lugar de tratar de completar la carrera, la lancha acumulaba puntos a lo loco. Navegaba en círculos interminables, chocaba con otras embarcaciones, se estrellaba contra muros de piedra y a menudo se incendiaba.

El bote en llamas de Amodei comprobó los riesgos de las técnicas de inteligencia artificial (IA) que están reformulando con rapidez el mundo de la tecnología. Los investigadores están construyendo máquinas que pueden aprender tareas en gran parte por su cuenta.

Es así como el laboratorio DeepMind de Google creó un sistema que podía vencer al mejor jugador del antiguo juego de Go. Sin embargo, conforme estas máquinas aprenden, luego de horas de análisis de datos, también podrían desarrollar conductas inesperadas, indeseables y quizá hasta peligrosas.

Esa es una preocupación que ha surgido a medida que estas técnicas se abren paso hacia los servicios en línea, los dispositivos de seguridad y la robótica. Hoy en día, una pequeña comunidad de investigadores en inteligencia artificial, entre los que se encuentra Amodei, comienza a explorar las técnicas matemáticas que ayuden a evitar que suceda lo peor.

 

Durante años, Musk, junto con otros eruditos, filósofos y especialistas en tecnología, advirtieron que las máquinas podrían salir de nuestro control y aprender, de alguna manera, conductas dañinas que sus diseñadores no contemplaran.

Este entrenamiento para videojuegos tiene implicaciones en el mundo real.

Los investigadores creen que si una máquina puede aprender a manejar en un juego como Grand Theft Auto, podría aprender a conducir un auto en la vida real. Si es capaz de utilizar un navegador de internet y otras aplicaciones de software comunes, puede aprender un idioma e incluso a sostener una conversación.  Fuente: nytimes.com

 

5