Tech/Curiosidades+

La realidad sobre la IA que Facebook apagó

Hace poco, nos enteramos sobre las noticias relacionadas a una investigación de Facebook en torno al aprendizaje automático que ha generado pánico en diversos lugares.

Los ingenieros de Facebook entran en pánico y desconectan una AI (inteligencia artificial) debido a que los ‘bots’ desarrollaron su propio lenguaje
— escribió un medio.

“Facebook apaga una AI luego de que inventase un lenguaje propio y horripilante” agregó otro.

No se hicieron esperar también las especulaciones de la inminente llegada de la revolución del robot, droides asesinos, inteligencias artificiales malvadas y el exterminio de la humanidad —algunas predicciones más serias que otras—. Para reforzar este pánico, se citaba una conversación en la que dos ‘bots’ de Facebook muestran haber aprendido a hablar entre ellos de una forma ciertamente espeluznante:

Conversación entre bots

Bob: I can i i everything else [Bob: Puedo yo yo todo lo demás] Alice: balls have zero to me to me to me to me to me to me to me to me to [Alice: pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para mí para] Bob: you i everything else [Bob: tú yo todo lo demás] Alice: balls have a ball to me to me to me to me to me to me to me to me [Alice: pelotas tienen una pelota para mí para mí para mí para mí para mí para mí para mí para mí]

Sin embargo, la realidad resulta menos tenebrosa y más prosaica. Hace pocas semanas, FastCo Design dio cuenta de los intentos de Facebook por desarrollar una “red generativa adversaria” con el fin de desarrollar un software de negociación.

En un post publicado en junio en el blog de la unidad de Investigación de Inteligencia Artificial de Facebook, se explica que los dos “bots” que conversan en el fragmento citado fueron diseñados con el fin de demostrar que es “posible para agentes de diálogo con diferentes objetivos (e implementados en su totalidad como redes neuronales entrenadas) participar en negociaciones con otros “bots” o personas y llegar a decisiones o acuerdos comunes.

La interfaz gráfica de usuario de un sistema de negociación. Crédito del GIF: Facebook AI Research
La interfaz gráfica de usuario de un sistema de negociación. Crédito del GIF: Facebook AI Research

Los “bots” no hicieron más que discutir entre ellos cómo dividir una matriz de elementos dados (representada en la interfaz de usuario como inocuos objetos como libros, sombreros y pelotas), de una manera que el resultado fuese mutuamente aceptable.

La intención era desarrollar un chatbot que, gracias a la interacción humana, pudiese aprender cómo negociar acuerdos con un usuario final de manera tan fluida que el usuario no se dé cuenta de que está hablando con un robot. En ese sentido, el FAIR (equipo de investigación en AI de Facebook) afirma que tuvo éxito.

Al menos no por ahora. El aprendizaje automático no está todavía cerca de la verdadera inteligencia artificial, sino que está dando sus primeros pasos. Sin embargo, si hay alguien que de verdad tiene razones para alarmarse con noticia como esta, serían los negociadores profesionales, quienes más pronto de lo que creen podrían quedarse sin trabajo. [Fastco Design]