Facebook mató a inteligencia artificial que creó un nuevo lenguaje

La inteligencia artificial es una realidad y las grandes empresas tecnológicas que hoy dominan el mundo —como Amazon, Facebook, Apple, etc.— ya la están poniendo en práctica, al mismo tiempo en que la siguen desarrollando. Sin embargo, esta tecnología podría ser peligrosa, al grado de que Facebook decidió terminar con una inteligencia artificial que ellos inventaron, después de que creara su propio nuevo lenguaje.

El Digital Journal reportó que un sistema de inteligencia artificial desarrollado por Facebook inventó un sistema de palabras claves, esto con el objetivo de hacer más eficiente la comunicación. Los investigadores cancelaron este sistema, pues les causó preocupación que se pudiera perder el control de la inteligencia artificial.

Estas observaciones hechas en Facebook son las más recientes en una lista de casos similares. En cada caso, una inteligencia artificial monitoreada por humanos se ha apartado de su entrenamiento en inglés para desarrollar su propio lenguaje. Las frases resultantes parecen no tener sentido para los humanos, aunque contienen significados semánticos cuando son interpretados por los “portadores” de dicha inteligencia artificial.

Esto resulta alarmante para los investigadores, pues a pesar de que este nuevo lenguaje no tenía sentido para ellos, los agentes de la inteligencia artificial lo entendían a la perfección. Esto causó que llegara el momento en el que los robots se comunicaban de manera eficiente, pero los humanos no entendían y no sabían qué tipo de información estaban compartiendo.

En un intercambio, dos bots nombrados Bob y Alice abandonaron las reglas gramaticales del inglés y comenzaron a comunicarse utilizando su propio lenguaje. Bob comenzó diciendo:

• I can i i everything else (Yo puedo yo yo todo lo demás)

A lo que Alice respondió:

• Balls have zero to me tome to me… (pelotas tienen cero para mí, para mí, para mí…)

La conversación continuó en ese tono.

Los investigadores creen que el intercambio representa más que solo un “montón de tonterías”, que es lo que parece ser a simple vista. Ellos hicieron énfasis en que repetir palabras y frases como “i” (yo) y “to me” (para mí) son indicadores de cómo funciona la inteligencia artificial. En esta conversación en particular, ellos creen que los bots estaban discutiendo qué cantidad de cada objeto deberían tomar.

Por último, Facebook determinó que quería que sus bots hablaran en inglés, en parte porque el interés estaba en crear bots que pudieran comunicarse con las personas. Sin embargo, los investigadores también admitieron que era porque ellos no pueden entender a la perfección los lenguajes inventados por la inteligencia artificial.

Este es un capítulo más de los pequeños indicios que la inteligencia artificial nos muestra en un apocalíptico camino. Pero, ¿será realmente tan aterrador?, ¿no será que la falla está en los humanos y no en la tecnología?, ¿será que la tecnología se puede “equivocar”? Son preguntas que me detonan cada vez que me entero de otro caso de inteligencia artificial “fallida”. ¿Tú qué opinas?