o Cómo trabajar con una IA que “sufre alucinaciones”
Un autor de la Pitch Avatar El equipo explica cómo los escritores de ciencia ficción, ya a mediados del siglo XX, encontraron soluciones al problema del “delirio de las máquinas”.
Desde el siglo XIX, ha existido un patrón claro: mucho antes de que la civilización se tope con problemas relacionados con el progreso tecnológico en la práctica, los escritores de ciencia ficción logran "inventarlos" primero. Y no solo inventarlos, sino también proponer soluciones.
Las alucinaciones de la IA —o, como a veces se les llama, delirio de las máquinas— no son una excepción. Aclaremos de inmediato: no nos referimos a fallos o disfunciones causados por daños físicos al hardware ni, por ejemplo, por virus informáticos. Tampoco hablamos de una hipotética "rebelión de las máquinas", donde la IA se niega "conscientemente" a obedecer a los humanos y decide por sí misma qué hacer.
Nos interesan las situaciones en las que la inteligencia artificial genera información falsa, incorrecta o completamente absurda. Por ejemplo, citas inexistentes de personas inexistentes en libros inexistentes. O enlaces a páginas web que no existen. O una especie de "ensalada visual" en imágenes. Damos por sentado que todo lector se ha encontrado con este tipo de resultados generados por IA al menos una vez. A veces, la respuesta de la IA a una indicación está tan alejada de lo que se le pidió que surge un impulso completamente ilógico de declararla "loca". Esto es especialmente frustrante cuando la IA empieza a fallar al resolver una tarea verdaderamente importante que requiere un alto grado de precisión. Como resultado, algunas personas se desilusionan tanto que dejan de usar herramientas basadas en IA por completo, prefiriendo resolver sus problemas "a la antigua usanza".
Así que, permítannos tranquilizarlos. Los maestros de la ciencia ficción han estado reflexionando sobre este tema desde mediados del siglo pasado. ¿Por qué no recurrir a ellos para encontrar una solución al problema del «delirio mecánico»?
La aterradora terminal
Tomemos, por ejemplo, el cuento de Stanisław Lem "Término." La trama, en resumen, es la siguiente: el capitán de una nave espacial hereda un viejo robot de mantenimiento llamado Terminus, que, mientras realiza sus tareas, escribe constantemente algo en código Morse. Resulta que el robot presenció un desastre en la nave y está reproduciendo las últimas comunicaciones entre los tripulantes fallecidos. Lo más interesante es que cuando alguien se dirige a una de las personas, en cuyo nombre el robot "conduce la conversación", también usando código Morse, Terminus comienza a responder en su nombre, como si aún estuviera viva y a bordo de la nave siniestrada. Por lo demás, Terminus cumple con sus funciones a la perfección, y cuando se le habla en lenguaje humano normal, no recuerda ni el desastre ni a los tripulantes fallecidos. El capitán de la nave, pragmático, utiliza el robot hasta el final de la misión y luego lo desecha.
A pesar de que esta historia logra estremecernos, lo que vemos aquí es un claro ejemplo de alucinación mecánica. Por alguna razón, durante la catástrofe, el robot con IA se autoentrenó para imitar la comunicación entre los miembros de la tripulación que intentaban desesperadamente salvarse. El motivo de esto, en general, no importa. Una de las ideas clave de la historia es precisamente que, al crear máquinas inteligentes, no siempre es posible predecir en qué dirección se desviará su proceso de autoaprendizaje. Lo importante es otra cosa. Cuando el robot alucinado recibió una orden directa, clara e inequívoca, la ejecutó con bastante eficacia. Personalmente, siempre he creído que el capitán de esta historia actuó de forma demasiado radical. Habría sido mucho más lógico entregar Terminus a especialistas para su estudio.
Al parecer, Lem quería demostrar que, cuando surjan dificultades al trabajar con IA en el futuro, las mejores soluciones suelen ser las más sencillas. Es decir, simplemente reemplazar una herramienta con fallos por otra.
Lógica simple
Personalmente, prefiero mucho más la idea que subyace al cuento. "Razón" De otro clásico, Isaac Asimov. En esta historia, un robot con IA parece, a primera vista, protagonizar una típica "rebelión". La acción se desarrolla en una estación espacial remota con una tripulación de tan solo dos personas. El robot en cuestión es un sistema complejo diseñado, en esencia, para gestionar otros robots. Se considera la "corona de la creación", deifica una de las máquinas principales de la estación —el convertidor de energía— y se refiere a los humanos como seres de un orden inferior. Además, comienza a difundir sus "enseñanzas" entre los demás robots.
Sin embargo, pronto se hace evidente para los humanos que la IA "rebelde" sigue obedeciendo sus órdenes y cumpliendo con sus funciones a la perfección. Si bien explica constantemente sus acciones según su propia visión del mundo, sus alucinaciones no afectan en absoluto la calidad de su trabajo. Como resultado, los humanos deciden ignorar la "locura inofensiva" del robot.
La clave es la formulación
Nota: tanto en la historia de Lem como en la de Asimov, las IAs alucinantes cumplen sus funciones a la perfección cuando reciben órdenes claras y precisas. Así, ya en la época dorada de la ciencia ficción, se identificó la principal solución al problema de las alucinaciones de las IAs. En la mayoría de los casos, basta con formular correctamente la tarea para la IA. Si quiere encontrarse con el "delirio de la máquina" con menos frecuencia, formule sus indicaciones de la forma más clara, precisa, inequívoca y concisa posible.
