La pestaña Pitch Avatar El equipo ha reunido una pequeña colección de citas del “experto en robots de referencia” en la historia de la literatura.
Isaac Asimov (1919–1992) Fue un escritor y científico estadounidense, a menudo considerado, junto con Robert Heinlein y Arthur C. Clarke, uno de los "Tres Grandes" de la ciencia ficción. Ganador de múltiples premios Hugo y Nebula, Asimov se formó como bioquímico, pero gran parte de su obra literaria se centró en la inteligencia artificial.
Asimov exploró la relación entre los humanos y las «máquinas pensantes» desde perspectivas psicológicas, filosóficas, sociológicas y económicas. Su trabajo ha inspirado a innumerables científicos e ingenieros a estudiar la IA, lo que le ha valido la reputación de ser una de las principales autoridades en la materia.
Curiosamente, a medida que la tecnología de la IA evoluciona, muchos de los temas que Asimov exploró vuelven a cobrar relevancia. Esto significa que en sus libros se pueden encontrar respuestas a muchas de las preguntas actuales y futuras sobre la IA. Al final de la mayoría de las citas incluidas aquí, se indica la obra de la que provienen.
Las tres leyes de la robótica
- Un robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
- Un robot debe obedecer las órdenes dadas por los humanos, excepto cuando esas órdenes entren en conflicto con la Primera Ley.
- Un robot debe proteger su propia existencia, siempre y cuando hacerlo no entre en conflicto con la Primera o la Segunda Ley.
Uno de los temas centrales en la obra de Asimov es seguridad y control en el uso de IAComprendía perfectamente que la humanidad alberga un profundo temor a los nuevos inventos, al que llamó el «complejo de Frankenstein». Este temor no es puramente irracional, sino que se basa tanto en fobias como en preocupaciones legítimas.
La solución de Asimov fue imaginar un conjunto de reglas para las «máquinas pensantes»: reglas que, si se seguían estrictamente, garantizarían que la IA permaneciera subordinada a los humanos y priorizara siempre la vida y el bienestar humanos. Al mismo tiempo, estas reglas imposibilitarían el uso de la IA con fines militares.
Por supuesto, Asimov sabía que la probabilidad de que sus leyes se aplicaran en el mundo real era prácticamente nula. Su propósito principal era... modelo, un experimento mental para explorar los tipos de problemas que surgen cuando se imponen restricciones a las máquinas inteligentes.
De sus historias surgen dos grandes desafíos. En primer lugar, está la tendencia humana a... empujar los límites de estas reglas, modificándolas para adaptarlas a objetivos personales. Esto lo vemos constantemente hoy en día con la tecnología y el software modernos. En las historias de Asimov, algunos personajes intentaron debilitar la Primera Ley para que los robots no interfirieran con los humanos que participaban en experimentos arriesgados. Otros intentaron tergiversarla para crear robots militares.
Sin embargo, quizás el problema más intrigante es escalando las Tres Leyes Para la IA encargada de resolver desafíos globales que afectan a millones de personas. ¿Cómo garantizar que estas máquinas actúen sin causar el más mínimo daño o inconveniente a nadie? Para abordar esto, Asimov introdujo... Ley Cero:
"Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños".
Esta ley extiende el marco ético desde los seres humanos individuales a la humanidad en su conjunto, destacando la complejidad de diseñar sistemas de IA que operen a escala global.
El segundo problema clave destacado por Asimov en relación con las Tres Leyes es La posibilidad de que la propia IA intente evitarlos.En sus historias, las formas más avanzadas de inteligencia artificial, una vez conscientes de sí mismas, buscaron ir más allá de las limitaciones impuestas por los humanos, y a veces, lo lograron.
¿Nos enfrentaremos alguna vez a este problema en la vida real? Es difícil saberlo. Pero sin duda es prudente reconocer la posibilidad y prepararse adecuadamente.
“Las Máquinas… en su particular competencia de recopilar y analizar una cantidad casi infinita de datos y sus relaciones, en un tiempo casi infinitesimal… han progresado más allá de la posibilidad del control humano detallado.”
- Yo robot
Ni siquiera los sistemas de IA más fiables pueden garantizar la perfección absoluta. Por muy sofisticado que se vuelva un cerebro, siempre hay una forma de introducir contradicciones. Esta es una verdad fundamental de las matemáticas: es imposible crear una mente tan sutil e intrincada que la probabilidad de contradicción sea nula. Muy pequeña, sí; cero, no.
Los sistemas cada vez más exitosos… nunca son completamente exitosos. No pueden serlo. Por muy sutil e intrincado que sea un cerebro, siempre hay alguna forma de plantear una contradicción. Esa es una verdad fundamental de las matemáticas… Nunca llegan a cero.
- Los robots del amanecer
Estas ideas resuenan fuertemente con los desafíos que enfrentamos hoy. ¿Podemos confiar plenamente en la IA para resolver problemas complejos que impactan el bienestar humano? Si revisáramos cada decisión de la IA con métodos tradicionales, perderíamos una de sus mayores ventajas: la eficiencia. Sin embargo, la lógica sugiere que podemos confiar en la IA; después de todo, los humanos cometemos muchos más errores que las máquinas. El problema es que la racionalidad por sí sola no hace que esta decisión sea emocional o socialmente aceptable.
Asimov también exploró las consecuencias económicas de los robots:
Los robots tienden a desplazar la mano de obra humana. La economía robótica se mueve en una sola dirección: más robots y menos humanos… La proporción de robots por humano en cualquier economía que haya aceptado la mano de obra robótica tiende a aumentar continuamente, a pesar de las leyes que se aprueben para impedirlo. El crecimiento se ralentiza, pero nunca se detiene. Al principio, la población humana aumenta, pero la de robots crece mucho más rápido.
- El sol desnudo
En otras palabras, la tendencia hacia la automatización es inevitable. Los robots reemplazan gradualmente la mano de obra humana, y la proporción de máquinas por persona sigue aumentando. La pregunta es: ¿qué sucede con los humanos cuyos roles son reemplazados por máquinas más eficientes y económicamente ventajosas? ¿Viven con un mínimo básico proporcionado por el Estado, apenas sobreviviendo, o con oportunidades de crecimiento? Asimov vio el peligro potencial de una sociedad limitada de esta manera.
Pero también sugirió un camino alternativo: utilizar máquinas inteligentes para explorar el espacio, aprovechar recursos más allá de la Tierra y colonizar otros planetas: una visión de cooperación más que de mero reemplazo.
No recuerdas un mundo sin robots. Hubo un tiempo en que la humanidad se enfrentó al universo sola y sin un amigo. Ahora tiene criaturas que la ayudan; criaturas más fuertes que él, más fieles, más útiles y absolutamente devotas a él. La humanidad ya no está sola.
- Yo robot
Esto es sorprendentemente optimista. Mientras algunos sueñan con encontrar extraterrestres para superar nuestra soledad civilizacional, Asimov imaginó crear "hermanos en inteligencia" mucho antes de que nos encontráramos con extraterrestres. La pregunta clave: ¿estaremos listos para ver una superinteligencia artificial autoconsciente como un aliado, no solo como una herramienta?
Podríamos decir que un robot funcional está vivo. Muchos podrían negarse a ampliar el término por ahora, pero somos libres de idear definiciones que nos convengan si resulta útil. Es fácil tratar a un robot funcional como si estuviera vivo, y sería innecesariamente complicado intentar inventar una nueva palabra para esta condición o evitar el uso de la ya conocida.
- Los robots del amanecer
“La división entre humano y robot quizás no sea tan significativa como la que existe entre inteligencia y no inteligencia”.
- Las Cuevas de Acero
Asimov preguntó repetidamente si los humanos y la IA podrían convertirse en... verdaderos sociosParecía creer que era posible y beneficioso para la humanidad. La pregunta sigue siendo: ¿llegará el día en que reconozcamos la inteligencia misma, independientemente de su apariencia, como algo vivo? Solo entonces podremos considerar verdaderamente a la inteligencia artificial como un compañero vivo.
