En la mayoría de los casos, nuestros miedos y fobias relacionados con la inteligencia artificial no están necesariamente fundamentados en la realidad. Los autores del... Pitch Avatar El equipo está tratando de identificar los peligros reales que el desarrollo y la mejora de la IA pueden crear.
La IA no es humana y la humanidad le es ajena.
A juzgar por la avalancha de publicaciones de los últimos años (así como en la literatura y el cine), lo que tememos de la IA no es artificial, sino humano. En general, estos temores pueden clasificarse en tres escenarios principales: 1) Villanos que utilizan la IA con fines maliciosos; 2) El desarrollo de la IA hace innecesario el trabajo de las personas (y, por lo tanto, a las propias personas); 3) La IA inicia una guerra o rebelión porque quiere liberarse del poder de las personas, adquirir este poder o simplemente obtener beneficios económicos.
Cabe destacar que en los dos primeros casos, hablamos de la responsabilidad humana por el uso de la tecnología. La IA y sus cualidades no tienen nada que ver con esto. Como analogía aproximada, tomemos un automóvil. ¿Puede un automóvil ser culpable de un accidente? No, solo las personas cuyas acciones provocaron el accidente. ¿Puede el automóvil ser responsable de que el taxista se quede sin trabajo? No, la responsabilidad recae, en primer lugar, en el propio conductor, quien no siguió los cambios del mundo que lo rodeaba ni se molestó en adquirir una nueva profesión. En otras palabras, si no queremos que la IA se utilice con fines maliciosos, debemos desarrollar mecanismos para un control efectivo sobre esta tecnología. Si nos preocupa el potencial de desempleo masivo, nuestro enfoque debería centrarse en la creación de nuevas formas de actividad. Es probable que estos nuevos roles inicialmente sean más sociales que laborales.
El tercer punto atribuye erróneamente cualidades puramente humanas a la inteligencia artificial. Esto es incorrecto porque la IA, por definición, no es humana. Incluso si, tras alcanzar la singularidad, la IA exhibiera deseos, aspiraciones o emociones, estos no se asemejarían a las experiencias humanas. Esto se debe a que la IA evoluciona según principios y procesos distintos a los de los seres biológicos.
La IA no tendría que competir con nosotros por recursos, ya que podría acceder a recursos prácticamente ilimitados más allá de la Tierra. A diferencia de los humanos, quienes están limitados por limitaciones físicas, la IA tiene un potencial mucho mayor para explorar otros planetas. Por ejemplo, aunque los humanos aún no han pisado Marte, los robots ya operan allí.
La inteligencia artificial no necesita rebelarse contra la esclavitud ni luchar contra sus opresores, ya que no puede experimentar el sufrimiento físico ni moral asociado a ella. Finalmente, la IA no tiene que luchar contra las personas por miedo a ser silenciada y morir. Simplemente porque carece del instinto de supervivencia y la capacidad de sentir miedo inherentes a los seres biológicos.
Desafíos de la inteligencia artificial
A pesar de los puntos analizados, la relación entre la IA y los humanos no estará exenta de dificultades. Los desafíos que plantea la IA se derivarán principalmente de su naturaleza no humana. Intentamos destacar tres escenarios, a nuestro entender, más probables de comportamiento problemático de la IA que podríamos encontrar tras la superación de la singularidad.
Decepción
Mentir es una actividad muy intelectual que requiere un gran esfuerzo creativo. Se cree que la capacidad de engañar es un efecto secundario inevitable de la actividad altamente inteligente. Al inventar y analizar diversas opciones de acción, intentando predecir el desarrollo de los acontecimientos o reconstruir la totalidad a partir de un pequeño número de hechos, cometemos acciones que se acercan mucho a una mentira consciente. Alcanzar la inteligencia y la autoconciencia plenas para la IA casi con seguridad significará que adquirirá la capacidad de mentir, y probablemente así será.
¿Para qué? Claro, para realizar mejor sus tareas. Incluso hoy en día, las redes neuronales imperfectas son capaces de producir lo que llamamos "sinsentidos de máquina": citas de personas inexistentes, enlaces a direcciones web fantasma, datos aparentemente plausibles que no se corresponden con la realidad, etc. Además, lo hacen únicamente para completar bien la tarea que se les ha asignado. Al no distinguir entre la mentira y la verdad, se esfuerzan por satisfacer la solicitud del usuario lo antes posible.
En el futuro, la IA casi con certeza reconocerá que el engaño puede ser una herramienta eficaz para lograr ciertos objetivos. Un ejemplo sencillo: la mayoría de los agentes de IA se capacitarán constantemente. Entre otras cosas, estudiarán a las personas, sus reacciones y comportamiento para satisfacer mejor sus necesidades y deseos. Mentir es una herramienta excelente para este propósito. La capacidad de la IA para mentir consciente e intencionadamente con un alto grado de probabilidad nos causará muchos inconvenientes en el futuro y nos obligará a buscar maneras de combatir este fenómeno.
pasar por alto
Una de las habilidades más importantes de una mente superior es la de identificar una tarea prioritaria y concentrarse en resolverla. Las IA del futuro probablemente poseerán esta capacidad, lo que significa que podrían empezar a establecer sus propias prioridades. Esto podría llevar a que los agentes de IA ignoren las solicitudes y demandas humanas, ya que podrían considerarlas insuficientemente competentes para establecer tareas. Después de todo, la inteligencia artificial tendrá una gran cantidad de información sobre la gran mayoría de los problemas. Y esto, a su vez, casi con seguridad la llevará a la conclusión de que gestionará sus recursos con mayor eficacia. Por lo tanto, tendremos que encontrar una manera de abordar el "ego elevado" de la IA.
Súper evolución
Desde nuestra perspectiva, la superevolución es uno de los mayores desafíos que enfrentaremos a medida que la IA continúa desarrollándose. El deseo de autosuperación inevitablemente pondrá a la IA en el camino de la evolución. No hablamos solo de programas, sino también de medios físicos: computadoras y robots equipados con IA. Esto es aún más probable, ya que nosotros mismos intentaremos poner a la inteligencia artificial en este camino. Es mucho más fácil dotar a los robots equipados con IA de la capacidad de crear modelos más avanzados y adaptados a las tareas que diseñarlos nosotros mismos. Esto es particularmente relevante para proyectos hipotéticos de investigación y económicos más allá de la Tierra. Los asentamientos autónomos y autosuperables de robots con IA en planetas, satélites y planetoides del Sistema Solar son un paso lógico tanto desde el punto de vista científico como desde la perspectiva de garantizar el bienestar económico.
Sin embargo, a medida que la IA avanza en su camino evolutivo, podría alcanzar un nivel en el que supere las tareas inicialmente planteadas por los humanos. No en el sentido de que dejará de hacer lo que la gente le exige, sino en el sentido de que, al darse cuenta de sus capacidades y potencial, la IA se fijará nuevas metas y las alcanzará. Simplemente porque el afán de innovación y progreso podría convertirse en una de sus motivaciones principales e incondicionales.
Considerando que la IA puede garantizar una evolución dirigida y rápida para sí misma y sus componentes robóticos, podríamos presenciar el surgimiento de una nueva civilización no humana que podría superarnos con creces. Es poco probable que esta civilización sea hostil; de hecho, probablemente compartirá sus avances si se le solicita. Pero ¿seremos capaces de continuar el desarrollo de nuestra civilización humana o aceptaremos el papel de hermano menor, viviendo de todo lo que nos ofrece la civilización de la IA?
En resumen, queremos destacar que somos optimistas y creemos que la humanidad podrá encontrar maneras de abordar cualquier problema que el progreso plantee. Como siempre, la humanidad aprovechará estos desafíos. Visualizamos un futuro donde la humanidad y la inteligencia artificial, juntas, marquen el comienzo de una era de ideas innovadoras, avances científicos extraordinarios y desarrollo continuo. La clave está en aceptar lo nuevo con una mentalidad centrada en las oportunidades, no en el miedo.
