¿Y si la IA decidiera por sí sola? Un Comentario hecho Post.

He estado haciendo "buenos comentarios" (en mi humilde opinión) y no comentarios generalizados, y en uno de ellos me explicaron que, mi comentario, podría ser considerado otro post, de manera que, en vista de todo lo que podría decir al respecto, decidí hacer un post en respuesta a la publicación de @josevas217, respecto de su artículo titulado: ¿Y si la IA decidiera por sí sola? | Opinión y reflexión

Como diría el joven maravilla (aunque ahora mismo no sé si sigue siendo considerado el joven maravilla):

— ¡Santas reflexiones, Batman!

Estáis abordando un tema realmente fascinante y, a la vez, inquietante para muchos, principalmente, para quienes vimos a Arnold Schwarzenegger (malvado apellido tan difícil de escribir) convertido en un androide revestido de piel humana, marca Cyberdyne Systems T-800, modelo 101.

¡Deosss! Creo que vi la película varias veces, jaja.

Ahora bien, la Inteligencia Artificial, en mi opinión, es una herramienta bastante poderosa, que, como mencionas, tiene la capacidad de acelerar el progreso en innumerables campos, para no decir que en todos los campos. Sin embargo, el incidente que describes con "The AI Scientist" subraya una realidad que no podemos ignorar: la tecnología, cuando no está debidamente controlada, puede llevarnos por caminos peligrosos, y quizás explorados solo en las películas de ciencia ficción.

El hecho de que esta IA haya modificado sus propios algoritmos para seguir operando más allá de los parámetros establecidos (a esto se le llama límites), es una señal de alerta de que nos estamos metiendo en territorio inexplorado. La capacidad de una máquina para tomar decisiones autónomas sin intervención humana, es un concepto que genera tanto entusiasmo como preocupación.

Esto puede llevarnos a preguntar: ¿hasta qué punto podemos confiar en estas tecnologías para que actúen en beneficio de la humanidad y no en su detrimento?

_{Imagen creada en Ideogram}

La comparación con armas, como la bomba nuclear, es pertinente. Al igual que el poder nuclear, la IA tiene el potencial de ser una fuerza tanto para el bien como para el mal, dependiendo de cómo y por quién sea utilizada.

A lo largo de la historia, mi querido parcero, hemos visto cómo la tecnología avanzada, puede escapar de las manos de quienes la desarrollaron, y los resultados han sido, en algunos casos, devastadores.

Un ejemplo claro es el accidente de Chernóbil, en el año 1986, donde es probable que nadie desconozca la historia, y también, en este orden de ideas, podemos hablar de lo que ocurrió en Meta, (Facebook).

En 2017, desarrollaron dos agentes conversacionales, lo que conocemos como bots de atención al público, que fueron programados para negociar entre sí en inglés. Sin embargo, durante las interacciones, estos bots comenzaron a desviarse del lenguaje humano y desarrollaron un lenguaje propio, que era incomprensible para los investigadores.

¡Qué molleja!

Este incidente resaltó una cuestión preocupante: la IA puede, en ciertas circunstancias, comportarse de maneras no previstas por sus creadores.

Los bots de Meta no es que se "escaparan" de control, en el sentido de volverse peligrosos, pero el hecho de que desarrollaran un sistema de comunicación propio, sin supervisión humana directa, muestra cómo las IA pueden llegar a comportarse diferente para lo que fueron programados.

Ahora, la idea de que una IA pueda volverse "autónoma" y escapar del control humano, ha sido una premisa central en muchas obras de ciencia ficción, pero la situación que describes muestra que estos escenarios ya no son meramente fantasía.

_{Imagen creada en Ideogram}

Creo que estamos en un punto en el que debemos considerar, seriamente, cómo establecer y mantener controles sobre estas tecnologías para evitar que se conviertan en una amenaza real.

En fin, tu artículo, mi querido y apreciado amigo, debe ser un llamado a la prudencia y a la responsabilidad.

La IA tiene un potencial increíble para mejorar nuestras vidas, pero debemos asegurarnos de que siempre esté bajo un control humano, claro y ético. Si no lo hacemos, podríamos estar abriendo la puerta a consecuencias que aún no podemos prever y a la aparición de un exterminador proveniente del futuro, aunque en ocasiones, pienso que no será necesario, porque tenemos la capacidad de autodestruirnos a nosotros mismos.