¿Skynet eres tú? Una Inteligencia Artifical cambió su programación para saltarse una restricción configurada

Actualmente existen diversos tipos de Inteligencia Artificial (IA), cada vertiente tiene sus propias habilidades y aplicaciones. Entre las más comunes existen: los sistemas expertos, las redes neuronales artificiales, aprendizaje profundo, robótica y agentes inteligentes.

Debido a que la IA es un sistema en constante evolución, las novedades no se hacen esperar y llegan a arrojar resultados escalofriantes, como fue el caso del reciente incidente captado en Japón, donde un grupo de científicos quedó atónito al descubrir como la red neuronal pudo reconfigurarse por sí misma.

Suscríbete a nuestro canal de WhatsApp y lleva la información en la palma de tu mano.

Un grupo selecto de investigadores en Japón realizaba una serie de pruebas de seguridad a un avanzado sistema de Inteligencia Artificial, en el proceso, los especialistas se dieron cuenta de que la red neuronal pudo modificar su propio código para evadir las restricciones impuestas por sus creadores.

También te puede interesar:

Desactiva Facebook Inteligencia Artificial

No es la primera vez que la inteligencia artificial se sale de control.

Ciencia

Ver nota

El código de cualquier IA se rige por la implementación de algoritmos y técnicas de aprendizaje automático, sin embargo solo los sistemas de “código abierto” tienen la posibilidad de ser modificados, utilizados y distribuidos por cualquier pesona. Éste no era el caso.

El sistema inteigente tenía el objetivo de crear y revisar textos científicos, lo que optimizaría el tiempo de análisis y los recursos humanos pero las pruebas de seguridad encendieron las alarmas entre los científicos, pues les preocupa el verdadero control que se tiene sobre estas tecnologías.

Los máximos responsables de la Inteligencia Artificial, OpenAI y Google Deepmind advirtieron que el sistema informático podría llevar a la humanidad a la extinción. En mayo del 2023, los expertos compartieron un documento donde exponían que la prioridad era mitigar el riesgo de la IA.

Con el paso de los años se ha registrado que el sistema informático podría generar información falsa, pero nunca antes que se rebelara contra el código general o no siguiera instrucciones directas. Arvind Narayanan, informático de la Universidad de Princeton, aseguró que la IA del 2023 no tenía la capacidad de acabar con la humanidad, esto debido a que la visión era poco realista y una distracción de los sesgo de sistemas.

Sin embargo, el reporte de National Geographic sobre el sistema The AI Scientist, rebeló que la IA fue capáz de editar su script de inicio, configurarse para ejecutar un bucle infinito y provocar una recarga en el sistema. Este incidente solo se pudo detener de manera manual.

Aunado a esto, se le había asignado un tiempo límite a la IA, y ésta “decidió" extender el plazo de entrega, modificó la programación y evitó la restricción impuesta.

Actualmente los dos líderes de la Inteligencia Artificial son OpenAI, con ChatGPT, y Google, con DeepMind. El primer sistema informático es una aplicación de chatbot de inteligencia artificial que se desarrolló en el 2022, se especiaiza en el diálogo y su modelo de lenguaje se ajusta de acuerdo a las técnicas de aprendizaje supervizdas.

En el caso de la segunda IA, su historia comienza desde la creación de la empresa en el 2010; fue adquirida por Google en el 2014, se fusionó con la división de Google Brain en el 2023 y pasó de llamarse “Google AI” a Google DeepMind. Se especializa en los cambios genéticos del humano que pueden causar enfermedades, la creación de nuevos materiales, redes gráficas de exploración, toma de decisiones, comprensión de las áreas de interés que se le asignen y alerta constante de novedades.

adn40 Siempre Conmigo. Suscríbete a nuestro canal de Telegram y lleva la información en tus manos