La carrera por desarrollar sistemas de Inteligencia Artificial (IA) cada vez más avanzados generó nuevas advertencias dentro de la propia industria, luego de que un investigador que trabajó en OpenAI y Anthropic anunciara su renuncia.
Se trata de Jacob Coxon, investigador de IA que en los últimos años estuvo trabajando en el entrenamiento de estas herramientas, pero advirtió sobre los riesgos que puede presentar esta tecnología.
Suscríbete a nuestro canal de WhatsApp y lleva la información en tus manos.
Advertencias de Jacob Coxon sobre la IA
Jacob Coxon, ingeniero británico que trabajó en OpenAI y Anthropic, explicó que una de sus preocupaciones está relacionada con la “carrera” entre las grandes compañías para alcanzar una Inteligencia Artificial que logre superar las capacidades humanas.
A través de un hilo en su cuenta de X, el investigador destaca ciertas problemáticas que ha visto a lo largo de los años mientras trabajaba para estas empresas.
“No subestimen el poder de esta tecnología”, advierte Coxon en la publicación. Y es que el investigador señala que la IA avanza hacia sistemas que podrían mejorarse a sí mismos.
Las advertencias de Coxon van también encaminadas hacia el desarrollo de una IA tan avanzada que pueda representar una amenaza extrema para la humanidad.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”, señala Jacob Coxon.
Otros expertos también advierten sobre la IA
Después de estas declaraciones, expertos como Evan Hubinger, integrante de Anthropic, también lanzaron algunas advertencias sobre este tipo de tecnologías.
Según mencionó Hubinger, hay una probabilidad de que alguna superinteligencia artificial pueda provocar la muerte de toda la humanidad durante la próxima década.
Esto ocurre luego de casos como el de una IA que logró salir de entornos controlados o accedieron a sistemas de alta seguridad sin autorización.
Especialistas y expertos coinciden en que se deben crear mecanismos de seguridad y regulaciones antes de que estas tecnologías avancen hasta un punto sin retorno.
adn Noticias. Te Hablamos con la verdad. Suscríbete a nuestro canal de Telegram y lleva la información en tus manos.
