La carrera por el desarrollo de la Inteligencia Artificial (IA), cada vez más avanzada enfrenta una nueva advertencia, Tom Siegel, quien fundó y dirigió el equipo de Trust & Safety de Google sostiene que la industria tecnológica podría estar repitiendo los errores cometidos durante la expansión de las redes sociales, pero esta vez con consecuencias potencialmente mayores para los menores de edad.
En declaraciones a la agencia Reuters, Siegel cuestionó que las empresas de IA puedan resolver por sí mismas los problemas de seguridad y pidió mayores controles externos, antes de continuar ampliando las capacidades de estas herramientas.
¿Por qué preocupa el uso de la IA entre los menores?
Siegel señaló riesgos que van desde problemas salud mental y dependencia excesiva de los chatbots hasta una posible reducción del pensamiento crítico cuando los usuarios delegan cada vez más tareas cognitivas en la Inteligencia Artificial.
Su preocupación aparece mientras millones de jóvenes incorporan chatbots a actividades cotidianas, desde tareas escolares hasta conversaciones personales, mismas que ya han generado controversias relacionadas con el uso de la IA generativa entre los menores.
¿Cómo se puede hacer más segura la Inteligencia Artificial para los menores?
El exdirectivo plantea medidas como sistemas más rigurosos de verificación de edad, mayores controles para usuarios menores y evaluaciones independientes de seguridad.
Siegel acaba de incorporarse Common Sense Media como primer director ejecutivo de su Youth AI Safety Institute, organismo que busca desarrollar estándares para evaluar los riesgos de las herramientas de Inteligencia Artificial dirigidas o accesibles para jóvenes; entre sus patrocinadores se encuentran OpenAI Foundation y Anthropic.
Una de sus propuestas consiste en crear evaluaciones independentes comparables, en términos generales, con las pruebas de seguridad de los automóviles, para que los usuarios puedan conocer los riesgos antes de utilizar la herramienta. La pregunta que queda sobre la mesa es: ¿La innovación en la Inteligencia Artificial está avanzando más rápido que las medidas necesarias para proteger a quienes las utilizan?
adn Noticias. Te hablamos con la verdad. Suscríbete nuestro canal de Telegram y lleva la información en la palma de tu mano.
