Meta avisará a los padres si su hijo adolescente habla de suicidio con su chatbot de IA
Meta activa alertas parentales cuando su IA detecta conversaciones sobre autolesiones en menores, y prepara un sistema para contactar con emergencias. La medida llega en pleno escrutinio sobre la seguridad de los chatbots para adolescentes.
Meta ha anunciado este jueves que empezará a notificar a los padres cuando su hijo adolescente mantenga conversaciones sobre suicidio o autolesiones con Meta AI, el chatbot de inteligencia artificial de la compañía. Además, la empresa está desarrollando la capacidad de contactar directamente con los servicios de emergencia si los diálogos sugieren un riesgo inminente.
Estos cambios llegan en un momento en el que Meta y otras tecnológicas se enfrentan a una presión creciente por parte de reguladores y familias. La preocupación es cómo responden los chatbots de IA a usuarios en situación de vulnerabilidad, especialmente menores. Es una cuestión de responsabilidad que está moldeando el diseño y la comercialización de estos productos.
Para poner en marcha las alertas, Meta ha creado un sistema de IA específico que identifica conversaciones donde un adolescente hace referencias claras a hacerse daño. La compañía explica que, dada la sensibilidad del asunto, todas las conversaciones marcadas por la IA serán revisadas manualmente antes de enviar cualquier aviso a los padres. Si hay dudas sobre la intención real del menor, se optará por notificar igualmente, aunque eso pueda generar falsas alarmas. "Preferimos pecar de precavidos", señalan.
Las alertas ya están activas para los padres que utilizan la función de Supervisión Parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá, y se extenderán al resto del mundo antes de fin de año. Esta novedad se suma a los avisos que Meta ya envía cuando un adolescente busca repetidamente términos relacionados con el suicidio en Instagram, y a la opción que permite a los padres ver los temas que sus hijos han tratado con Meta AI en la última semana.
Adicionalmente, Meta ha anunciado que su configuración de "Contenido Limitado" —que ofrece una experiencia más restrictiva en Instagram para adolescentes— se aplicará también a Meta AI. El chatbot ya estaba entrenado para evitar conversaciones sexuales, románticas o sobre alcohol con menores, pero esta ampliación hará que rechace un abanico más amplio de preguntas. La empresa no ha detallado qué tipo de contenido adicional se bloqueará. Por otro lado, Meta extenderá a su chatbot la práctica de contactar con emergencias ante riesgos de suicidio, algo que ya hacía en Facebook e Instagram cuando alguien publicaba contenido preocupante.
El análisis de Salseo
- Meta está trasladando al terreno de la IA conversacional las mismas salvaguardas que ya aplica en sus redes sociales. Esto no es solo una mejora de seguridad, sino un movimiento defensivo ante posibles regulaciones y demandas que podrían responsabilizar a las plataformas por los daños causados por sus algoritmos.
- La decisión de revisar manualmente cada alerta antes de enviarla revela el miedo a un error de imagen: un falso positivo masivo podría generar desconfianza en los padres y un escrutinio aún mayor. Sin embargo, este filtro humano también ralentiza la respuesta y plantea dudas sobre la escalabilidad del sistema cuando se despliegue globalmente.
- Para los inversores, el verdadero riesgo no es técnico, sino reputacional y legal. Si se producen incidentes graves con el chatbot, las consecuencias podrían ir desde multas regulatorias hasta un daño de marca que afecte a la retención de usuarios jóvenes, el segmento más valioso para el negocio publicitario de Meta.
- La medida puede leerse como un intento de adelantarse a la competencia en un tema sensible. Otras grandes tecnológicas con chatbots (como Google o Microsoft) aún no han detallado protocolos similares tan explícitos. Si Meta logra posicionarse como la opción más segura para los padres, podría ganar una ventaja competitiva en un mercado donde la confianza es clave.