El exjefe de seguridad de Google avisa: la IA puede hacer más daño a los niños que las redes
Quien fundó el equipo de confianza y seguridad de Google pide frenar el ritmo de desarrollo de la inteligencia artificial y advierte de que el sector está repitiendo los mismos errores que cometió con las redes sociales.
Quien fuera responsable de confianza y seguridad en Google —el área que él mismo ayudó a crear dentro de Alphabet para vigilar que sus productos no causaran daños— ha lanzado esta semana un aviso incómodo para toda la industria: la inteligencia artificial podría perjudicar a los menores incluso más de lo que lo hicieron las redes sociales. Su petición es clara y poco habitual en un sector que va a toda velocidad: que se frene el ritmo de desarrollo de la IA antes de que sea tarde.
El argumento de fondo es que la industria tecnológica ya vivió una película parecida. Cuando despegaron las redes sociales, las compañías priorizaron crecer y enganchar usuarios, y los problemas —adicción, ansiedad, acoso, exposición de menores a contenidos inapropiados— se abordaron años después, a golpe de titulares, comparecencias en el Congreso y multas. Su advertencia es que la IA está siguiendo ese mismo camino, pero con una diferencia clave: estos sistemas son más persuasivos, más personalizados y más difíciles de auditar que un simple feed de publicaciones.
La noticia importa porque toca el punto débil de toda la carrera actual por la IA: la velocidad de lanzamiento va muy por delante de los mecanismos para controlarla. Los chatbots ya se usan como compañía, como ayuda para estudiar o como fuente de información, y buena parte de ese uso lo hacen menores sin supervisión. Si los fallos de seguridad de la IA con niños acaban en casos sonados, la reacción política y social suele ser mucho más rápida y contundente que la tecnológica, y eso se traduce en normas, auditorías obligatorias y costes extra para las empresas.
El aviso afecta de lleno a Alphabet, la matriz de Google, que cotiza en bolsa y es una de las compañías que lidera la carrera de la IA con sus modelos Gemini y su buscador. Que la crítica venga de alguien que estuvo dentro y ayudó a montar precisamente el área encargada de proteger a los usuarios —y no de un activista externo— le da un peso especial: es más difícil de despachar como una opinión interesada. A la vez, el mensaje también sirve de recordatorio de que el riesgo regulatorio de la IA no es una hipótesis lejana, sino un debate que ya está sobre la mesa de legisladores en Europa y Estados Unidos. A partir de aquí, la clave será ver si las palabras se convierten en propuestas concretas de ley sobre menores e inteligencia artificial, si otras voces salidas del sector se suman a la petición de frenar y cómo responden las grandes tecnológicas con medidas propias de seguridad infantil.
El análisis de Salseo
- El riesgo aquí no es de negocio, es de reglas: si el debate sobre menores e IA cuaja en legislación, las grandes tecnológicas tendrán que invertir más en filtros, auditorías y equipos de seguridad, y pueden ver retrasados lanzamientos por exigencias de cumplimiento. Es un coste que no aparece en los resultados hasta que la norma se aprueba.
- Que la advertencia venga de un exdirectivo que creó el área de seguridad de Google es lo que le da pegada: la empresa no puede presentarlo como un crítico externo. Ese tipo de voces internas suelen marcar el tono de las comparecencias parlamentarias y de la prensa, y anticipan hacia dónde se moverá la presión política meses antes de que llegue cualquier norma.
- La lectura contraria merece atención: pedir una 'pausa' o más controles beneficia a los grandes. Cumplir con estándares estrictos de seguridad es caro y complejo, algo que Alphabet puede permitirse, pero que deja fuera a los desarrolladores pequeños. Es decir, el endurecimiento regulatorio puede acabar siendo una ventaja competitiva para los incumbentes.
- Señal concreta a vigilar: cualquier propuesta legislativa específica sobre menores e IA (no los grandes marcos generales, que tardan años) y los anuncios de producto de Alphabet sobre protección infantil en Gemini y YouTube. Si otras figuras que salieron del sector se suman a la petición, el tema dejará de ser una declaración suelta y pasará a ser una corriente con impacto real.