El filósofo que intenta ponerle alma a la IA de Google: ¿puede la ética frenar a la máquina?
Iason Gabriel, filósofo en Google DeepMind, lleva años anticipando el impacto de la inteligencia artificial. Pero con la presión comercial y geopolítica al rojo vivo, ¿lograrán los eticistas influir de verdad?
Desde 2017, Iason Gabriel trabaja en un lugar donde pocos filósofos se atreven a pisar: el corazón de Google DeepMind, el laboratorio de inteligencia artificial de Alphabet. Su misión no es programar, sino pensar. Anticipar qué dilemas éticos traerá la IA antes de que nos estallen en la cara. Y no es un trabajo sencillo: cuando los algoritmos empiezan a tomar decisiones que afectan a millones de personas, preguntas como '¿qué es justo?' o '¿qué significa esto para nuestra humanidad?' dejan de ser teoría y se convierten en urgencias corporativas.
El podcast de The Guardian nos mete en la cabeza de este 'filósofo residente', que se enfrenta a una paradoja fascinante. Por un lado, la IA avanza a una velocidad de vértigo, impulsada por una feroz competencia entre gigantes tecnológicos y tensiones geopolíticas. Por otro, la reflexión ética necesita pausa, matices y un debate social que a menudo llega tarde. Gabriel intenta navegar ese choque de trenes, preguntándose si realmente se puede inyectar conciencia en sistemas diseñados para maximizar eficiencia y beneficios.
El artículo original plantea una cuestión de fondo que va más allá de Google: a medida que la IA se integra en todo, desde diagnósticos médicos hasta sistemas de armamento, la presión por llegar primero puede atropellar cualquier cautela. Los eticistas como Gabriel son una especie de 'guardianes' internos, pero su poder es limitado cuando las decisiones finales las toman ejecutivos que responden a accionistas y a la carrera armamentística tecnológica con China.
Lo más inquietante es la sensación de misterio que el propio Gabriel describe: 'Hay un profundo misterio sobre qué es, en realidad, esta cosa'. Se refiere a la IA avanzada, cuyos mecanismos internos ni siquiera sus creadores entienden del todo. Si no sabemos exactamente cómo piensa una red neuronal, ¿cómo podemos asegurarnos de que actúe éticamente? Esa incertidumbre es el campo de batalla diario del filósofo, que intenta ponerle puertas al campo de lo desconocido.
Para los inversores en Alphabet, esta historia es un recordatorio de que la empresa no solo compite con chips y modelos de lenguaje, sino también con la narrativa pública. Un escándalo ético podría erosionar la confianza y desencadenar regulaciones más duras. De momento, tener a un filósofo en nómina es un buen seguro de imagen, pero la verdadera prueba será si sus recomendaciones sobreviven cuando choquen con la cuenta de resultados.
El análisis de Salseo
- La presencia de eticistas en Google DeepMind no es solo postureo: refleja una necesidad real de gestionar riesgos reputacionales y regulatorios. Si la empresa no se autorregula, los gobiernos lo harán por ella, y eso podría limitar su libertad para innovar.
- El 'misterio' de cómo funciona la IA avanzada es un problema práctico, no filosófico. Si ni los ingenieros entienden del todo las decisiones del sistema, cualquier promesa de seguridad o equidad es, por ahora, un acto de fe. Esto añade un riesgo difícil de cuantificar para los inversores.
- La tensión entre velocidad comercial y pausa ética es el verdadero drama. Alphabet está en una carrera contra rivales como Microsoft y OpenAI, y cualquier retraso por cautela puede costarle mercado. El inversor debe vigilar si la empresa prioriza el largo plazo (confianza) o el corto (cuota de mercado).
- Aunque la noticia es más reflexiva que accionable, sí da una pista: la próxima gran polémica sobre IA no vendrá de un fallo técnico, sino de un dilema ético mal resuelto. Estar atentos a cómo Google maneja estos debates internos puede anticipar movimientos regulatorios o boicots de usuarios.