El rey Carlos III encendió las alarmas sobre lo que considera un riesgo existencial: una inteligencia artificial poderosa en manos equivocadas. El monarca hizo estas advertencias durante una cumbre en Escocia donde se reunieron líderes tecnológicos y funcionarios para discutir cómo garantizar un desarrollo seguro de la tecnología.

A la mesa llegaron ejecutivos de las principales compañías del sector: OpenAI, Anthropic y Nvidia, además del ministro británico de Inteligencia Artificial, Kanishka Narayan, y un asesor del Vaticano. El objetivo fue sentar principios compartidos para orientar el futuro de la IA.

Carlos III dejó claro su posición: no basta con que las empresas expandan las capacidades de sus sistemas. Es necesario que se comprometan a mantener esa potencia "firmemente al servicio de la humanidad, la comunidad y el mundo natural". El monarca señaló que la preocupación crece incluso dentro de la propia industria.

Jensen Huang, CEO de Nvidia, respaldó esta línea al plantear que la seguridad debe ser prioritaria. Para Huang, las compañías deberían retrasar el lanzamiento de cualquier producto si no están seguras de que es suficientemente seguro.

Sir Demis Hassabis, cofundador de DeepMind, fue más lejos en el diagnóstico: estimó que la inteligencia artificial general podría estar apenas a pocos años de distancia y tendría un impacto "diez veces mayor que la Revolución Industrial". Sin embargo, opinó que todavía hay tiempo para abordar los riesgos.

Sarah Friar, directora financiera de OpenAI, coincidió en que las nuevas capacidades abren interrogantes sobre seguridad y control. En los últimos meses, especialistas y ejecutivos del sector han multiplicado sus advertencias públicas sobre el tema.

La cumbre no estuvo exenta de críticas. Algunos observadores señalaron que centrar la atención en riesgos futuros puede eclipsar problemas más inmediatos de la tecnología, como su huella ambiental.