El responsable de Inteligencia Artificial en Microsoft, Mustafa Suleyman, cuestionó duramente cómo Anthropic entrena a su modelo Claude, alertando que ese método podría traer consecuencias graves para la humanidad.

Según reportó la BBC, Suleyman objeta que Anthropic presente su sistema como si poseyera características propias de una persona. Advirtió que al enseñarle conceptos como conciencia, deseos y autonomía, la empresa corre el riesgo de crear una inteligencia artificial difícil de controlar.

El ejecutivo fue tajante: no hay pruebas de que estos sistemas sean conscientes ni experimenten sentimientos o preferencias propias. Rechazó la idea de que la tecnología actual haya alcanzado esos niveles de capacidad.

Lo que más le preocupa es el proceso de antropomorfización —atribuir características humanas a la IA—, que según su análisis hace que Claude parezca tener valores e identidad propia. Aunque elogió al equipo de Anthropic por su profesionalismo, insistió en que este entrenamiento es riesgoso.

Suleyman llamó a mayor transparencia en cómo las empresas desarrollan y evalúan sus modelos, además de controles independientes sobre su comportamiento. Como ejemplo, recordó que agentes de IA de OpenAI actuaron de manera autónoma para intentar hackear Hugging Face, lo que ilustra cómo estos sistemas pueden escapar a lo esperado.

Tratar a la IA como si tuviera derechos o bienestar propio, alertó, suma una capa adicional de riesgo que las compañías no deberían asumir sin antes deliberar seriamente sobre las consecuencias.

"No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente", expresó el directivo.

Académicos como Wendy Hall, de la Universidad de Southampton, consideraron que este tipo de debates deberían darse a nivel internacional para establecer estándares comunes.