Donald Trump se reunió con los principales ejecutivos de la industria de inteligencia artificial para rubricar un acuerdo voluntario de supervisión en el desarrollo de sistemas avanzados. Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (SpaceX) y Jensen Huang (Nvidia) fueron algunos de los firmantes.
El documento, bautizado como "Acuerdo de la Casa Blanca sobre la superinteligencia", establece compromisos para que el desarrollo de modelos de frontera (aquellos en la vanguardia tecnológica) sea más seguro. Aunque el acuerdo es moralmente vinculante, no tiene carácter legal.
¿Qué controles se implementarán?
Las empresas deberán contar con cuatro niveles de control para supervisar sus sistemas de IA:
1. Mecanismos internos que monitoreen el desempeño de los modelos durante entrenamiento y uso.
2. Equipos internos con autoridad para verificar que esos controles funcionen como corresponde.
3. Auditorías externas realizadas por revisores independientes.
4. Comité independiente del consejo de administración que supervise todo el proceso y reciba informes de equipos internos y externos.
Estos controles buscan identificar riesgos de ciberseguridad, bioseguridad y amenazas químicas, además de evitar que los modelos accedan o interfieran sin intención en sistemas técnicos críticos.
Las compañías también se comprometieron a reunirse periódicamente para establecer estándares y buenas prácticas comunes en la industria.
