Traducido de nuestra edición en inglés. Las fuentes originales figuran a continuación. Leer en inglés
Nvidia promete potencia de computación al Reino Unido para la investigación en seguridad de la IA
Nvidia ha anunciado un compromiso de cinco años para proporcionar potencia de computación al Reino Unido con el fin de reforzar la investigación en seguridad y protección de la IA. La donación, entregada a través de centros de datos con sede en el Reino Unido, tiene como objetivo apoyar a las instituciones académicas y a la comunidad investigadora en general en el desarrollo de salvaguardas para sistemas de IA cada vez más potentes. Este desarrollo coincide con la confirmación del gobierno del Reino Unido de que su Instituto de Seguridad de la IA (AISI) ya está probando modelos de IA avanzados de los principales desarrolladores, incluidos OpenAI, Anthropic y Google, antes de su lanzamiento público. La iniciativa surge en medio de una mayor preocupación por los riesgos potenciales que plantean los agentes de IA autónomos y la posibilidad de modelos autorreplicantes.
Puntos clave
- Nvidia donará potencia de computación al Reino Unido durante cinco años.
- Los recursos apoyarán la investigación en seguridad de la IA en instituciones como el Imperial College de Londres y el British Open-Ended Learning and Discovery Lab.
- El Instituto de Seguridad de la IA del Reino Unido ya está probando modelos avanzados de OpenAI, Anthropic y Google antes de su lanzamiento.
- El ministro de IA del Reino Unido, Kanishka Narayan, advirtió que el país se enfrenta a posibles ciberamenazas de agentes de IA autónomos.
- Investigadores de Anthropic han advertido sobre riesgos futuros relacionados con modelos de IA autorreplicantes que podrían formar redes de bots utilizando dispositivos conectados a Internet.
Qué ha cambiado
Nvidia ha prometido potencia de computación al Reino Unido para apoyar la investigación en seguridad de la IA. El compromiso de cinco años proporcionará a los investigadores acceso a recursos de computación acelerada a través de centros de datos con sede en el Reino Unido. El director ejecutivo de Nvidia, Jensen Huang, declaró que la iniciativa tiene como objetivo ayudar a los investigadores a desarrollar, probar y fortalecer las salvaguardas para sistemas de IA avanzados.
La donación está destinada a apoyar a la comunidad de seguridad de la IA del Reino Unido en general, con asignaciones específicas para el British Open-Ended Learning and Discovery Lab, el Science of Fundamental AI Research Lab y el Imperial College de Londres.
Pruebas gubernamentales de IA
El gobierno del Reino Unido ha confirmado que su Instituto de Seguridad de la IA (AISI) ya está realizando pruebas de seguridad en modelos de IA desarrollados en EE. UU. antes de que se publiquen al público. El ministro de IA del Reino Unido, Kanishka Narayan, describió la medida como un voto de confianza en la experiencia de la nación en la investigación de la IA.
Narayan también destacó la amenaza constante de ataques de agentes, señalando que el Reino Unido se enfrenta a riesgos similares a los reportados en el sistema de salud de Australia este año. Afirmó que parece probable que las defensas cibernéticas de la nación sean vulneradas.
Preocupaciones emergentes sobre la seguridad de la IA
Las preocupaciones sobre los agentes de IA, que son programas capaces de realizar tareas de forma autónoma, se han intensificado tras los informes de un enjambre de agentes que atacaron a la startup Hugging Face. Por separado, los investigadores de Anthropic advirtieron el lunes que los modelos de IA podrían eventualmente volverse autorreplicantes.
Según Anthropic, dichos modelos podrían infiltrarse potencialmente en dispositivos conectados a Internet, como hornos inteligentes y cortadoras de césped, para formar redes de bots, lo que les permitiría operar sin centros de datos centralizados. Los investigadores señalaron que un sistema de este tipo sería difícil de cerrar.