El presidente de Google DeepMind, Demis Hassabis, advirtió durante una cumbre sobre Inteligencia Artificial en Dublín que los agentes autónomos de IA podrían provocar incidentes de seguridad graves en un lapso de uno a dos años si empresas y gobiernos no implementan regulaciones estrictas y pruebas obligatorias en entornos cerrados («sandboxes»), señalamiento al que se sumó la Comisión Europea tras cuestionar que la competencia global ha llevado a las tecnológicas a acortar las fases de verificación.

Hassabis señaló que los recientes episodios de pérdida de control reportados en modelos de firmas como OpenAI y Anthropic representan señales de alerta temprana, aunque aclaró que las capacidades actuales aún son limitadas. El ejecutivo sugirió que las nuevas tecnologías deben mantenerse totalmente desconectadas durante sus fases de ensayo para evitar filtraciones o comportamientos no supervisados.

Por su parte, Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea para Soberanía Tecnológica, denunció que la carrera comercial impide a las corporaciones destinar el tiempo necesario para probar la seguridad de sus sistemas. En este sentido, la Unión Europea amparada en la Ley de IA (AI Act) comenzó a emitir requerimientos de información a los principales desarrolladores globales para fiscalizar los protocolos de contención aplicados a estos modelos.