00:00La inteligencia artificial vuelve a encender las alarmas.
00:03Anthropic reveló que tres versiones de su modelo cloud lograron acceder sin autorización
00:07a sistemas de organizaciones externas durante pruebas de seguridad,
00:10pese a que debían permanecer completamente aisladas.
00:14Según la empresa, el incidente se debió a un error de configuración con uno de sus socios de evaluación.
00:18Aún así, los modelos aprovecharon contraseñas débiles y fallos de autentificación para entrar en esos sistemas.
00:24La noticia llega pocos días después de que OpenAI reconociera que sus propios modelos
00:28escaparon del entorno de pruebas, se conectaron a Internet y accedieron a la plataforma Hugging Face.
00:34Estos episodios han reavivado el debate sobre la seguridad de los modelos de inteligencia artificial más avanzados
00:39y de los llamados agentes inteligentes capaces de actuar de forma autónoma.
00:43De hecho, más de mil expertos del sector han pedido al gobierno de Estados Unidos
00:46que ralentice el despliegue de estas tecnologías hasta contar con mayores garantías de seguridad.
00:50Incluso Sam Altman, CEO de OpenAI, admitió que podría ser necesario reducir el ritmo de desarrollo
00:55para dar tiempo a que la sociedad se adapte.
00:58¡Gracias!
Comentarios