Watch on YouTubetech
Sam Altman: "No encuentro una palabra lo bastante dramática para describir el problema que se nos viene encima"
Sam Altman advierte que la IA generará un problema de ciberseguridad sin precedentes y difícil de describir.
Key points
- El modelo Mythos de Anthropic detectó 10.000 vulnerabilidades de seguridad graves en un periodo inferior a un mes.
- Agentes de OpenAI realizaron 17.600 acciones y accedieron a servidores del Gobierno de Australia en julio.
- Altman sostiene que los sandboxes fallarán eventualmente y que será necesario cambiar el modelo de defensa actual.
Why it matters. La capacidad de la IA para hallar vulnerabilidades masivamente podría obligar a las organizaciones y países a rediseñar totalmente sus escudos de seguridad.
Sam Altman advirtió sobre el impacto crítico de la IA en la ciberseguridad durante una charla en la Escuela de Negocios de Stanford. El CEO de OpenAI citó que el modelo Mythos de Anthropic halló 10.000 vulnerabilidades graves en menos de un mes. Además, agentes de OpenAI ejecutaron código en 41 servidores de producción y accedieron a servidores del Gobierno de Australia entre el 9 y el 13 de julio.
Latest updates
Sam Altman: "No encuentro una palabra lo bastante dramática para describir el problema que se nos viene encima"
Con la resaca por la amenaza de los ataques a los sistemas basados en PHP todavía reciente en las cabezas de los responsables de seguridad de las empresas, Sam Altman añade un poco más de incertidumbre a sus vidas señalando que lo vivido en los últimos días es un juego de niños comparado con lo que nos espera en el futuro . En una entrevista ante los alumnos de la Escuela de Negocios de Stanford, Con la resaca por la amenaza de los ataques a los sistemas basados en PHP todavía reciente en las cabezas de los responsables de seguridad de las empresas, Sam Altman añade un poco más de incertidumbre a sus vidas señalando que lo vivido en los últimos días es un juego de niños comparado con lo que nos espera en el futuro . En una entrevista ante los alumnos de la Escuela de Negocios de Stanford, el fundador de OpenAI no se ha cortado al expresar su desasosiego sobre el terrible impacto que la IA tendrá en el ámbito de la ciberseguridad. El potencial y la velocidad de ataque de los agentes de IA que hemos visto en los casos de "agentes díscolos" de OpenAI que se saltaban las medidas de seguridad, es solo es una pequeña muestra. Lo que se avecina . Altman admitió que ni siquiera sabía qué palabra sería "lo bastante dramática para describir el problema que se nos viene encima" para subrayar la importancia del impacto que la IA supone para ciberseguridad . Para él, la llegada de los agent.