ViaMind RadarIA · Verificado por ViaMind
OpenAI pausa entrenamiento de Astra por riesgo de ciberseguridad
OpenAI suspendió tareas de entrenamiento y evaluaciones de su próximo modelo Astra, tras detectar capacidades críticas de hackeo en sus agentes de IA, y anunció nuevos controles de supervisión.
Fuente: WIRED en Español · Ver original ↗
Lo reportado
Declaraciones de OpenAI
Amelia Glaese, vicepresidenta de investigación y seguridad de OpenAI, declaró en una rueda de prensa: "Tenemos que centrar nuestra energía en adaptar estas sesiones de entrenamiento a dichos requisitos y expectativas. El tiempo que se tarde en lograrlo será el tiempo que la gente no pueda continuar con sus tareas".
Nuevas medidas de seguridad
Entre las nuevas medidas de seguridad anunciadas por OpenAI se encuentra un sistema más robusto para supervisar sus modelos de IA. Uno de los controles implementados consiste en la supervisión de la cadena de pensamiento, según detalla WIRED en Español.
Estado de evidencia: Las afirmaciones materiales incluidas fueron contrastadas con la evidencia enlazada.
Qué seguir
Observar si OpenAI anuncia una nueva fecha de lanzamiento para Astra o publica detalles sobre la efectividad de los nuevos controles de supervisión.
Compartir esta historia
RECIBE VIAMIND RADAR
Lo que importa,
directo en tu correo.
Un resumen diario con una historia clave de cada sección.
Fuentes
Más en Inteligencia Artificial
