OpenAI Forma Comité de Seguridad y Protección para Impulsar su Próxima Generación de IA
OpenAI forma un Comité de Seguridad y entrena un nuevo modelo de IA, avanzando hacia la inteligencia artificial general (AGI) con un sólido compromiso con la seguridad e innovación.
CIENTÍFICOS/PERIODISTICOS
Franco Mansilla
5/29/20241 min leer
Creación del Comité de Seguridad y Protección.
En un movimiento estratégico clave, la Junta Directiva de OpenAI ha anunciado la formación de un Comité de Seguridad y Protección, que será dirigido por Bret Taylor (presidente), Adam D'Angelo, Nicole Seligman y Sam Altman (CEO). Este nuevo comité se encargará de formular recomendaciones esenciales sobre las decisiones de seguridad y protección que afectan a los proyectos y operaciones de la organización.
El Comité de Seguridad y Protección tiene como primer objetivo evaluar y mejorar los procesos y salvaguardas de OpenAI durante los próximos 90 días. Al término de este periodo, el comité presentará sus recomendaciones a la Junta Directiva en pleno. Tras la revisión, OpenAI publicará una actualización sobre las recomendaciones adoptadas, asegurando la coherencia con los estándares de seguridad y protección.
El comité contará con la participación de destacados expertos técnicos y políticos de OpenAI, como Aleksander Madry (Jefe de Preparación), Lilian Weng (Jefe de Sistemas de Seguridad), John Schulman (Jefe de Ciencia de Alineación), Matt Knight (Jefe de Seguridad) y Jakub Pachocki (Científico Jefe). Además, OpenAI buscará la colaboración de otros expertos en seguridad, incluyendo a Rob Joyce, ex funcionario de ciberseguridad que asesorará a la organización, y John Carlin.
Entrenamiento de la Nueva Inteligencia Artificial.
Paralelamente, OpenAI ha iniciado recientemente el entrenamiento de su modelo de próxima generación, un paso que promete llevar sus capacidades al siguiente nivel en su misión hacia la inteligencia artificial general (AGI). Este desarrollo es un hito importante, ya que se espera que los sistemas resultantes superen las capacidades actuales, estableciendo nuevos estándares en la industria tanto en términos de rendimiento como de seguridad.
OpenAI se enorgullece de sus avances continuos en la construcción y lanzamiento de modelos de IA líderes en la industria. La organización fomenta un debate robusto en este momento crucial, subrayando la importancia de mantener un enfoque equilibrado entre innovación y seguridad.
Esta medida subraya el compromiso de OpenAI con la seguridad y la alineación de sus modelos de inteligencia artificial, garantizando un desarrollo responsable y seguro en su camino hacia la próxima frontera de la IA.