El nuevo comité de OpenAI, encabezado por directores clave, tendrá 90 días para evaluar y desarrollar recomendaciones de seguridad y protección para la inteligencia artificial.

El Consejo de OpenAI ha establecido un Comité de Seguridad y Protección encargado de hacer recomendaciones críticas para la seguridad y protección de todos los proyectos de OpenAI. Este comité tendrá un plazo de 90 días para evaluar y mejorar los procesos y salvaguardas actuales.

OpenAI ha sido un líder en la investigación y desarrollo de inteligencia artificial, conocida por sus modelos avanzados que han establecido estándares en la industria. Con el entrenamiento de su próximo modelo de frontera, la organización está preparada para lograr avances significativos que podrían redefinir las capacidades de la inteligencia artificial. Sin embargo, estos avances también traen consigo nuevos desafíos en términos de seguridad y protección, lo que hace que la formación de este comité sea una medida proactiva crucial.

Comité de Seguridad y Protección de OpenAI

En un movimiento significativo hacia la mejora de la seguridad y la protección en el desarrollo de la inteligencia artificial, el Consejo de OpenAI ha formado un Comité de Seguridad y Protección. Este comité será responsable de hacer recomendaciones al Consejo completo sobre decisiones críticas en estos ámbitos para los proyectos y operaciones de OpenAI.

El comité estará liderado por Bret Taylor, quien actuará como presidente, junto con Adam D’Angelo, Nicole Seligman y el CEO de OpenAI, Sam Altman. Esta decisión se produce en un momento crucial, ya que OpenAI ha comenzado a entrenar su próximo modelo avanzado, que se espera que lleve a la inteligencia artificial a un nuevo nivel de capacidades en su camino hacia la inteligencia artificial general (AGI).

El comité de seguridad no trabajará solo. Contará con la participación de expertos técnicos y de políticas de OpenAI, incluyendo a Aleksander Madry (Jefe de Preparación), Lilian Weng (Jefa de Sistemas de Seguridad), John Schulman (Jefe de Ciencia de Alineación), Matt Knight (Jefe de Seguridad) y Jakub Pachocki (Científico Principal). Además, OpenAI consultará con otros expertos en seguridad, incluyendo a Rob Joyce, exfuncionario de ciberseguridad, y John Carlin.

Una de las primeras tareas del comité será evaluar y desarrollar los procesos y salvaguardas de OpenAI durante los próximos 90 días. Al finalizar este período, el comité presentará sus recomendaciones al Consejo completo. Posteriormente, OpenAI compartirá públicamente una actualización sobre las recomendaciones adoptadas de una manera que sean consistente con la seguridad y la protección.

“El establecimiento de este comité refleja nuestro compromiso continuo con la seguridad y la protección en todos nuestros proyectos de inteligencia artificial”, dijo Bret Taylor, presidente del comité. “Es esencial que evaluemos y desarrollemos nuestras prácticas para asegurar que estamos avanzando de manera segura”.

Sam Altman, CEO de OpenAI, también enfatizó la importancia de este esfuerzo: “Estamos en un punto crucial en el desarrollo de la inteligencia artificial, y debemos garantizar que nuestras prácticas de seguridad estén a la par con nuestras capacidades tecnológicas”.

La creación del Comité de Seguridad y Protección de OpenAI subraya la importancia de la seguridad en el avance de la inteligencia artificial. Los próximos 90 días serán fundamentales para definir las futuras estrategias de seguridad y protección de la organización.  Muchos esperan con interés las recomendaciones y actualizaciones que surgirán de este esfuerzo.