¡Enfrentando el impacto de DeepSeek de código abierto! OpenAI actualiza Model Spec: haciendo hincapié en la personalización y la libertad de pensamiento, lanzando una versión de licencia pública.

OpenAI ajusta las normas de comportamiento de la IA, haciendo hincapié en la transparencia y la autonomía del usuario

OpenAI recientemente lanzó una nueva versión de Model Spec (Especificación del modelo), que define la forma en que funcionan sus modelos de IA, incluida la lógica de decisión, las restricciones de contenido y las normas de interacción con el usuario. Esta actualización enfatiza la personalización y la transparencia, y establece límites de contenido más claros, lo que permite a los usuarios explorar y discutir libremente una variedad de temas dentro de ciertos límites.

Además, OpenAI también ha publicado los resultados de las pruebas de rendimiento de los modelos de IA bajo la especificación Model Spec, que muestran una mejora en comparación con mayo del año pasado, pero aún hay margen de mejora. Al mismo tiempo, OpenAI ha liberado Model Spec bajo la licencia Creative Commons CC0 (dominio público), lo que permite a los desarrolladores e investigadores utilizarlo libremente, modificarlo o desarrollarlo sobre esa base.

Principales ajustes del nuevo modelo de especificaciones

La nueva versión de Model Spec se centra principalmente en ajustar los principios de decisión y código de conducta de la inteligencia artificial, con un enfoque en:

Mecanismo de prioridad de instrucciones (Chain of Command)

desarrollador

Principio de manejo de contenido (Buscar la verdad juntos y mantenerse dentro de los límites)

La IA está diseñada para evitar expresar una posición o promover puntos de vista específicos en sus respuestas, sino para proporcionar información desde múltiples perspectivas y ayudar a los usuarios a evaluar los problemas por sí mismos.

Para temas sensibles específicos, como política, cultura, la IA puede proporcionar información relevante, pero aún debe cumplir con las restricciones establecidas por OpenAI.

La IA no responderá a solicitudes que involucren comportamientos ilegales o potencialmente dañinos, como instrucciones detalladas sobre la fabricación de armas o la invasión de la privacidad.

Estilo de interacción y formato de salida

El estilo de conversación predeterminado se mantendrá amigable, empático y útil, pero los usuarios pueden ajustar el tono y la forma de respuesta según sea necesario.

Para diferentes tipos de solicitudes, la IA generará salidas en el formato adecuado, como resúmenes de puntos clave, fragmentos de código o respuestas formales por escrito.

¿Cómo afecta el nuevo Modelo de Especificaciones a los desarrolladores y usuarios?

Una de las principales actualizaciones esta vez es reforzar aún más la libertad de pensamiento y la flexibilidad en el manejo del contenido. OpenAI afirma que la IA no debe negarse a proporcionar información sobre temas controversiales, siempre y cuando esta información no cause un daño sustancial.

Este cambio puede afectar a la forma en que los desarrolladores interactúan con la IA de sus usuarios, por ejemplo: Los desarrolladores tienen más libertad para ajustar la forma en que responde la IA, pero siguen las reglas básicas establecidas por OpenAI. Cuando los usuarios discuten temas controvertidos, la IA tenderá a proporcionar información desde múltiples ángulos en lugar de negarse a responder. La IA seguirá negándose a proporcionar una guía detallada para las solicitudes que impliquen un comportamiento ilegal o arriesgado.

Resultados de prueba y espacio de mejora de la nueva versión del modelo Spec

Para evaluar el impacto real de la nueva especificación del modelo, OpenAI ha diseñado un conjunto desafiante de pruebas para probar el rendimiento de la IA en diferentes situaciones. Estas pruebas son generadas por la IA y revisadas por expertos para garantizar que abarquen escenarios comunes y problemas complejos.

Los resultados de la prueba muestran:

En comparación con el modelo de mayo del año pasado, la IA ha mejorado en cuanto a seguir los principios del Modelo Espec, pero todavía hay inconsistencias o deficiencias en algunas situaciones.

OpenAI cree que estos avances se deben principalmente a mejoras en la tecnología de alineación (alignment) en lugar de simples cambios de política.

OpenAI planea continuar expandiendo el alcance de las pruebas, específicamente para optimizar cómo se comporta la IA en casos de uso del mundo real.

Modelo de especificación de código abierto: fortalecer la participación de la comunidad

Para promover la investigación y aplicación de la IA, OpenAI ha hecho público el Model Spec bajo la licencia CC0, lo que permite a los desarrolladores e investigadores:

Utilice libremente Model Spec como referencia para el diseño de IA, adapte las normas para satisfacer necesidades de aplicaciones específicas, desarrolle nuevos estándares de evaluación para mejorar la coherencia del comportamiento de la IA

Además, OpenAI también planea lanzar un conjunto de pistas de evaluación de prueba, y en el futuro proporcionará más herramientas de evaluación y código para que la comunidad participe en la mejora de los mecanismos de alineación de la IA.

Model Spec 未來發展方向

Con el avance de la tecnología de IA, OpenAI ha indicado que el modelo Spec seguirá actualizándose y tiene planes de ajustarse mediante una retroalimentación más amplia de usuarios y la comunidad.

Las actualizaciones futuras ya no se anunciarán a través de blogs, y los usuarios podrán ver la última versión en model-spec.openai.com. Ampliar la participación del público, OpenAI se ha probado a pequeña escala y puede extenderse a una base de usuarios más amplia en el futuro para obtener más comentarios.

OpenAI considera que la alineación del comportamiento de la IA es un proceso en constante evolución, y en el futuro seguirá ajustando sus estrategias para cumplir con el desarrollo tecnológico y las necesidades de los usuarios.

Este artículo responde al impacto de DeepSeek en el código abierto. OpenAI actualiza Model Spec: haciendo hincapié en la personalización y la libertad de pensamiento, lanzando una versión con licencia pública que apareció por primera vez en Chain News ABMedia.