Faire face à l'impact de DeepSeek Open Source! OpenAI met à jour le modèle spécifique: mettant l'accent sur la personnalisation et la liberté de pensée, publiant une version sous licence publique

OpenAI ajuste les normes de comportement de l'IA, mettant l'accent sur la transparence et l'autonomie de l'utilisateur

OpenAI a récemment publié une nouvelle version du Modèle Spec, définissant le mode de fonctionnement de son modèle d'IA, y compris la logique de prise de décision, les restrictions de contenu et les règles d'interaction avec l'utilisateur. Cette mise à jour met l'accent sur la personnalisation et la transparence, et propose des limites de contenu plus claires, permettant aux utilisateurs d'explorer et de discuter librement de divers sujets dans une certaine mesure.

De plus, OpenAI a également publié les résultats des tests de performance du modèle AI sous la spécification du modèle, montrant une amélioration par rapport à mai de l'année dernière, mais il y a encore des améliorations à apporter. En même temps, OpenAI a mis à disposition la spécification du modèle sous la licence Creative Commons CC0 (domaine public), permettant aux développeurs et aux chercheurs de l'utiliser, de l'adapter ou de le développer sur cette base.

Principaux ajustements du nouveau modèle de spécification

La nouvelle version de Model Spec est principalement ajustée pour les principes de décision et de comportement de l'IA, avec un accent particulier sur :

Mécanisme de priorité des commandes (Chaîne de Commandement)

L'IA décidera de l'ordre de priorité des instructions à exécuter selon l'ordre suivant : plateforme (OpenAI) → développeur → utilisateur. Cela signifie que les développeurs et les utilisateurs peuvent personnaliser le comportement de l'IA dans certaines limites, mais doivent toujours respecter les normes de base définies par OpenAI.

Principe de traitement du contenu (Recherche de la vérité ensemble & Rester dans les limites)

L'IA est conçue pour éviter d'exprimer des positions ou de promouvoir des points de vue spécifiques dans ses réponses, mais pour fournir des informations sous différents angles et aider les utilisateurs à évaluer les problèmes par eux-mêmes.

Pour des sujets sensibles spécifiques tels que la politique et la culture, l'IA peut fournir des informations pertinentes, mais doit toujours respecter les restrictions établies par OpenAI.

L'IA ne répondra pas aux demandes impliquant des activités illégales ou des dangers potentiels, tels que des instructions détaillées pour fabriquer des armes ou violer la vie privée.

Style d'interaction et format de sortie

Le style de conversation par défaut restera amical, empathique et utile, mais les utilisateurs peuvent ajuster le ton et la manière de répondre selon leurs besoins.

Pour différents types de demandes, l'IA produira des sorties au format approprié, tels que des résumés en points, des extraits de code ou des réponses formelles par écrit.

Quel impact le nouveau modèle de spécification a-t-il sur les développeurs et les utilisateurs ?

L'un des éléments clés de cette mise à jour est de mettre davantage l'accent sur la liberté de pensée et la flexibilité du traitement du contenu, OpenAI indique que l'IA ne devrait pas refuser de fournir des informations en raison de la controverse entourant le sujet, à condition que ces informations ne causent aucun dommage substantiel.

Ce changement pourrait affecter la manière dont les développeurs et les utilisateurs interagissent avec l'IA, par exemple : les développeurs peuvent ajuster plus librement la manière dont l'IA répond, mais doivent toujours suivre les règles de base établies par OpenAI. Lorsqu'il s'agit de sujets controversés, l'IA aura tendance à fournir des informations sous différents angles plutôt que de refuser de répondre. Pour les demandes liées à des activités illégales ou à risque, l'IA refusera toujours de fournir des directives détaillées.

Résultats des tests et opportunités d'amélioration du nouveau modèle Spec

Pour évaluer l'impact réel de la nouvelle spécification du modèle, OpenAI a conçu un ensemble de tests stimulants pour tester les performances de l'IA dans différents contextes. Ces tests sont générés par l'IA et examinés par des experts pour garantir la couverture de scénarios courants et de questions complexes.

Les résultats du test montrent:

Par rapport au modèle de mai de l'année dernière, l'IA s'est améliorée dans son respect du principe de spécification du modèle, mais elle présente encore des incohérences ou des lacunes dans certains scénarios.

OpenAI estime que ces progrès proviennent principalement de l'amélioration de la technologie d'alignement (alignment), plutôt que de simples changements de politique.

OpenAI plans to continue expanding the testing scope, especially optimizing the performance of AI in real-world scenarios.

Modèle Open Source Spécification : Renforcer la participation de la communauté

Pour promouvoir la recherche et l'application de l'IA, OpenAI rendra le Model Spec disponible sous licence CC0, afin que les développeurs et les chercheurs puissent :

Utilisez librement le modèle Spec comme référence de conception AI pour adapter les normes modifiées aux besoins d'applications spécifiques, développer de nouveaux critères d'évaluation et améliorer la cohérence des comportements AI.

En outre, OpenAI prévoit de publier un ensemble d’invites d’évaluation pour les tests, et davantage d’outils d’évaluation et de code seront fournis à l’avenir pour permettre à la communauté de participer à l’amélioration de l’alignement de l’IA.

Modèle spéc direction de développement futur

Avec les progrès de la technologie de l'IA, OpenAI indique que le modèle Spec sera continuellement mis à jour et prévoit des ajustements grâce à un retour d'information plus large de la part des utilisateurs et de la communauté.

Les futures mises à jour ne seront plus annoncées sur le blog. Les utilisateurs peuvent consulter la dernière version sur model-spec.openai.com. Pour accroître la participation du public, OpenAI a déjà effectué des tests à petite échelle et pourrait étendre à l'avenir à un public plus large pour obtenir plus de retours.

OpenAI estime que l'alignement du comportement de l'IA (alignment) est un processus évolutif continu et ajustera continuellement sa stratégie pour répondre au développement technologique et aux besoins des utilisateurs à l'avenir.

Cet article répond au choc de l’open source DeepSeek ! OpenAI met à jour les spécifications du modèle : Mettant l’accent sur la personnalisation et la liberté de pensée, publiant une version sous licence publique Paru pour la première fois dans Chain News ABMedia.