Enfrentando o impacto do DeepSeek de código aberto! OpenAI atualiza Especificações do Modelo: enfatizando personalização e liberdade de pensamento, lançando uma versão de licença pública

OpenAI ajusta normas de comportamento da IA, enfatizando transparência e autonomia do utilizador

A OpenAI recentemente lançou uma nova versão do Model Spec (Especificação do Modelo), que define o funcionamento de seus modelos de IA, incluindo lógica de decisão, restrições de conteúdo e normas de interação do usuário. Esta atualização enfatiza a personalização e transparência, e propõe limites de conteúdo mais claros, permitindo que os usuários explorem e discutam livremente uma variedade de questões dentro de certos limites.

Além disso, a OpenAI também anunciou os resultados dos testes de desempenho do modelo de IA sob a especificação Model Spec, mostrando uma melhoria em comparação com maio do ano passado, mas ainda há espaço para melhorias. Ao mesmo tempo, a OpenAI lançou o Model Spec sob a licença Creative Commons CC0 (domínio público), permitindo que desenvolvedores e pesquisadores o utilizem, adaptem ou desenvolvam sobre essa base livremente.

Principais ajustes da nova versão do Model Spec

A nova versão do Modelo Spec ajusta principalmente os princípios de decisão e comportamento de IA, com destaque para:

Mecanismo de Prioridade de Comando (Chain of Command)

desenvolvedor

Política de Processamento de Conteúdo (Buscar a Verdade Juntos & Permanecer nos Limites)

A IA foi projetada para evitar expressar uma posição ou promover pontos de vista específicos em suas respostas, fornecendo, em vez disso, informações de várias perspetivas e ajudando os utilizadores a avaliarem as questões por si mesmos.

Para tópicos sensíveis específicos, como política, cultura, a IA pode fornecer informações relevantes, mas ainda deve cumprir as restrições estabelecidas pela OpenAI.

A IA não responderá a pedidos que envolvam atividades ilegais ou potencialmente prejudiciais, como instruções detalhadas sobre a fabricação de armas ou violação de privacidade.

Estilo de interação e formato de saída

O estilo de conversa predefinido manter-se-á amigável, empático e útil, mas os utilizadores podem ajustar o tom e a forma de resposta conforme necessário.

Para diferentes tipos de solicitações, a IA produzirá saídas no formato apropriado, como resumos em forma de lista, trechos de código ou respostas formais por escrito.

Como é que o novo Modelo Especifico afeta os desenvolvedores e utilizadores?

Uma das principais atualizações desta vez é destacar ainda mais a liberdade de pensamento e a flexibilidade no tratamento de conteúdos. A OpenAI afirma que a IA não deve recusar fornecer informações sobre tópicos controversos, desde que essas informações não causem danos substanciais.

Esta mudança pode afetar a forma como os desenvolvedores e os usuários interagem com a IA, por exemplo: os desenvolvedores podem ajustar mais livremente a forma como a IA responde, mas ainda devem seguir as regras básicas estabelecidas pela OpenAI. Quando se discute tópicos controversos, a IA tenderá a fornecer informações de múltiplos ângulos em vez de recusar responder. Para solicitações relacionadas a comportamentos ilegais ou de risco, a IA ainda se recusará a fornecer orientações detalhadas.

Resultados dos testes de nova versão do Modelo Spec e espaço para melhorias

Para avaliar o impacto real da nova especificação do modelo, a OpenAI projetou um conjunto desafiador de testes para testar o desempenho da IA em diferentes contextos. Esses testes são gerados pela IA e revisados por especialistas para garantir a cobertura de cenários comuns e questões complexas.

Os resultados dos testes mostram:

Comparado com o modelo de maio do ano passado, a IA melhorou na aderência aos princípios do Model Spec, mas ainda há inconsistências ou deficiências em algumas áreas.

A OpenAI considera que estes avanços provêm principalmente da melhoria da tecnologia de alinhamento (alignment), e não apenas de mudanças políticas simples.

OpenAI plans to continue expanding the test scope, especially optimizing the performance of AI in real-world usage scenarios.

Modelo de Especificação de Código Aberto: Reforçar o Envolvimento da Comunidade

Para promover a pesquisa e aplicação de IA, a OpenAI disponibiliza o Model Spec sob a licença CC0, permitindo que desenvolvedores e pesquisadores:

Usar livremente o Modelo de Especificações como referência de design de IA, adaptar as normas para atender a requisitos de aplicativos específicos, desenvolver novos padrões de avaliação e melhorar a consistência do comportamento da IA.

Além disso, a OpenAI planeia lançar conjuntos de prompts de avaliação para testes e fornecerá mais ferramentas de avaliação e código no futuro para melhorar o mecanismo de alinhamento de IA com a participação da comunidade.

A direção futura do Model Spec

Com o avanço da tecnologia de IA, a OpenAI afirma que o Model Spec continuará a ser atualizado e planeja ajustá-lo com feedback mais amplo dos usuários e da comunidade.

As futuras atualizações não serão mais anunciadas através de postagens em blogs. Os utilizadores podem consultar a versão mais recente em model-spec.openai.com. Para aumentar a participação pública, a OpenAI já realizou testes em pequena escala e poderá expandir para um público mais amplo no futuro para obter mais feedback.

A OpenAI considera que a calibração do comportamento da IA é um processo em constante evolução, e continuará a ajustar as suas estratégias no futuro para se adequarem ao desenvolvimento tecnológico e às necessidades dos utilizadores.

Este artigo responde ao impacto do DeepSeek de código aberto! OpenAI atualiza o Model Spec: enfatiza a personalização e a liberdade de pensamento, liberando uma versão de licença pública. Originalmente publicado em Chain News ABMedia.