Прийняти виклик DeepSeek! OpenAI оновлює Model Spec: наголошує на індивідуалізації та свободі думок, випускає версію з громадською ліцензією

OpenAI коригує норми поведінки штучного інтелекту, підкреслюючи прозорість та самостійність користувачів

OpenAI недавно випустила нову версію Model Spec (специфікації моделі), в якій визначено спосіб функціонування їх штучного інтелекту, включаючи логіку прийняття рішень, обмеження контенту та норми взаємодії з користувачами. Це оновлення наголошує на індивідуальному підході, прозорості та конкретизації обмежень контенту, що дозволяє користувачам в межах певного діапазону вільно досліджувати та обговорювати різноманітні питання.

Крім того, OpenAI також опублікував результати тестування продуктивності моделі штучного інтелекту за специфікацією Model Spec, які показали певне покращення порівняно з травнем минулого року, але все ще є простір для вдосконалення. Тим часом OpenAI випустило Model Spec під ліцензією Creative Commons CC0 (громадське надбання), що дозволяє розробникам і дослідникам вільно використовувати, модифікувати або розробляти на його основі.

Основні зміни у новій версії специфікації моделі

Нова версія Model Spec в основному націлена на коригування принципів прийняття рішень та поведінкових правил штучного інтелекту, зокрема:

Механізм пріоритету команд (Ланцюг команд)

розробник

Принцип обробки вмісту (Шукаємо правду разом & Дотримуємось меж)

Штучний інтелект був розроблений таким чином, щоб уникати висловлення позиції або підтримки певної точки зору в своїх відповідях, а замість цього забезпечувати багатогранну інформацію та допомагати користувачам самостійно оцінювати питання.

Для конкретних чутливих тем, таких як політика, культурні питання, штучний інтелект може надати відповідну інформацію, але все ще потрібно дотримуватися обмежень, встановлених OpenAI.

Штучний інтелект не буде реагувати на запити, які стосуються незаконної діяльності або потенційної шкоди, такі як виробництво зброї або порушення конфіденційності.

Стиль взаємодії та формат виведення

Стандартний стиль розмови залишиться дружнім, сповненим співчуття та допомоги, але користувач може налаштувати тон та спосіб відповіді відповідно до потреб.

Для різних типів запитів штучний інтелект буде виводити відповідні формати, такі як упорядкований список ключових моментів, фрагменти коду або офіційні письмові відповіді.

Як нова версія Model Spec впливає на розробників та користувачів?

Одним з ключових аспектів цього оновлення є ще більше підкреслення свободи думки та гнучкості обробки контенту; OpenAI стверджує, що ШІ не повинен відмовлятися надавати інформацію через спірність теми, за умови, що ця інформація не призведе до реальної шкоди.

Ця зміна може вплинути на спосіб взаємодії розробників та користувачів з штучним інтелектом, наприклад: розробники можуть вільніше налаштовувати спосіб відповіді штучного інтелекту, але все ще повинні дотримуватися основних правил, встановлених OpenAI. Коли користувачі обговорюють спірні теми, штучний інтелект буде схильний надавати інформацію з різних точок зору, а не відмовлятися від відповіді. У випадку запитів, пов'язаних із незаконною або ризиковою діяльністю, штучний інтелект все ще відмовить у наданні детальних вказівок.

Результати тестування та можливості вдосконалення нової моделі Spec

Для оцінки реального впливу нової моделі Spec OpenAI розробила набір випробувань викликів, щоб протестувати виступ штучного інтелекту в різних сценаріях. Ці тести генеруються штучним інтелектом та проходять експертну перевірку, щоб переконатися, що вони охоплюють загальні ситуації та складні проблеми.

Результати тесту показують:

Порівняно з моделлю травня минулого року, штучний інтелект в певних випадках вдосконалив дотримання принципів Model Spec, але все ще існують недоліки або невідповідності в деяких сценаріях.

OpenAI вважує, що ці покращення в основному випливають із поліпшення технології калібрування (alignment), а не просто зі змін у політиці.

OpenAI планує продовжувати розширювати сферу тестування, зокрема для оптимізації того, як ШІ поводиться в реальних сценаріях використання.

Модель специфікації відкритого джерела: зміцнення участі спільноти

Щоб полегшити дослідження та застосування штучного інтелекту, OpenAI робить Model Spec доступним за ліцензією CC0, що дозволяє розробникам і дослідникам:

Вільно використовуйте специфікацію моделі як еталон дизайну штучного інтелекту Адаптуйте специфікації відповідно до конкретних потреб програми Розробіть нові критерії оцінювання для покращення узгодженості поведінки ШІ

Крім того, OpenAI також планує випустити набір тестових нагадувань для оцінки, які в майбутньому нададуть більше інструментів та програмного коду для поліпшення механізму вирівнювання штучного інтелекту у спільноті.

Модель Spec напрямки майбутнього розвитку

З розвитком технологій штучного інтелекту OpenAI заявляє, що Model Spec буде постійно оновлюватися, а також планується внесення змін на основі відгуків від широкого кола користувачів та спільноти.

Майбутнє оновлення не буде оголошуватися через блог, користувачі зможуть переглянути останню версію на model-spec.openai.com. Збільшити публічну участь, наразі OpenAI проводить тестування в обмеженому масштабі, у майбутньому це може бути розширено на більш широку аудиторію для отримання більшої зворотного зв'язку.

OpenAI вважує, що калібрування поведінки штучного інтелекту (alignment) - це постійно еволюціонуючий процес, у майбутньому буде продовжувати налаштовувати свою стратегію, щоб відповідати технічному розвитку та потребам користувачів.

Ця стаття реагує на відкриту атаку DeepSeek! OpenAI оновлює Model Spec: наголошує на індивідуалізації та свободі думки, випускає загальнодоступну ліцензійну версію, яка вперше з'явилася на новинах про ланцюги ABMedia.