新浪財經報《中國證券建設投資研究報告》指出，12月15日，OpenAI“超級對齊”團隊發佈了成立以來的首篇論文，為超級模型的實證對齊開闢了新的研究方向。 OpenAI認為，未來十年可以開發出比人類聰明得多的人工智慧（超級智慧），然而，如何正確引導和控制超人的AI系統仍未得到很好的解決，解決AI的可控問題對於如何確保最先進的AI系統始終安全並造福人類至關重要。 在最新的研究中，OpenAI 已經完成了從弱模型中監督強模型的任務，OpenAI 使用 GPT-2 模型來激發 GPT-4 的大部分功能，使其性能接近 GPT-3.5 水準。 實現了“弱強泛化”，即小模型監督大模型，為“超對齊”提供了一條實用的技術路線。 預計OpenAI將繼續在「超對齊」研究方面取得突破，我們看好安全可控下大模型行業的發展前景。
中國證券建設投資：OpenAI的「超結盟」取得進展，AI由弱到強泛化，實現AI可控
新浪財經報《中國證券建設投資研究報告》指出，12月15日，OpenAI“超級對齊”團隊發佈了成立以來的首篇論文，為超級模型的實證對齊開闢了新的研究方向。 OpenAI認為，未來十年可以開發出比人類聰明得多的人工智慧（超級智慧），然而，如何正確引導和控制超人的AI系統仍未得到很好的解決，解決AI的可控問題對於如何確保最先進的AI系統始終安全並造福人類至關重要。 在最新的研究中，OpenAI 已經完成了從弱模型中監督強模型的任務，OpenAI 使用 GPT-2 模型來激發 GPT-4 的大部分功能，使其性能接近 GPT-3.5 水準。 實現了“弱強泛化”，即小模型監督大模型，為“超對齊”提供了一條實用的技術路線。 預計OpenAI將繼續在「超對齊」研究方面取得突破，我們看好安全可控下大模型行業的發展前景。