OpenAI News·· 2024-12-20AI 评分2
Deliberative Alignment——一种面向 o1 模型的新型安全对齐策略
Deliberative alignment: reasoning enables safer language models
AI 导读
OpenAI 推出名为 Deliberative Alignment 的新型对齐策略，专门用于 o1 模型。该方法让模型直接学习安全规范，并学会对规范进行推理，从而提升语言模型安全性。
来源：OpenAI News · openai.com