OpenAI 的 CTO Mira Murati 接受采访时表示 AGI（通用人工智能）必须被监管。她表示该公司正与政府、监管机构和其它组织展开持续的讨论，制定某种程度的标准。Murati 称，我们距离一个安全、可靠和一致的 AGI 系统还比较遥远。在实验室的真空环境中是不足以构建 AGI 的，需要与现实接触，与现实世界接触，发现薄弱点，寻找突破点，以可控和低风险的方式去尝试，尽可能获得反馈。OpenAI 会在 AI 训练的每个阶段尝试干预，在模型训练的初始数据集中删掉某些数据，在 ChatGPT 的训练中使用人类的反馈强化学习。OpenAI 会致力于放大被认为好的行为，遏制坏的行为。 OpenAI 的 ChatGPT 是第一种进入主流市场的 AI 聊天机器人，它受益于对 AI 的不受监管，加强监管能对新来者和潜在竞争对手竖起一道屏障。

https://www.securityweek.com/insider-qa-openai-cto-mira-murati-on-shepherding-chatgpt/