OpenAI 能否在未来给我们带来安全的人工智能？

本期话题

取得成功不能“偷工减料”

安全的人工智能未来如何？

 作者 | ASC科研社

 图片来源 | 互联网

近期，OpenAI 遭遇了一系列“多事之秋”。

ChatGPT 和 GPT-4 的安全隐患引起了外界的担忧和批评。

马斯克等上千人联名呼吁暂停训练比 GPT-4 更强大的大型模型，时间至少为 6 个月。

意大利禁用了 ChatGPT，并要求 OpenAI 在 20 天内向他们通报公司的应对措施。

ChatGPT 发生了大面积封号事件

ChatGPT Plus 也被停售......

这些事件表明，虽然 AI 在为人类社会带来许多好处方面已经有了实际证明，但技术始终是双刃剑，也可能给人类社会带来真正的风险。

因此，AI 的发展需要更多的关注和审慎。我们必须认识到，AI 也需要遵守道德和法律规范，以确保 AI 的应用不会对人类社会造成伤害。作为 AI 技术的提供者和使用者，我们有责任确保其安全性和可靠性。

*图源：OpenAI官网

OpenAI 于 4 月 6 日发布了一篇名为“Our approach to AI safety”的博客文章，探讨了如何安全地构建、部署和使用人工智能系统的方法。OpenAI 在博文中提到将致力于保持强大的 AI 安全性和广泛受益。我们的 AI 工具为全球用户提供了许多好处。

ChatGPT 已经被证明能够提高生产力、增强创造力，并提供个性化的学习体验。我们也认识到，像所有技术一样，这些工具也存在潜在的风险。因此，我们致力于在开发、测试和部署过程中将安全性贯穿始终。我们相信，这些努力将确保我们的 AI 工具始终处于安全、可靠的状态，为用户带来最大的好处。

OpenAI 能否在未来给我们带来安全的人工智能？

建立越来越安全的人工智能系统

为了建立越来越安全的人工智能系统，在发布任何新系统之前，我们会进行严格的测试，并邀请外部专家参与反馈。我们还会利用人类反馈的强化学习等技术来改善模型的行为，并建立广泛的安全和监测系统。例如，在我们最新的模型 GPT-4 完成训练后，我们所有的员工花了 6 个多月的时间来使其更加安全和一致，然后才公开发布。

我们相信，强大的人工智能系统应该接受严格的安全评估。因此，我们积极与政府接触，探讨监管可能采取的最佳形式，以确保这种做法被广泛采纳。我们认为，有必要建立一套完整的监管机制，以确保人工智能系统的安全性和可靠性。

从真实世界的使用中学习改进保障措施

他们努力在部署前预防可预见的风险，然而，他们在实验室中能学到的东西是有限的。尽管进行了广泛的研究和测试，他们无法预测人们使用他们技术的所有有益方式，也无法预测人们滥用技术的所有方式。这就是为什么他们相信，随着时间的推移，从现实世界的使用中学习是创建和发布越来越安全的人工智能系统的一个关键组成部分。

在有大量的保障措施下，他们谨慎地逐步发布新的人工智能系统，将其推送给一个稳步扩大的人群，并根据他们学到的经验不断改进。他们通过服务和 API 提供他们最有能力的模型，这样开发者就可以直接在他们的应用程序中使用这种技术。

现实世界的使用也使他们制定了越来越细微的政策，以防止那些对人们构成真正风险的行为，同时还允许他们的技术有许多有益的用途。至关重要的是，他们相信社会必须有时间来更新和调整，以适应能力越来越强的人工智能，而且每个受这种技术影响的人都应该在人工智能的进一步发展中拥有重要的发言权。迭代部署帮助他们将各种利益相关者带入关于采用人工智能技术的对话中，比他们没有亲身经历过这些工具的情况下更有效。

保护儿童仍是重中之重

我们非常重视保护儿童的安全，因此我们要求使用我们的人工智能工具的人必须是 18 岁或以上，或 13 岁或以上并得到父母的批准。我们严格禁止我们的技术被用于产生仇恨、骚扰、暴力、成人内容以及其他有害的类别。

我们的最新模型 GPT-4 对不允许的内容请求的回应率降低了 82%。我们建立了一个强大的系统来监控滥用，并与非营利性的可汗学院等合作，为他们的使用情况定制安全缓解措施。

我们还在开发一些功能，使开发者能够为模型输出设定更严格的标准，以更好地支持那些希望获得这种功能的开发者和用户。同时，我们阻止用户上传儿童安全虐待材料，并向国家失踪和受剥削儿童中心报告，以尽可能减少我们的模型产生伤害儿童的内容的可能性。

未来投入更多资源，部署更强大的模型

OpenAI 认为，解决人工智能安全问题的实用方法是投入更多时间和资源来研究有效的缓解措施和调整技术，并针对现实世界的滥用进行测试。

提高人工智能的安全性和能力应该同时进行。将谨慎地创建和部署更强大的模型，并将随着人工智能系统的不断发展，继续增强安全预防措施。

OpenAI 认为，没有人会为了尽快取得成功而偷工减料。关注人工智能领域的学者们，将会更加广泛的辩论、实验和参与，包括在人工智能系统行为的界限上。

未来人工智能领域的求职趋势将朝着高知化、复合化、年轻化的方向发展。市场对跨领域复合型人才的需求会更强烈。人才的学科专业背景呈现出广泛性特征，‘AI+X’多学科复合交叉趋势明显。

00 后、95后会成为AI人才市场的中流砥柱，其中90后是研发团队的主力军。从OpenAI的人员流动中可看到，大厂也不再是顶尖人才第一选择。ChatGPT的爆火将AI人才重新拉回了大众视野，未来，势必还将掀起一轮新的人才争夺战。

"人工智能"方向教授推荐

··