OpenAI 成立团队准备应对人工智能的"灾难性风险"

发布时间：2023-12-18 22:22:06 所属栏目：动态来源：DaWei

导读： OpenAI周四表示，它正在组建一个名为“做好准备” （Preparedness）的团队，以监督和评估它所谓的“前沿人工智能模型”的发展——它将其归类为具有潜在危险性

OpenAI周四表示，它正在组建一个名为“做好准备” （Preparedness）的团队，以监督和评估它所谓的“前沿人工智能模型”的发展——它将其归类为具有潜在危险性的高性能模型，以防范网络安全和核威胁等类别的“灾难性风险”。

该团队是OpenAI的一部分，将负责监控该公司的人工智能模型，以确保它们符合该公司承诺的安全准则。

人工智能模型可能会通过语言说服人类用户，并自主完成任务。这些人工智能系统的出现，使得我们能够更好地理解人类行为背后的原因，从而有助于改善我们的生活。

“做好准备”团队将由亚历山大·马德里(Aleksander Madry)领导，他是麻省理工学院可部署机器学习中心（Center for Deployable Machine Learning）的主任，但现在正休假在OpenAI工作。

该团队的另一项任务是创建和维护所谓的 "风险知情开发政策"，该政策将概述公司应如何处理人工智能模型在发展和接近"通用人工智能"（或接近人类的知识水平）时带来的风险。

OpenAI还举办了一项挑战赛，让公司外部的人士就人工智能可能被如何滥用并在现实世界造成危害的方式提出想法。该挑战赛旨在鼓励开发人员探索人工智能的潜力，并将其用于改善我们的生活。

（编辑：宁德站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!