处理AI安全问题NIST人工智能风险管理框架
发布时间：2022-04-29 10:14:22 所属栏目：安全 来源：互联网
导读：与任何信息技术一样，人工智能也会面临各种安全问题以及其他新出现的问题，如隐私、歧视、不公平等。美国国家标准与技术研究所(NIST)正在开发一个志愿性质的框架，以更好地管理人工智能相关的风险，称为人工智能风险管理框架(AI RMF)。该框架的目标是提高将
|
与任何信息技术一样，人工智能也会面临各种安全问题以及其他新出现的问题，如隐私、歧视、不公平等。美国国家标准与技术研究所(NIST)正在开发一个志愿性质的框架，以更好地管理人工智能相关的风险，称为人工智能风险管理框架(AI RMF)。该框架的目标是提高将可信度纳入AI的能力，包括AI的产品、服务、系统的设计、开发、使用和评估。 该框架的初稿建立在2021年12月NIST发布的一份概念性文件上。NIST希望AI RMF能够描述基于人工智能的系统，其风险与其他领域的风险有何不同，并鼓励利益相关群体有针对性地解决这些风险。NIST表示，它可以用于超出框架之外的合规映射，如现有法律法规或其他强制性指南等。 尽管人工智能框架面临着与其他NIST框架类似的风险，但前者的某些风险“差距”或对其的担忧，是人工智能所独有的。而这些差距正是AI RMF想要弥补解决的。 AI利益相关群体和技术特征 NIST将四个利益相关群体确定为该框架的预期受众：人工智能系统利益相关者、运营商和评估者、外部利益相关者和公众。采用三级特征分类法，在识别和管理人工智能系统相关风险的综合方法中应考虑这些特征：技术特征、社会技术特征和指导原则。 技术特征是指人工智能系统设计者和开发者直接控制的因素，可以使用标准评估标准来衡量，如准确性、可靠性和弹性。社会技术特征指人工智能系统在个人、群体和社会环境中的使用和感知方式，如“可解释性”、隐私、安全和管理歧视。在AI RMF分类法中，指导原则指的是更广泛的社会规范和价值观，表明了公平、问责和透明度等社会优先事项。 与其他NIST框架一样，AI RMF核心包含AI风险管理活动的三个要素：功能、类别和子类别。功能是为了映射、测量、管理和治理人工智能风险。尽管AI RMF预期通过概要文件为特定用例提供上下文，但该任务以及计划的实践指南已被推迟到以后的草案中。 在3月中旬发布框架草案后，NIST举行了为期三天的研讨会，讨论人工智能RMF的各个方面，包括深入探讨如何减轻人工智能技术中的有害偏见(歧视)。以下是研讨会中的一些观点： 测量人工智能活动：需要新技术 由于人工智能系统中固有的社会政治伦理和习俗的复杂性，人工智能相关活动的测量仍处于初级阶段。圣地亚哥加利福尼亚大学的David Danks认为：“测量功能中的很大一部分实质上是交给人去了解的。在这种特定的背景下，歧视味着什么？相关的价值观是什么？因为，风险从根本上来说是对组织或人类价值观的威胁，价值观很难确定。” 人工智能安全与研究公司Anthropic的联合创始人杰克·克拉克表示，人工智能的出现产生了对新指标和测量方法的需求，理想的情况是将其融入人工智能技术本身的创造中。“现代人工智能技术的挑战之一是，需要设计新的测量技术，并与技术本身共同开发。” 人工智能治理：很少有组织这么做 在人工智能治理政策方面，bnh.ai的科研人员帕特里克·霍尔表示，在大型消费金融组织和其他几个高监管的领域之外，人工智能的使用没有正式的治理指导，因此公司只能自己解决这些棘手的治理问题。 微软首席人工智能负责人Natasha Crampton：“当你的治理方法过于分散时，失败的迹象就会显现出来。在这种情况下，各团队希望将人工智能模型部署到生产中，但他们只是采用自己的流程和结构，相互之间几乎没有协调。” 富国银行执行副总裁兼企业模型风险主管Agus Sudjianto也强调了高层对人工智能风险治理的重要性。“如果人工智能负责人或管理人员没有地位、信息来源和高层的支持，谈不上治理。” 埃森哲云首席技术师Teresa Tung强调，所有企业都需要关注人工智能。“全球排名前2000内的公司中大约一半的公司在其财报上都提及了人工智能。这是每个企业都需要认识到的。” 与NIST开发的其他风险管理框架(如网络安全框架)一样，最终的AI RMF可能会对私营和公共部门产生广泛的影响。NIST正在向社会征求针对草案的意见，截止日期为2022年4月29日。 （编辑：宁德站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
站长推荐