在 Google 新闻上关注 Kryptus 
NIST
近年来，人工智能 (AI) 技术正在彻底改变我们的生活方式。尽管它们为社会带来了进步和福祉，但它们也带来了一系列风险，例如偏见和歧视性分析、消除某些类型的操作工作（不再需要人类进行）、与隐私和数据安全相关的问题，甚至因过度使用采用此类技术的应用程序而引起的社会和心理问题。这些风险以及许多其他风险可能会对个人、群体、社会甚至环境和地球本身产生负面影响。
今年 1 月，美国政府机构 NIST（国家标准与技术研究所）发起了一项倡议，旨在 人工智能风险管理框架。这项倡议是经过 18 个月的努力，与世界各地的公司、政府机构、学术界和非营利组织等社会公共和私营部门合作讨论的成果。该框架为开发或使用人工智能解决方案的组织提供指南，以便他们能够管理此类技术带来的风险。
该框架由四个基本功能组成： 治理, 映射, 医学 e 管理。每个功能又细分为若干类别和子类别，并有组织和个人在人工智能应用的整个生命周期中必须持续采取的具体行动。
治理
治理是组织内部实施人工智能风险管理的基本原则。构成治理功能的一些行动示例包括：
- 指定与其他核心功能（映射、测量和管理）相关的角色和职责；
- 制定政策和程序，确保人工智能应用符合法律和法规；
- 建立收集、优先排序和考虑来自外部来源的反馈的工具。
马皮门托
它为构建与人工智能应用相关的风险建立了背景。它涉及理解人工智能应用所依赖的复杂相互依赖的活动网络，这使得人工智能参与者更容易预测它们可能造成的影响。此功能的结果为其余功能（测量和管理）提供信息。
测量
采用定量、定性或混合方法工具、技术和方法来分析、评估、比较和监控人工智能应用的风险和影响。使用映射功能中识别的人工智能风险知识并告知管理功能。人工智能系统在部署之前必须进行测试，即使在运行时也必须持续定期进行测试。
管理
它涉及将资源分配给前几个阶段描述的、由治理功能定义的已映射和已衡量的风险。风险处理包括对事件或事件做出响应、恢复和沟通的计划。
人工智能和信息安全领域的风险管理
NIST发布的AI风险管理框架，为参与AI的组织和个人在其应用中实施提供了一套详细的指导方针和行动方案。当然，将此框架应用于其管理模型的组织将更好地应对人工智能系统带来的独特且通常不可预测的风险。对于信息安全领域的组织来说，实施该框架更为可取，因为它们处于关键环境中，在这些环境中，故障或失灵可能会给个人和组织带来更大的危害风险。
另一方面，实施该框架可能会给组织内部带来一系列挑战。首先是难以理解其所有技术细节以及如何在特定环境中应用它们。此外，它的实施肯定需要机构内部资源的配置，无论是时间、金钱还是知识。有必要动员和培训团队，以便以消除或至少减轻人工智能系统在其所处的生态系统中可能造成的风险的方式实施该框架。
Kryptus 致力于利用人工智能和机器学习技术开发反情报平台并分析人类的弱点，这是其创新支柱之一。对于我们来说，人工智能的风险管理一直是一个关注的问题。我们与人文科学专家团队密切合作，有关人工智能风险和道德的讨论是我们开发日常工作的一部分。因此，我们非常感兴趣地接受了 NIST 推出的这个框架，并开始分析其各个方面以便在我们的组织中实施它，同时考虑到这必然会带来的所有挑战。
