驾驭人工智能前沿：有效治理的策略由于监管仍处于早期阶段，使用人工智能的公司现在最好建立坚固的护栏

ICI内控快讯 2024年03月07日 19:58 247 内控网

作者：Lou Bachenheimer

2024年1月23日

7.3.jpg

预计到2030年，全球人工智能市场将以每年30%以上的速度增长，而多达80%的企业正在使用人工智能或积极探索是否部署人工智能。在缺乏强有力的监管来规范负责任地使用这项技术的情况下，首席技术官Lou Bachenheimer探索了公司如何自我监管——目前为止。

在人工智能方面，如何拥抱负责任的创新是公共和私营组织的首要考虑。随着政府努力制定符合道德的人工智能开发指导方针，行业重量级人物也一致认为需要在新工具上设置护栏，现在是开始在贵公司建立人工智能管理框架的时候了。

虽然白宫关于人工智能的行政命令确立了指导人工智能使用的原则，但平等就业机会委员会（EEOC）和联邦贸易委员会（FTC）等联邦机构正在现有指导范围内完善规定。与此同时，包括谷歌、Meta和OpenAI在内的知名人工智能公司已承诺维护有关安全、安保和透明度的新标准。这些措施代表了美国在世界各国政府为负责任地推进人工智能建立法律和监管基础的更广泛努力中采取的初步措施。

一些国家制定了包括治理考虑在内的国家人工智能战略。例如，加拿大的人工智能指南强调负责任地开发和使用人工智能造福社会，包括与人工智能伦理、透明度和问责制有关的举措。欧盟的人工智能法案被视为世界上第一部保障用户权利的综合性法律。它似乎还将从道德上规范欧洲及其他地区人工智能应用程序开发商不断发展的需求。

对于在美国经营的企业来说，有关人工智能的监管环境仍然不明确。然而，积极主动地建立利用人工智能的最佳实践并启动风险管理工作，将使您的组织为未来的人工智能监管做好准备。通过建立健全的人工智能治理框架，组织可以在整个人工智能开发和部署过程中灌输问责制、责任感和监督。这反过来又促进了道德和透明的人工智能实践，增强了用户、客户和公众之间的信任。

人工智能治理的路线图

你很可能与聊天机器人进行过互动，或者使用了生成人工智能，或者你的公司使用了人工智能驱动的业务流程。随着人工智能在日常生活中越来越不可或缺，组织必须解决对道德、法律和社会影响的担忧。可以采取一些步骤来评估业务工作流程，并确定人工智能技术应在您的组织中使用的位置以及潜在的业务风险。

归根结底，在治理方面，从首席执行官、首席信息官到一线员工，每个人都有责任：

自上而下：有效的治理需要高管的支持，以提高数据质量、安全性和管理。商业领袖应该对人工智能治理和责任分配负责，审计委员会应该监督数据控制。您可能还想任命一位在技术方面具有专业知识、能够确保治理和数据质量的人作为首席数据官来领导这些工作。

自下而上：各个团队可以负责他们管理的数据安全、建模和任务，以确保标准化，从而实现可扩展性。

建模：一个有效的治理模型应该利用持续的监控和更新来确保绩效满足组织的总体目标。应将安全作为最优先事项来提供访问权限。

透明度：跟踪人工智能的表现同样重要，因为它确保了利益相关者和客户的透明度，是风险管理的重要组成部分。这可以（也应该）让整个企业的人参与进来。

人工智能伦理和治理领域仍在发展，包括政府、公司、学术界和民间社会在内的各种利益相关者继续合作，为负责任的人工智能开发和部署制定指导方针和框架。

最佳实践

虽然这是美国人工智能监管领域的早期阶段，但自我监管现在可以帮助您的企业识别和减轻潜在风险，如数据隐私问题、人工智能算法中的偏见和安全漏洞。

许多科技公司都制定了自己的人工智能道德准则和原则。例如，谷歌的人工智能原则概述了其开发人工智能以造福社会、避免伤害、确保公平和问责的承诺。微软、IBM和亚马逊等其他公司也发布了类似的指导方针。

组织在建立人工智能治理时可以采用以下几种战略方法：