人工智能监管迫在眉睫美国政府内部共识却远未达成-每日动态

来源: 新浪科技　发布于：2023-05-16 09:33:25

北京时间5月16日早间消息，据报道，美国立法者们正在努力研究，应该对新兴的人工智能设定什么样的监管，但在ChatGPT引起美国政府注意的几个月后，共识还远未确定。

一项对美国参议员、国会工作人员、人工智能公司和利益集团的采访显示，美国政府内部有许多选项正在讨论中。

当地时间周二，当OpenAI首席执行官山姆·阿特曼(Sam Altman)首次出现在参议院小组面前时，这场辩论将成为焦点。

【资料图】

一部分提案将侧重于可能使人们的生命或生计处于危险之中的人工智能，比如在医学和金融领域中使用的人工智能技术。其他可能性还包括确保人工智能不被用于歧视或侵犯人类的公民权利的规则。

对于这项技术的另一个争论，是应该监管人工智能的开发者，还是监管利用人工智能与消费者互动的企业。而轰动一时的聊天机器人ChatGPT背后的创业公司OpenAI，已经讨论了一个独立的人工智能监管机构。

目前还不确定哪种方法会胜出，但包括IBM(123.36, 0.52, 0.42%)和美国商会在内的一些商界人士赞成只对医疗诊断等关键领域进行监管的方法，他们将其称之为基于风险的监管方法。

美国商会技术参与中心的乔丹·克林肖(Jordan Crenshaw)表示，如果国会决定有必要制定新的法律，美国商会的人工智能委员会主张 “根据对个人的影响来确定风险”。例如，人工智能推荐视频的时候，它所带来的风险可能不会像做健康或财务决定一样高。

所谓的生成性人工智能(使用数据来创建新的内容，如ChatGPT写的读起来像人类的散文)的激增，引发了人们对这种快速发展的技术可能鼓励考试作弊、助长错误信息并导致新一代诈骗的担忧。

人工智能的热潮导致了一系列行业会议，包括OpenAI、其支持者微软(309.46, 0.49, 0.16%)和Alphabet Inc的CEO在本月访问白宫。美国总统乔·拜登(Joe Biden)会见了这些CEO们。国会助理和技术专家表示，国会也同样在参与这项技术的发展。

备受瞩目的人工智能创业公司Anthropic的联合创始人杰克·克拉克(Jack Clark)表示：“整个众议院和参议院的工作人员基本上都已经明白了，都被要求围绕这个问题展开讨论。人们想走在人工智能的前面，部分原因是他们觉得自己之前没有能够走在社交媒体的前面。”Anthropic的首席执行官也出席了白宫会议。

支持科技的进步商会负责人亚当·科瓦切维奇(Adam Kovacevich)表示，随着立法者的速度加快，大型科技企业的主要任务是要反对 “过早的过度反应”。

虽然像参议院多数党领袖查克·舒默(Chuck Schumer)这样的立法者决心以两党合作的方式解决人工智能问题，但事实是美国国会内呈现两极分化的局面，明年将是总统换届选举之年，立法者们正在解决其他重大问题，如提高债务上限。

舒默提出的计划要求独立专家在新的人工智能技术发布之前对其进行测试。他还要求企业提高透明度，并向政府提供该技术所需要的数据以避免伤害。

政府微管理

基于风险的监管方法意味着，例如用于诊断癌症的人工智能将受到食品和药物管理局的审查，而用于娱乐的人工智能将不受监管。欧盟已经开始着手通过类似的规则。

但在民主党参议员迈克尔·贝内特(Michael Bennet)看来，监管机构对风险的关注似乎还不够，他提出了一项法案，呼吁成立政府人工智能工作组。他表示自己主张采取“基于价值观的监管方法”，优先考虑隐私、公民自由和权利。

贝内特的一位助手补充说，基于风险的管理规则可能会过于死板，无法发现像人工智能用来推荐宣传白人至上主义的视频这样的危险。

一位不愿透露身份的政府工作人员向媒体透露，立法者还讨论了如何最好地确保人工智能不被用于种族歧视。

而在OpenAI内部，工作人员已经考虑到了更广泛的监管。

OpenAI的研究科学家库伦·奥吉菲(Cullen O"Keefe)于4月份在斯坦福大学的一次演讲中提议建立一个机构，授权企业在训练强大的人工智能模型或运营促进这些模型的数据中心之前获得许可。奥吉菲称，这个机构可以被称为人工智能安全和基础设施安全办公室，简称OASIS。

在被问及该提案时，OpenAI的首席技术官米拉·穆拉蒂(Mira Murati)说，一个值得信赖的机构可以让开发者对安全标准“负责”。但比机制更重要的是“在什么是标准，什么是试图减轻的风险方面”达成一致。

美国最后设立的主要监管机构是消费者金融保护局，该局是在2007-2008年金融危机后设立的。