美国白宫周五宣布，七家最具影响力的人工智能(AI)公司已同意签署一份自愿承诺，保证以负责任的态度开发AI，降低AI风险。自从OpenAI去年年底发布ChatGPT以来，安全已经成为AI领域的主要关注点。
这七家公司分别是谷歌、OpenAI、微软、Meta、亚马逊、AI创业公司Inflection、Anthropic。
这些公司的代表将在周五齐聚白宫，举行签字仪式，他们是谷歌全球事务主管肯特·沃克(Kent Walker)、OpenAI总裁格雷格·布洛克曼(Greg Brockman)、微软总裁布拉德·史密斯(Brad Smith)、Meta全球事务主管尼克·克雷格(Nick Clegg)、亚马逊云计算服务AWS CEO亚当·塞利普斯基(Adam Selipsky)、Inflection CEO穆斯塔法·弗莱曼(Mustafa Suleyman)、Anthropic CEO达里奥·阿莫德(Dario Amodei)。
这些公司承诺，在向公众发布AI系统前允许独立安全专家测试他们的系统，并与政府和学术界分享有关他们系统安全的数据。他们还将开发系统，当图像、视频或文本是由AI生成时向公众发出警告，采用的方法是“加水印”。
以下是自愿承诺的要点：
·为消费者开发一种识别AI生成内容的方法，例如加水印。
·在向公众发布AI工具之前，聘请独立专家评估这些工具的安全性。
·与其他行业参与者、政府和外部专家分享有关最佳实践的信息，以及试图绕过保障措施的行为。
·允许第三方查找并报告其系统漏洞。
·报告其技术的局限性，并对AI工具的适当使用进行指导。
·优先研究AI的社会风险，包括歧视和隐私。
·带着帮助降低气候变化和疾病等社会挑战的目标开发AI。
由于这些公司是自愿签订上述承诺的，因此即便他们未能履行承诺，他们目前也不会承担任何后果。一些承诺预计也不会在周五立即得到执行。
此前，签署该承诺的一些公司已经采取了类似行动。例如，OpenAI在大范围推出GPT-4模型前已经组建了一支“红队”，聘请了50名学者和专家来测试GPT-4，通过对抗测试找出AI的不足，然后进行改进。谷歌也已经在一篇博客文章中表示，公司正在开发一种水印技术，以此标识AI生成内容。企业和政策制定者目前正在大力宣传水印技术，把它视为解决AI加剧错误信息担忧的一种方式。
一位不愿透露姓名的白宫高级官员表示，自愿承诺将提高整个AI行业的标准。“这将挑战企业开发AI的极限，提高AI的安全和信任标准。”该官员表示。
与此同时，白宫官员对记者表示，拜登政府目前正在制定一项AI行政命令，支持国会推出监管AI技术的两党立法，以解决AI带来的一些风险。该官员没有透露该行政令的具体细节，也没有披露该行政令的发布时间，但他表示政府正在评估AI在政府机构中的作用，这是拜登的“高度优先事项”。
过去几个月，拜登政府官员已经会见了科技公司高管、劳工和民权领袖讨论AI。今年5月，白宫宣布为AI开发公司提供更多资金和政策指导，其中包括向国家科学基金会提供1.4亿美元以启动七个新的国家AI研究所。谷歌、微软、英伟达、OpenAI和其他公司也同意在今年的DefCon极客安全会议上允许他们的语言模型接受公开评估。
0
