2023年7月21日,拜登总统谈到了七家公司为管理人工智能风险所做的承诺。
就在 Meta 公布了新一代开源大语言模型 Llama 2 三天之后,公司高层就和Amazon、Anthropic、Google、Inflection、Microsoft 和 OpenAI 等七家在 AI 行业中的巨头和炙手可热的创业公司管理人员, 2023 年 7 月 21 日再次聚首美国白宫,共同签订了一份自愿承诺书(Voluntary Commitments),就 AI 技术和研发的安全、透明、以及风险等做出 8 大承诺。
聆听拜登演讲的依次为亚马逊的 Adam Selipsky、OpenAI 的 Greg Brockman、Meta 的 Nick Clegg、Inflection 的 Mustafa Suleyman、Anthropic 的 Dario Amodei、谷歌的 Kent Walker 和微软的 Brad Smith。
NYT 专栏作者 Kevin Roose 撰文(nytimes.com),详解了自愿承诺书中的 8 项承诺:
承诺 1:公司承诺在发布人工智能系统之前,对其进行内部和外部安全测试。
承诺 2:公司承诺在整个行业以及与政府、民间社会和学术界分享有关管理人工智能风险的信息。
承诺 3:公司承诺投资网络安全和内部威胁防护措施,以保护专有和未发布的模型权重。
承诺 4:两家公司承诺促进第三方发现,和报告其人工智能系统中的漏洞。
承诺 5:公司致力于开发强大的技术机制,以确保用户知道内容何时由人工智能生成,例如水印系统。
承诺 6:公司承诺公开报告其人工智能系统的功能、局限性以及适当和不适当使用的领域。
承诺 7:公司承诺优先研究人工智能系统可能带来的社会风险,包括避免有害的偏见和歧视以及保护隐私。
承诺 8:两家公司致力于开发和部署先进的人工智能系统,以帮助解决社会面临的最大挑战。
2023年5月4日,美国白宫AI风险治理会议由美国副总统哈里斯(Kamala Harris)主持,总统拜登出席。与会者包括四家人工智能领域龙头企业CEO——谷歌CEO桑达尔·皮查伊(Sundar Pichai)、微软CEO萨蒂亚·纳德拉(Satya Nadella)、OpenAI的CEO山姆·奥特曼(Sam Altman)和Anthropic的联合创始人达里奥·阿莫代(Dario Amodei)——以及一众白宫要员。
会议的目标是 "分享对人工智能相关风险的关切"。会议提到了三个关键领域:关于开发和部署人工智能模型的企业透明度;需要评估、验证和确认人工智能系统的安全、安保和功效;以及人工智能滥用的风险。
报道称,拜登明确向这些企业高层表示,他们必须在推出产品之前确保其安全性。
——山巅周刊第160期:应对人工智能风险
VIA https://www.nytimes.com/2……
楼主残忍的关闭了评论