OpenAI CEO首场中国演讲：推进AGI安全治理，需要国际科技界展开合作

发布时间：2023-09-26 13:04:08 来源：科普一下【初爱教学视频高清】(2023已更新)(哔哩/哔哩) 作者：娱乐

萨姆·阿尔特曼强调 ，OpenAI在依托技术消除全球合作障碍的国演同时，还试图为AGI治理系统沟构建一个框架和安全标准。讲推进A际科技界他认为
，安全AI安全确实需要技术的治理展开参与，但更为关键的需国是 ，“要保持一致的合作价值观。”

记者 |钱玉娟

图源 |图虫创意

正在世界各地进行旋风式访问的场中“ChatGPT之父”、人工智能公司OpenAI的国演CEO萨姆·阿尔特曼（Sam Altman），6月10日首次“云”上参与了在中国举行的讲推进A际科技界行业峰会“2023北京智源大会”。北京智源大会是安全由智源研究院（全称 ：北京智源人工智能研究院）主办的年度国际性人工智能领域的专业交流活动，定位于“AI内行顶级盛会” ，治理展开今年已经是需国第五届 
。

五年前
，合作智源研究院在科技部和北京市的场中支持下，联合北京人工智能领域的优势单位共建而成。因汇集了张宏江 、黄铁军等国际顶尖人工智能学者
，智源研究院聚焦核心技术与原始创新 ，旨在推动人工智能领域发展政策、学术思想、理论基础、顶尖人才与产业生态的五大源头创新
。

萨姆·阿尔特曼在名为“AI安全与对齐”的分论坛中进行了主题演讲 ，在穿越五大洲近20个国家，与多国领导人、开发者及学生们展开交流、讨论后
，他发现，世界的注意力都集中在解决AI的安全问题上。

除了给OpenAI优化工具等方面工作提出宝贵意见，萨姆·阿尔特曼希望，在亲眼目睹了通用人工智能（Artificial General Intelligence, AGI）发展带来的变革，人类的想象力被迅速拓展后 ，防范风险，“推进AGI安全治理 ，是我们寻找共同立场的最重要领域之一。”

萨姆·阿尔特曼举例称 ，像根除小儿麻痹和天花等疾病，以及减少全球气候变化等风险，大国之间经常在关键医学和科学领域展开合作
，以实现共同目标。在他看来，AGI安全治理同样需要国际合作，尤其在AI开发和安全部署方面，需要建立包容的国际标准
，使所有国家对AGI发展抱以一个统一且平等的准则；同时，在可验证的方式下，全球范围内建立起对AGI安全开发的信任。

作为首场中国演讲 ，萨姆·阿尔特曼特意援引《道德经》中的“千里之行，始于足下” ，以呼吁国际科技界能迈出建设性的第一步，合作推动AGI安全。与此同时 ，他也提及，要深入地思考，如何尊重和保护知识产权，推动并引导与安全研究有关的投资 。

谈及OpenAI当前的重点内容，“如何训练优化模型，以使AI系统成为人类有益且安全的助手。”萨姆·阿尔特曼演讲后还与智源研究院理事长张宏江进行了对话，他谈到 ，过去的六个月时间里 ，人们愈发重视AGI风险和机遇，OpenAI在让人们享受技术变革带来的益处同时 ，也在努力减轻风险
，但“全球合作始终是困难的”。

萨姆·阿尔特曼强调，OpenAI在依托技术消除全球合作障碍的同时 ，还试图为AGI治理系统沟构建一个框架和安全标准 。他认为，AI安全确实需要技术的参与，但更为关键的是，“要保持一致的价值观。”为此，OpenAI要设计出一个公平 、包容又具有代表性的系统，“我们需要构建安全的分类器和检测器
 ，以监测符合用户规范的情况。”

中国、美国和欧洲是推动人工智能和创新的三个主要力量 ，当张宏江问及国际合作对于解决AI需求和决策具备怎样的优势时，萨姆·阿尔特曼表示，AI安全需要受益于不同国家和不同背景下的用户偏好 ，因此需要融合不同的观念来实现这一目标 。

聚焦中国 ，萨姆·阿尔特曼认为
，这里拥有世界上一些最优秀的AI系统 ，也从根本上使研究人员在解决AI系统问题时面临困难 ，他希望未来中美两国间的AI技术研究人员能一起为AI安全做出贡献。

对谈中
，张宏江疑问 ，未来OpenAI的GPT源代码会否重新开放，萨姆·阿尔特曼并未直接回答
。但他对开源模型的发展以及开源这一路径的正确性予以认可，只是伴随模型变得越来越大，他强调 ，“确保正确性变得昂贵
，开源一切可能不是最优路径。”

The END

No.1

No.2

No.3

No.4

No.5

微信号 |eeojjgcw

新浪微博 |@经济观察报

相关文章