OpenAI CEO首次中国演讲:推动人工智能安全治理

摘要：

OpenAI联合开创人兼CEO Sam Altman首次在中国北京的2023智源人工智能大会发表演讲。OpenAI是一个非营利性的研究机构，致力于创建安全、有益、可信赖的人工智能，并让其成果惠及全人类。

OpenAI的使命是确保人工通用智能（AGI）的发展造福全人类，减轻AGI可能带来的潜伏风险。公司成立于2015年，由科技界知名人士包括Sam Altman和埃隆·马斯克等共同创建。

Altman强调了推动人工智能安全治理的重要性。他认为，AGI的强大潜力可能从根本上改变我们的文明，因此国际合作和调和变得相当重要。

OpenAI致力于将AGI安全工作置于全球合作的范围以内，促进各国共同为AGI的发展设立安全标准和规范。

Altman提到了CoPilot项目，这是OpenAI与GitHub合作开发的一个AI工具。CoPilot可以辅助工程师和科学家更高效地编写代码，并在技术创新方面具有巨大的潜力。

这类方式展现了人工智能对科学贡献的惊人方式，超出了简单的模型利用。

Altman承认OpenAI的GPT模型产品中可能存在偏见问题。近期的研究表明，最新模型GPT⑷在隐性偏差测试中的偏差要小于人类的偏差，但依然存在改进的空间。

OpenAI将继续努力提高模型的质量和安全性，确保其输出结果对各种人群都具有客观公正性。

Altman在演讲中提到，未来十年可能会诞生超强的人工智能系统。这将对社会产生重大影响，并提出了对超能人工智能系统的控制和治理的问题。

他还强调了人工智能将如何下降商品和服务本钱，进一步驱动供应链层面的本钱效益。

OpenAI CEO Sam Altman在首次中国演讲中强调了OpenAI的使命和目标，和推动人工智能安全治理的重要性。

他提到了CoPilot项目作为一个例子，展现了人工智能对科学贡献的惊人方式。

Altman还谈到了模型偏见和安全性问题，并展望了人工智能的未来发展趋势。