how open is openai的进一步展开说明

人工智能研究组织

不要与OpenAL或OpenAPI混淆

OpenAI是一家美国人工智能（AI）研究实验室，由非盈利的OpenAI公司和其盈利子公司OpenAI L.P.组成。OpenAI致力于人工智能研究，旨在开发“安全和有益”的人工通用智能，其定义为“在大部份经济价值工作上胜过人类的高度自主系统”。

OpenAI成立于2015年，开创人包括Ilya Sutskever、Greg Brockman、Trevor Blackwell、Vicki Cheung、Andrej Karpathy、Durk Kingma、Jessica Livingston、John Schulman、Pamela Vagata和Wojciech Zaremba，最初的董事会成员包括Sam Altman和Elon Musk。2019年，微软向OpenAI L.P.投资10亿美元，并在2023年再次投资100亿美元。

2015⑵018年：非营利起步

2015年12月，Sam Altman、Greg Brockman、Reid Hoffman、Jessica Livingston、Peter Thiel、Elon Musk、Amazon Web Services（AWS）、Infosys和YC Research宣布成立OpenAI，并许诺为该创业公司注资超过10亿美元。根据TechCrunch的调查，该非营利组织的资金来源其实不清楚，马斯克是其中最大的资助者，而另外一个捐助者YC Research则没有提供任何资金。组织表示将“自由合作”与其他机构和研究人员，公然其专利和研究成果。OpenAI总部位于旧金山密西昂区的先驱大厦。

根据Wired的报导，Brockman与深度学习的“奠基人”之一Yoshua Bengio会面，并列出了“该领域最好的研究人员”的名单。Brockman成功地在2015年12月雇佣了九名研究人员作为第一批员工。2016年，OpenAI支付了企业级（而不是非营利级）的薪水，但与Facebook或Google相比，未支付与AI研究人员相当的薪水。

微软的Peter Lee称，一位顶级人工智能研究人员的本钱超过了一位顶级美式橄榄球潜力新秀的本钱。OpenAI的潜力和使命吸引了这些研究人员加入公司，一名Google员工表示，他愿意为了OpenAI离开谷歌，部份缘由是庞大的人材团队，到很大程度上是由于其使命。Brockman表示：“我能够想象的最好的事情是将人类更接近以安全的方式构建真实的AI。”OpenAI联合开创人Wojciech Zaremba表示，他谢绝了“边沿疯狂”的两到三倍市场价的提议，选择加入OpenAI。

2019年：从非营利向营利过渡

2019年，OpenAI从非盈利组织转变成“有上限”盈利模式，并将利润上限设定为任何投资的100倍。根据OpenAI的说法，有上限的盈利模式使OpenAI L.P.可以合法吸引风险资本的投资，并为公司员工分配股权，目标是让他们能够说“我要加入OpenAI，但从长远来看，这对我们家庭不会有不利影响”。许多顶级研究人员为Google Brain、DeepMind或Facebook工作，这些公司提供非盈利组织没法提供的股权期权。在过渡之前，要求公然表露OpenAI的顶级雇员的薪酬是合法要求。

该公司随后向员工分配股权，并与微软合作，宣布向该公司投资100亿美元。尔后，OpenAI系统在Microsoft的基于Azure的超级计算平台上运行。OpenAI随后宣布打算以商业方式许可其技术。OpenAI计划在“五年内或可能更快”内使用10亿美元。Altman表示，即便10亿美元可能不足够，该实验室终究可能需要“超过任何非盈利组织曾筹集的资本”来实现人工通用智能。

非盈利组织OpenAI Inc.是OpenAI LP的唯一控股股东。虽然OpenAI L.P.是一家营利性公司，但仍然对OpenAI Inc.的非营利章程承当法定的受托责任。OpenAI Inc.的大部份董事会成员因存在利益冲突而没法具有OpenAI L.P.的财务股分。另外，由于利益冲突，持有OpenAI L.P.股分的少数董事会成员没法参与某些投票。一些研究人员认为OpenAI L.P.转为营利性地位与OpenAI宣称“令人工智能实现民主化”的主张不一致。

2023年至今：ChatGPT、DALL-E和与微软的合作

2023年，OpenAI宣布了GPT⑶，这是一个基于大范围互联网数据集进行训练的语言模型。GPT⑶旨在对问题进行自然语言回答，但也能够在区别语言之间进行翻译并生成联贯的文本。它还宣布了一个相关的API，名为“the API”，将成为其首个商业产品的核心。

2023年，OpenAI推出了DALL-E，一个可以根据自然语言描写生成数字图象的深度学习模型。

2023年12月，OpenAI推出了ChatGPT的不要钱预览版，这是基于GPT⑶.5的新型AI聊天机器人。据OpenAI称，该预览版在前五天内就吸引了超过一百万人报名。根据路透社引述的匿名消息人士的说法，OpenAI预计2023年将实现2亿美元的收入，并在2024年实现10亿美元的收入。

截至2023年1月，OpenAI正在就将公司估值为290亿美元的资金进行谈判，是2023年公司估值的两倍。2023年1月23日，微软宣布将向OpenAI进行一项新的多年期投资，金额为100亿美元。有关这项交易的传言表明，微软可能取得OpenAI 75%的利润，直到取得投资回报并取得该公司的49%的股分。

这项投资被认为是微软将OpenAI的ChatGPT整合到必应搜索引擎中的努力的一部份。在ChatGPT发布后，谷歌宣布了类似的人工智能利用（Bard），担心ChatGPT可能会要挟到谷歌作为信息来源的地位。

2023年2月7日，微软宣布正在开发基于ChatGPT相同基础的AI技术，并将其整合到Microsoft Bing、Edge、Microsoft 365和其他产品中。

2023年3月3日，Reid Hoffman因避免他在OpenAI董事会和通过Greylock Partners对AI技术公司进行的投资之间的利益冲突辞去了他的董事职位。他依然担负微软的董事，微软是OpenAI的主要投资者。

2023年3月14日，OpenAI发布了GPT⑷，作为API（等待列表）和ChatGPT Plus的一项功能。

2023年5月22日，Sam Altman、Greg Brockman和Ilya Sutskever发布了关于超级智能治理的建议。他们认为超级智能可能会在未来10年内实现，带来一个“更加繁华的未来”，并且“鉴于潜伏的灭绝风险，我们不能只是被动应对”。他们建议建立一个类似于IAEA的国际监管机构，监督能力门坎以上的AI系统，并表示相对较弱的AI系统不应过度监管。他们还呼吁加强技术安全研究，并要求更多的调和，例如通过政府启动一个集体项目，让“当前的努力成为其中的一部份”。

2023年8月，OpenAI宣布收购位于纽约的初创公司Global Illumination，该公司利用人工智能开发数字基础设施和创意工具。

参与者

OpenAI首席履行官和联合开创人Sam Altman

关键员工：

OpenAI非盈利组织董事会成员：

个人投资者：

企业投资者：

动机

一些科学家，比如此蒂芬·霍金和斯图尔特·拉塞尔，对高级人工智能有朝一日取得以愈来愈快的速度重新进行设计的能力表示耽忧，这可能致使人类灭绝的没法阻挡的“智能爆炸”。开创人马斯克将人工智能描写为人类面临的“最大的存在要挟”。马斯克和Altman表示，他们的动机部份源于对人工智能安全性的耽忧和人工通用智能的存在风险来源。OpenAI表示，“很难想象人类级别的人工智能可以对社会产生多大的好处”，一样也很难理解“如果建造或毛病使用，它可以对社会造成多大的破坏”。对安全性的研究不能被推延：“由于人工智能的使人惊讶的历史，很难预测什么时候才能到达人类级别的人工智能”。

OpenAI表示，人工智能“应当是个体人类意志的延伸，并且在自由精神下，尽量广泛而均匀地散布”。联合主席Sam Altman预计该几十年长时间项目将超过人类智能。

Infosys的前首席履行官Vishal Sikka表示，将“以产生对人类整体更有好处的结果的方式”作为支持的基本要求，并表示OpenAI与他们的“长时间价值观”非常一致，并且与他们的“为切实工作而努力的努力”非常一致。

策略

马斯克提出了一个问题：“我们可以做的最好的事情是确保未来是美好的吗？我们可以坐在一旁，也能够鼓励监管机构的监督，或我们可以以正确的结构与那些对以安全和对人类有益为主旨而深感关心的人一起参与发展AI。”马斯克承认“在试图推动（友好）AI的进程中，我们可能会创造出我们关心的东西”；但是，最好的防御是“赋予尽量多的人具有AI。如果每一个人都具有AI的能力，那末就不会有任何一个人或一小群人能够具有AI的超能力”。

马斯克和Altman试图通过将AI赋予每一个人来下降AI造成整体伤害的风险，这在关注人工智能存在的毁灭性风险的人群中引发了争议。哲学家尼克·波斯特罗姆对马斯克的方法表示怀疑：“如果你手上有一个可以对世界造成糟影响的按钮，你不会想把它给每一个人。”早在2016年关于技术奇点的对话中，Altman说：“我们不打算公然我们的所有源代码”，并提到一个计划，“允许广泛人群选举代表进入一个新的治理委员会”。 Greg Brockman说：“我们目前的目标是做出最好的事情。它有点模糊。”

相反，OpenAI最初决定不公然GPT⑵，是由于担心潜伏滥用，包括用于编写虚假新闻。一些专家怀疑GPT⑵会不会构成了重大要挟。

最近，在2023年，OpenAI发布了其应对对抗问题的方法。他们认为，将AGI与人类价值观一致可能比现有的AI系统一致更难：“未对齐的AGI可能对人类产生巨大风险，解决AGI对齐问题可能如此困难，以致于将需要全人类共同努力”。他们探索如何更好地利用人类反馈来训练AI系统，并斟酌使用AI逐渐自动化对齐研究。

产品和利用

截至2023年，OpenAI的研究集中在强化学习方面。OpenAI被视为DeepMind的重要竞争对手。

Gym

Gym在2016年发布，旨在提供一个易于实行的通用智能基准环境，涵盖各种区别的环境，类似于监督学习研究中使用的ImageNet大范围视觉辨认挑战。它希望标准化在AI研究出版物中定义环境的方式，以即可以更容易地复现已发表的研究。

RoboSumo

RoboSumo于2017年发布，是一个虚拟世界，其中的人形元学习机器人代理最初不知道如何走路，但被赋予了学习移动和将对方推出比赛场地的目标。通过这类对抗性学习进程，代理学习如何适应不断变化的条件；当代理被从虚拟环境中删除并放置在一个新的有强风的虚拟环境中时，代理睬努力保持站立，这表明它已学会如何平衡的一般方法。OpenAI的Igor Mordatch认为，代理之间的竞争可以创造一个智能“军备比赛”，可以增加代理的功能，即便在竞争以外的情况下。

电子游戏机器人和基准

OpenAI五

OpenAI五是OpenAI策划的五人团队，用于竞技类电子游戏Dota 2中，它通过试错算法完全自主地学习与人类玩家在高水平上进行比赛。在Dota 2的赛事The International 2017上，该团队首次公然展现，并在实时的一对一比赛中击败了乌克兰职业选手Dendi。比赛结束后，首席技术官Greg Brockman解释说，该机器人在真实时间的两周中通过与本身对战来进行学习，并且学习软件是创造软件怎么处理复杂任务，如外科医生的一个步骤。系统使用了强化学习的情势，通过每天进行数百次自我对战数月来学习，根据杀敌和获得地图目标等行动取得嘉奖。

到2018年6月，该机器人的能力已扩大到作为一个由五个人组成的团队一起游戏，他们能够击败业余和半职业选手的团队。在The International 2018上，OpenAI五与职业选手进行了两场展览赛，但终究输了。2019年4月，OpenAI五在旧金山举行的一场现场示范赛中以2比0击败了当时的Dota 2世界冠军OG团队。这些机器人的最后一次公然亮相是在同月的一个为期四天的线上公然比赛中，他们在其中总共进行42,729场比赛，赢得了99.4%的比赛。

OpenAI五关于Dota2的BOT为多人线上战役游戏（MOBA）AI系统带来的挑战和OpenAI五怎样在Dota2比赛中实现超人水平的能力展开了讨论。

GYM Retro

GYM Retro在2018年发布，是一个用于研究基于视频游戏的强化学习的平台。GYM Retro用于研究强化学习算法和学习广义化。强化学习研究以往主要集中在优化代理以解决单一任务上。GYM Retro能够在具有类似概念但外观区别的游戏之间进行泛化。

辩论游戏

2018年，OpenAI推出了辩论游戏，该游戏教会机器以人类的眼前，辩论关于玩具问题。其目的是研究这类方法会不会有助于审计人工智能决策并开发可解释的人工智能。

Dactyl

2018年开发的Dactyl使用机器学习来训练Shadow Hand，一个类似人类的机器人手，用于操纵物体。它完全在摹拟中进行学习，使用与OpenAI五相同的强化学习算法和训练代码。OpenAI通过域上的多样性化这一摹拟方法来解决物体定向问题，该方法将学习者暴露于各种经验中，而不是试图适应现实。除使用动作跟踪摄像机以外，Dactyl的设置还具有RGB摄像头，以便机器人可以通过视察来操作任意物体。2018年，OpenAI展现了该系统能够操纵一个方块和一个八面体。

2019年，OpenAI展现了Dactyl可以解决魔方问题。机器人可以在60%的时间里解决这个困难。像魔方这样的物体引入了更难建模的复杂物理规则。OpenAI通过提高Dactyl对干扰的鲁棒性来解决这个问题。他们采取了一种称为“自动域随机化”的技术，这是一种摹拟方法，通过不断生成更难的环境来使学习到的模型适应区别环境。自动域随机化与手动域随机化的主要区分在于不需要人工来指定随机化范围。

API

2023年6月，OpenAI宣布推出一个多用处的API，它被称为“the API”，它可让开发人员调用OpenAI开发的新AI模型，用于处理“任何英文语言的AI任务”。

生成模型

OpenAI最初的GPT模型（“GPT⑴”）——以2018年6月11日的预印本情势发布的关于基于transformer的生成预训练语言模型的论文写的，展现了基于多样语料的预训练人工语言模型从长串联续文本预测而来启示性上的实验。

GPT⑵是一个无人监督的transformer语言模型，是OpenAI原GPT模型（“GPT⑴”）的继任者。GPT⑵于2019年2月首次公然亮相，最初只发布了有限的演示版本。在最初担心潜伏滥用的情况下，GPT⑵的完全版本没有立即公然发布，其中包括编写虚假新闻的利用。一些专家对GPT⑵会不会构成重大要挟表示怀疑。

OpenAI提出GPT⑵的作者解释无监督语言模型是通用学习器，它使得GPT⑵能够在8个零散任务中有7个到达最高准确率和困惑度。在比赛中，GPT⑵能够解析多种语言文本和语言之间的翻译。它是通过对Reddit的提交中共享的具有最少3个赞的URL中的语料库进行训练的。它通过在表示的辞汇和表示复杂长句的多字符令牌之间进行的字节对编码来避免了对辞汇进行编码的某些问题。

GPT⑵的完全版本于2019年11月发布。几个网站上都有区别版本的GPT⑵和其他transformer模型的交互演示。

GPT⑶暨Codex

在2023年初，OpenAI宣布GPT⑶是GPT⑵的继任者，它还遭到了从5400万GitHub存储库中训练的代码的训练，是GitHub Copilot编码自动完成工具的AI支持。2023年8月，API版本开始私密测试。

通过大量示例训练后，GPT⑶能够使用十几种编程语言创建工作代码，最有效的是使用Python。

Codex进一步训练了GPT⑶来理解自然语言输入（如“一个绿色的皮革钱包，形状像个五边形”或“一个悲伤的雷鼠的等距观点”）并生成相应的图象。它可以生成现实存在的对象（如“带有蓝色草莓图案的彩色玻璃窗”）和现实中不存在的对象（如“具有豪猪纹理的立方体”）。截至2023年3月，没有API或代码可供使用。

图形用户界面

MuseNet和Jukebox（音乐）

在2019年发布的MuseNet是一个深度神经网络，它训练以预测MIDI音乐文件中的后续音符。它可以以十五种区别风格中的十种区别乐器生成歌曲。据The Verge报导，由MuseNet生成的歌曲可能在开始时公道，但随着播放时间的增长愈来愈混乱。

2023年发布的Jukebox是一个用于生成带有人声音乐的算法。在训练了120万个样本后，该系统接受的输入是流派、艺术家和歌词片断，并输出歌曲示例。OpenAI表示，这些歌曲“在地方音乐上表现出局部的音乐联贯性”，并且“遵守传统和弦模式”，但也承认这些歌曲缺少“像合唱一样重复的熟习较大的音乐结构”，并且“在Jukebox和人类生成的音乐之间存在很大的差距”。The Verge表示：“技术上使人印象深入，虽然结果听起来像可能熟习但温和的歌曲的模糊版本”，而Business Insider表示：“使人惊讶的是，一些结果的歌曲是动人的，并且听起来合法”。

微观镜

2023年发布的Microscope是八个区别的神经网络模型的每一个重要层和神经元的可视化集合，这些模型通常在可解释性研究中被研究。Microscope旨在轻松分析这些神经网络内部构成的特点。包括的模型有AlexNet、VGG 19、区别版本的Inception和区别版本的CLIP Resnet。

DALL-E和CLIP（图象）

DALL-E根据文本描写生成图象的转换模型，在2023年公然。CLIP则相反，它根据给定的图象创建描写。DALL-E使用GPT⑶的120亿参数版本来解释自然语言输入（如“一个造型像穿着五边形的绿色皮包”或“一个悲伤的雷鼠的等距观点”）并生成相应的图象。它既可以创建逼真的对象的图象（如“带有蓝色草莓图案的彩色玻璃窗”），也能够创建现实中不存在的对象的图象（如“具有豪猪纹理的立方体”）。截至2023年3月，没有API或代码可供使用。

DALL-E 2

2023年4月，OpenAI宣布推出了更新版本的模型——DALL-E 2，该模型产生的结果更加逼真。

ChatGPT

ChatGPT是基于GPT⑶开发的人工智能工具，提供一个对话界面，允许用户用自然语言发问。系统会在几秒钟内回答问题。ChatGPT在推出后的五天内就吸引了超过一百万用户。

ChatGPT Plus是每个月20美元的定阅服务，允许用户在繁忙时段访问ChatGPT，提供更快的响应时间，选择GPT⑶.5或GPT⑷模型，并为用户提供新功能的初期访问权限。

2023年5月，OpenAI推出了ChatGPT的用户界面，支持App Store上的ChatGPT和Play商店上的ChatGPT，该利用程序支持聊天记录同步和语音输入。

争议

OpenAI因将包括有毒内容在内的数据集注释外包给基于肯尼亚的公司Sama而遭到批评。这些注释被用于训练AI模型以检测有毒内容，从ChatGPT的训练数据和输出中过滤掉有毒内容。但这些文本通常包括各种暴力的详细描写，包括性暴力。《时期》杂志采访的四名Sama员工自称遭到了心理创伤。OpenAI向Sama支付每小时工作12.50美元的报酬，Sama将相当于税后1.32至2.00美元每小时的报酬再分配给其注释员。Sama公司的发言人表示，12.50美元也覆盖了其他隐性本钱，包括基础设施费用、质量保证和管理费用。

OpenAI还因揭露有关产品（如GPT⑷）的技术细节特别少而遭到批评，这与其最初对开放性的许诺相悖，并使独立研究人员更难复制其工作和制定保障措施。OpenAI通过竞争和安全性缘由来为此战略转变辩解。OpenAI首席科学家Ilya Sutskever在2023年辩称，对愈来愈有能力的模型进行开源愈来愈具有风险，预期在几年后不开源最有效的AI模型的安全缘由将会是“不言而喻的”。

OpenAI 面临违背欧盟《一般数据保护规章》的诉讼。[159][160] 2023年4月，欧盟成立了欧洲数据保护委员会（EDPB），以加强监管监督。[159]

另请参阅

参考文献

– Lecher, Colin. OpenAI says GPT⑶ could be used to generate fake news, phishing attacks, and spam (https://www.theverge.com/2023/8/20/21378141/openai-gpt⑶-misinformation-fake-news-spam-facts-privacy-research). The Verge. 2023-08⑵0.
– Lomas, Natasha. OpenAI’s chatbot was tested by skilled debaters. It won some arguments, and lost others (https://techcrunch.com/2023/06/30/openais-chatbot-won-some-arguments-and-lost-others-in-private-demo/). TechCrunch. 2023-06⑶0.
– OpenAI, Cal Newport, and the Market for Digital Attention Marketplace (https://www.marketplace.org/2023/07/07/openai-cal-newport-and-the-market-for-digital-attention/). 2023-07-07.
– Fingas, Jon. OpenAI’s GPT script machine might replace George R.R. Martin (https://www.engadget.com/openai-gpt-george-r-r-martin⑴25940670.html). Engadget. 2023-06⑵9.
– Simonite, Tom. OpenAI offers tech for licensing as chatbot market expands (https://www.technologyreview.com/2023/06/22/1023701/openai-chatbot-licensing/). MIT Technology Review. 2023-06⑵2.
– Zeynep Tufekci. Opinion Chat GPT and Its Doubles in the Real World (https://www.wired.com/story/chat-gpt-doubles-real-world/). Wired.
– Vicki Cheung (https://www.openai.com/about/people/vicki-cheung).
– Introducing ChatGPT by OpenAI (https://blog.openai.com/chatgpt/). 2023⑴1⑴7.
– Kathleen Chaykowski. Billionaire Udacity Co-Founder David Stavens Invests $17 Million In Elon Musk’s OpenAI (https://www.forbes.com/sites/kathleenchaykowski/2016/02/11/elon-musks-openai-gets⑴7-million-investment-from-udacity-co-founder-david-stavens/). Forbes. February 11, 2016.
– Zeynep Tufekci. Opinion Chat GPT and Its Doubles in the Real World (https://www.wired.com/story/chat-gpt-doubles-real-world/). Wired.
– 三、全球反束缚IST对Maxwell的输出通过包括自清洗-最大波卡清除，实现关键长时间可靠性后，当时同时建立了另外一页。

how open is openai的常见问答Q&A