AI前哨｜对话中科院王奔腾：过度炒作ChatGPT干扰大众认知，只是少数人获利
凤凰网科技《AI前哨》出品
作者｜蒋浇
编辑｜张涛
微信编辑｜李金洋
2023年，世界正处于人工智能发展的快车道上，各行各业都在寻求通过人工智能技术实现转型升级。但是，与此同时，人工智能的安全性问题也遭到各方的关注和反思。最近，特斯拉首席履行官埃隆·马斯克与多位人工智能专家和行业高管联名发表公然信，呼吁暂停开发比GPT⑷更强大的人工智能系统最少6个月。
争议背后，美国业界对AI发展的耽忧从何而来？AI的发展会不会已来到需要按下“暂停键”的转折点？国内应当怎么发展人工智能？带着这些问题，凤凰网《AI前哨》对话中科院自动化所复杂系统管理与控制国家重点实验室主任、中科慧拓首席科学家王奔腾。
王奔腾主要研究领域为智能系统和复杂系统的建模、分析和控制与管理，是AI和智能控制方面的国际知名学者。作为行业顶尖权威，王奔腾给我们带来了许多区别的观点，他指出相较于技术革命，ChatGPT更像是基础设施，现在存在过度炒作和神化它的现象。这些炒作已影响到了正常的科研，干扰了大众正常的认知，最后只是少数人获利。
“还记得当初阿尔法狗（AlphaGo)出来，大家也都激动的不得了，现在怎样样？阿尔法狗到现在也不过就是六七年时间，所以没必要那末激动。相信不久ChatGPT就是‘白菜价’。”王奔腾认为，ChatGPT离真实的（智能）还早，当下重要的是有序发展。
对美国业界对AI发展的耽忧，王奔腾表示，“我坚决不信它（ChatGPT）会给人类造成要挟 ，除非人类自己要挟自己。”他认为技术发展不可逆，特斯拉CEO马斯克呼吁暂停开发比GPT⑷更强大的人工智能系统，实质是商业利益问题。
以下为对话内容（原文基础上有删减）：
AI前哨：去年底您看到ChatGPT推出后，有甚么感受？
王奔腾：没甚么感受，很好，但本该这样。就是一帮人花钱把它（ChatGPT）做出来展现，是不简单，几十年的空谈终究“出现”出一个结果，但离真实的（智能）还早。ChatGPT出来后，大家太激动了，其实现在才刚开始，太激动不好。还记得当初阿尔法狗（AlphaGo)出来，大家也都激动的不得了，现在怎样样？阿尔法狗到现在也不过就是六七年时间，所以没必要那末激动。相信不久ChatGPT就是“白菜价”，问题是以后呢？
AI前哨：外界认为，ChatGPT之所以会爆红是由于它具有了通用性。以往的人工智能利用于人脸辨认、学校判卷等垂直场景，做的都是一些“选择题”。现在GPT能做“简答题”，这让人觉得AI已具有了类似逻辑思考的能力。
王奔腾：但是我问你，工厂生产实时控制敢用它（ChatGPT）吗？飞机调度排班敢用它(ChatGPT)吗？所以它还不具有真实的智能性。它是比文娱版进了一大步，已非常有用了。最近我让我所有的学生写摘要都用它做参考，由于ChatGPT写的英文摘要最少比大部份人写的要好。
AI前哨：微软开创人比尔盖茨表示，ChatGPT是1980年以来最具革命性的科技进步。您怎样看？ChatGPT是技术革命吗？
王奔腾：仁者见智，智者见仁，有点乱。谁都可以做论断，他（比尔盖茨）固然可以把ChatGPT当作革命性的技术进步。我认为它（ChatGPT）不是革命，它的确把AI以一种很大众化的情势展现给了世界，确确切实为智业社会提供了一个基础设施原型，最多就跟工业社会的高速公路、飞机场、火车站、码头是一样的。一个现代化的工业社会，需要这些基础设施，未来的智业社会，需要许多ChatGPT一样的基础设施。
资本和技术创新的结合，最后出现出（ChatGPT）这么好的结果，这是非常好的事情，做科研的人应当往这条路上来。但不要把它神圣化，不要炒作来炒作去影响正常的科研进程。
AI前哨：现在人工智能存在过度炒作和神话？
王奔腾：对，而且影响到了正常的科研，影响到了大众正常的认知，其实只是少数人获利。
AI前哨：影响到了科研的哪方面？
王奔腾：把年轻的科研人员抽走了，特别是还没有真正成熟的年轻人。本来好好的科研团队，大家正在认认真真做科研，一阵热潮来了，Hope（希望）脑洞大开,不但大开口还下生大尾巴，变成Hype（忽悠），队伍就没了，影响了正常的科研进程。据我所知，好多科研团队都面临这个问题。
其实我非常支持年轻人创业，更支持科研人员加入企业，但过度炒作，就像农药催化剂一样，让十分有希望的年轻人早熟但不可用，最后骗子加忽悠，是社会资源的极大浪费。最近见过几位过去很有前程的年轻科研人员，成了高管投资人谈ChatGPT，这类感觉更强烈了。
AI前哨：那您觉得学界和企业应当如何平衡这类情况？
王奔腾：我也没有答案，企业和科研一定要相互结合，但应当是一种更有序的结合。
ChatGPT不会生产数据 我坚决不信它会给人类造成要挟
AI前哨：人工智能每隔几周就会出现令世界震动的功能拓展，有人兴奋有人恐惧。有人担心 AI 可能对人类构成巨大危险，由于我们不知道一个比我们聪明很多的系统会做甚么。您会不会也有这类耽忧？
王奔腾：一点没有！我坚决不信它会给人类造成要挟，我担心的是人类对人类造成要挟。
AI前哨：但美国业界对AI技术发展表现出了耽忧。特斯拉CEO马斯克、Yoshua Bengio等数千名来自学术界专家和企业界呼吁最少暂停6个月比GPT⑷更强模型的研究，并强调人类需要组织对AI技术进行监管。您怎样看？
王奔腾：历史潮流，浩浩荡荡，顺之者昌，逆之者“忘”，技术发展是挡不住的。当年英国人还把机器烧了，还记得卢德运动？工业革命几百年，机器统治了人类？我们是机器的奴隶？你愿意，或说，你有资本回到机器前的社会？目前所谓的限制，会把好人的手脚捆住，而让坏人发展利用新技术。马斯克呼吁之音还在，自己迫不及待干起来，说明甚么？那完全是商业利益在背后驱动，有时他干的事情，与他说的话相差180度。
AI前哨：不管是ChatGPT或者国内大模型，都还有一些缺点，比如编造细节，这是坏事吗？有无办法控制？
王奔腾：ChatGPT我也试用过，有时候确切在正经的胡说。但你告知它毛病，它马上就改过来了，有时改的无原则，有些回答好的出乎我的意料，对国内大模型我试的不多，也没有这类感觉。
编造细节这不是甚么坏事，由于以后的大模型肯定不是这样去做。以后可能不会有大问题的大模型，大多数一定是小问题大模型，然后它一定要每道（问题）都能检查。其实，（大模型）它最后就是把知识工作者都变成快递小哥，小包裹大系统的后果，就这么简单。
AI前哨：很多人一边使用ChatGPT一边担心，担心AI会替换人类工作致使失业，包括我们这些做内容的人也会耽忧。
王奔腾：这就让所谓的“专家”们给忽悠了，真正从事文化创意类的人是最替换不了的。由于数据是生产出来的，它（ChatGPT）没有生产的手段，只能去网上搜集这些数据。
AI前哨：数据很关键，ChatGPT等一系列大模型能搜集数据，那我们怎样保证隐私安全？
王奔腾：这是一个大的问题，我们做区块链和智能合约研究就是为了解决这个问题。基于区块链的TRUE DAO，是让数据可信（T）、可靠（R）、可用（U），最后要产生效益Effective + Efficient（E）。DAO就是要散布自主开放：D是Distributed + Decentralized（散布式+全中心化），A是 Automatic + Autonomous（自主+自动），O是Organizational + Operational（组织+运维），最后基于智能合约变成数字化组织、数字化治理、数字化运维。
AI前哨：除ChatGPT，您有试用过其他一些大模型吗？
王奔腾：我们长时间研发各种业务大模型，全部实验室就是为此目的创建的。过去5年来，我们试过许多开源闭源大模型，最成心思的是艺术创作方面的。
AI前哨：国内的大模型和GPT相比，使用起来有甚么区别？
王奔腾：从有限的例子里，我觉得有差别。
AI前哨：差距多大？
王奔腾：我认为最少差它们一半的时间。
AI前哨：有观点说我们只差两个月，也有创业者说我们离GPT3.5还差两年，还有企业说10月就要赶超ChatGPT了。
王奔腾：现在海外和国内都没有一个公认标准，和一个相对对等可判定的环境去评测，区别说法也自然，大家心里都有一本账。不过我深信，不要多久，我们一定会把，也一定要把ChatGPT之类的大模型做成“白菜价”，问题或者：以后呢？
AI前哨：通用人工智能发展的三要素，数据、算力和模型在AI发展中分别扮演着甚么样的角色？算力会是中国大模型发展的一大阻碍吗？
王奔腾：算力不是阻碍，由于一定要得有，它是未来社会的标配。一般认为，我们的体制有数据和算力的优势。
AI前哨：大模型表现性能都较好，我们平常体验也感觉不错，却难以见到大模型大范围的产业化落地。在这方面，它主要面临的阻碍是哪些？
王奔腾：人的思惟、人的认识。固有的产业模式已培养了一大批既得利益者，他们不会打破原本的流程。然后，他们在宣扬上神话人工智能，把大家说的都愈来愈怕AI。
技术的进步，确切会对一批人的工作产生影响，但是技术发展是不可逆的，想让社会发展就一定要跨过这一步。我们的政府在这方面有优势，会做好这个过渡，而不是像今天舆论说的人工智能会致使大部人失业。总之，我们一定要计划好，怎么从工业时期的物理自动化，过渡到智业时期的知识自动化。
AI前哨：您认为在科研机构和企业之间进行AI技术转移和产业化利用时，需要考虑哪些问题？
王奔腾：让正确的人，以正确的方式，做正确的事。
AI前哨：有资金有资源的大厂在大模型研发方面有优势。那在人工智能领域，是不是出现PC时期巨头垄断的现象？
王奔腾：我觉得可能性很大。但不应借此过度“监管”，一个自己都还都弄不清楚的事物如何监管？毕竟目前还只是技术层面的事。
欢迎下载凤凰新闻客户端定阅凤凰网科技
你的每个在看，都是对自己品味的认可！
