戴锦华｜ChatGPT会发展成我们的“奥本海默时刻”吗？
克里斯托弗·诺兰执导的电影《奥本海默》预计8月30日上映。作为一部传记片，《奥本海默》以一场针对奥本海默的秘密听证会为轴，穿插着回想了奥本海默生命中的一些重要的经历。
导演诺兰在一次映后活动中谈及自己与人工智能专家的交谈，他说：“人工智能研究人员将目前的时刻称为‘奥本海默’时刻。”他指出，奥本海默曾呼吁国际核控制，并因此遭受了来自美国及其他国家的压力。一样，人工智能领域也存在着这样的问题。
本文为节选，整理自@戴锦华讲电影
从元宇宙到ChatGPT，
冲击早已产生
毫无疑问，人工智能会影响到劳动力结构。冲击早已产生，而且不单单由于ChatGPT而产生。所以我说我不能不关注这个问题，是由于它会涌到我眼前来，它会不断地成为我身旁的、平常的、闲暇时刻的，也是学术领域的，也是思想领域的，也是同伴之间的，这样的一个无处不在的名词。
虽然我也调侃，由于当ChatGPT成了热议话题，成了覆盖性的、压倒性的社会的兴趣点的时候，我嘲笑的是，此前占据了一样位置的那个词就怦然消失、荡然无存，那个词叫元宇宙。几个月之前无处不在的是元宇宙，所有讨论都围绕着元宇宙，当时我就元宇宙提出了一个问题，今天我依然可以对ChatGPT提出。
我最早获知元宇宙是作为概念股，是作为风险投资的风口。当时我的问题是：当人文学者在讨论元宇宙的时候，我们在讨论甚么？
多数朋友都被我问住了，但是也有朋友给了我非常直接的，而且有说服力的回答，他说：“人文学者关注元宇宙是由于元宇宙或许是未来，或已是当下的一种可能的空间，在这个空间当中我们可以去实践一些在现实实践当中没有可能的、另类的、社会的组织方式，社会的结构方式，社会群体的相互连接的可能。”
也许有一些批评性的学者，一些不甘于接受这个现实别无选择的人们，曾把他们的希望放在了元宇宙。今天我用一样的问题去询问ChatGPT的热度，但是我要加上一个追问，我说，ChatGPT如此轻易地就消灭了元宇宙这个话题，就取消了元宇宙这个话题的热度。这会不会同时意味着，人们曾寄希望于元宇宙中的那种另类空间，也随着元宇宙的消失而消失了。或者人们把梦想和实践另类可能性的热忱转移到了ChatGPT当中呢。如果它真的会被转移到ChatGPT的利用当中，那末，另类的可能性，另类价值的实现究竟在哪里。我们的构想是甚么，我们的行动或我们的动作是甚么。这是我个人的追问。
更大的问题是，作为一个新的可能性，一个新技术，小而言之ChatGPT是未来的一个非常便利的，利用型极强的软件，从大处说它是一次底线的全面踏破，就是我们开始使用通用型人工智能。
此前我以为对通用型人工智能的使用是底线，是制止，由于那是人类会不会放弃其主控权的时刻。
但是当我们热烈地讨论ChatGPT作为一个利用软件，作为一个陪伴者，作为一个可能的聊天软件，我们会看到极打量尽的ChatGPT的使用指南，或叫调教指南。
比如，从一开始你就要告知它说，你要作为一个人物出现在我旁边，而当我希望你作为一个人物出现在我身旁的时候，你要用“你好”开始等等。当这些具体的指令，具体的指南，都开始很容易的取得，很容易的找到，很容易的利用的时候，我们有无意想到事实上我们放弃了对通用人工智能的疑虑，对通用人工智能的警惕，或许固然包括了恐惧。如果我们克服了这个恐惧，如果我们认定这个恐惧是非理性的，那末论证在哪里，讨论在哪里，好像完全没有经过这个进程，这道防线就突然之间消失了。
以致于ChatGPT的“金主爸爸”马斯克以他的未来生命研究所的名义发出了一份公然信，公然信大声疾呼通用型人工智能给人类带来的风险性。太过迟地呼吁停止对ChatGPT4以上的人工智能的利用和推动和使用。大声疾呼说，我们要不要让比我们更快、更强、更聪明、更智慧的人工智能来代替人类的主控权。其中包括更具体的追问，我们要不要让机器所制造的宣扬和谎言占据和淹没我们的信息渠道，我们要不要让它们替换我们本来已完善地实行的工作。
非常可笑的是，在短时间内有1125个人签署了这份公然信，我自己非常惊讶地发现其中科学家的比例相当低，反而是大科技公司的管理者、股东们占非常高的比例。
因而我又产生了一系列追问，为何是他们，在此前他们一直是助推者，一直是底线的踏破者，一直是科技万能、科技进步的宏扬者和信奉者，为何这一次科学狂人、新晋的世界首富马斯克出来高呼摁下暂停键，而他要求的暂停时间是六个月。我大概能想象在六个月的时间里一个人工智能的成长速度，但是我很难想象在六个月以内人类社会能做甚么，制作出相关的法律？相关的法规？相当的共鸣？我不知道，或我表示怀疑。
而更有趣的是，马斯克这次呼吁各国政府出面来参与，来控制，来制止。这也就是自动化时期政府的座右铭，“不要保护工作，而要保护人。”对我来讲，保护工作和保护人是一件事，而这大概永久不会是资本来完成。资本既不保护工作，也不保护人，资本只以谋求利益为它的唯一驱动。
我曾认为金融虚拟经济、金融资本的时期，一个重要的变化就是资本乃至不需要人格化，不需要经过人格化的方式，它就实行了在我们现实生活当中的绝对主动权。我也常常开玩笑说，现在的资本乃至是一个吞噬资本家的资本。
引伸到马斯克们的突然叫停，在多大程度上是他们所制造出来的这类怪物已要挟到了他们这个层面的人物本身，要挟到他们的利益，或要挟到他们的权利，或者在多大程度上这个问题的严重性是那些置身于中心监视塔当中的人材才能够体认到的。但是不管如何，这封公然信本身表明了一种严重程度。
人工智能对未来人类劳动力结构和整体状态的改变可能性，不需要我来估计了，由于研究ChatGPT专家们列出了一张表格，这张表格的中译版用词是，有哪几种工作暴露在ChatGPT之下？我的理解就是有哪几种工作是ChatGPT可以取代的，能够取代的，或轻松取代的。
对可能关注到ChatGPT，可能讨论ChatGPT的人来讲触目惊心的是，这张表格列出的工种、职业范畴都是此前的稳定的、精英化的、白领的专家位置，比如说律师，咨询律师，金融分析师，策划人，记者。
另外，ChatGPT还直接列出了一个字，是作家，我表示怀疑。而ChatGPT和人类的研究小组得出的比较共同的结论是，这轮冲击将直接造成三亿人的失业。挺可怕的。
当我们思考ChatGPT的时候，不能光把它当作一个利用软件，当作一个新的技术前沿，当作一种新的可能性，当作一种新的人工智能类型来思考。而是我以为它实际上是一个延续了很久的，一个进程的阶段，或说一次代表性的更加直接的冲击。我只能再重复我之前的观点，由于我没有改变这个观点。
当AlphaGo克服韩国围棋冠军李世石，当AlphaZero横扫了全球围棋冠军以后，当时人们喝彩人工智能元年到来。那个时候我接受和认同了一个科学工作者的朴素表达，他说：“甚么人工智能？不要说得这么玄，其实不过就是自动化嘛。”他的非常朴素地表述帮助我掌控了这个问题，我想所谓人工智能的利用对我们最直接的冲击就是，我们开始经历现代文明史上史无前例的一次大范围的自动化冲击。
而当我自己在南方看到了全自动化的无人的饮料生产车间，看到了空无一人的只有机械臂的生产线，看到了那个黑暗当中，井然有序的一个无人的操作和生产的状态的时候。我同时听到了管理者的介绍，他说此前这里有流水线的工人，他批评流水线的生产方式对工人的不人性，他强调这次自动化对工人的解放。
我当时忍住了一个问题，由于这个问题会显得不礼貌，就是“请问你把他们解放到哪里去了”。由于它直接联系着一个工作机会的问题，联系着一个就业的问题，它联系着中国到现在为止我们现代化成绩很大程度上是人口红利。我们是一个劳动力密集型的国家，这一轮的大范围的自动化冲击对我们来讲意味着甚么。
我的很多朋友在看完纪录片《美国工厂》以后，会讨论中国资本，美国资本，中国劳工，美国劳工，劳工保护，文化冲突等等。但是对我来讲，真正震动我的是影片快要结束的时候，摄影机仿佛漫不经心肠从工人身上摇开去，摇向一个巨大的机械臂，那个机械臂开始稳定地做在影片此前显现的工人做起来很危险、可能会造成工伤的那样的一道工序。
那个时候我突然被惊吓了一下，如果是在这个意义上自动化，中国资本或美国资本的全球活动就会更强有力地运行，它不会再面临着所谓劳动力、劳动制度、劳资关系的障碍。
未经抵抗的接受，
才是最大问题
而我可以理解ChatGPT成为热门，由于它直接地冲击到我们这个阶层了，冲击到我们这些人了。这其实也不是一个新鲜的话题，在更早，在互联网出现以后我就试图跟大家分享一个思考，就是互联网时期，互联网所酿成的硬件环境对我们知识获得的那个根本性的改变，理论上说我们都可以自主学习，理论上说知识不需要像过去一样只经过记忆，经过重复和记忆，而被我们携带。
当知识可以转移到内存当中去的时候，当我们可以经过计算机，经过外置装备来扩充我们大脑的时候，人类的工作是甚么，思想工作是甚么，学习意味着甚么，我们应当思考。也是从那时候开始，我重复了二十年的一句老话，叫做这一轮新技术革命的冲击是文明史上史无前例的，但是另外一个史无前例的是，只有这一轮技术革命在人类范围以内，在世界范围以内，完全未经抵抗，始终不曾讨论。这才是一个大的问题。没有抵抗，没有讨论，意味着我们只顾着享有它提供给我们新的便利，它带给我们的新体感。
像每轮新技术革命一样，我们赢得便利的同时，我们必定要付出代价，我们在取得的同时必定在失去，那末我们到底付出了甚么，我们到底失去了甚么，是不是是我们乐意失去的，是不是是我们的自觉选择。而今天它面临的是我们的职业训练，我们已赢得的专业技能，我们未来的工作机会。
也许一些技术进步论者、社会进步论者很乐观地说，我们可以把工作再一次地转移到机器上，再一次由电脑来替换我们工作，我们不再需要进行那些重复的、繁琐的、没有创意的工作的时候，我们就解放了，我们将可以自由地从事那些创造性的劳动和工作。且慢，这类乐观建立在怎样的制度之上？当我们没有工作的时候，我们吃甚么，我们穿甚么，我们如何取得一个基本的物资保障？
事实上AlphaGo克服人类围棋冠军作为一个新闻出现的时候，北欧国家的社会议题就不是最低收入保障，而是马上变成了社会最低保障。就是你有无工作，你能不能赢得一份生存下去的收入，能够有这样一个保障。
ChatGPT所不能取代的
最后，关于创造性的工作，比如电影或其他艺术是不是遭到ChatGPT的影响。我认为，电影和所有东西一样，它一定遭到ChatGPT的影响，而且它会非常直接地、最快地遭到ChatGPT的影响。
很早之前我就对人工智能做出了一个基本的判断，我觉得人工智能可能取代某一类文学的写作，比如说以变奏，以类型的稳定，以类型元素的稳定，以细部微观的变奏，来作为它的生产方式和快感来源的通俗的文类，极可能被ChatGPT取代。
由于ChatGPT的浏览量更大，它对全部模式的曾到达的地方，它到得最远。它也可能根据其他参数，最便捷地构成对变奏点的选择。但是对我心目中的文学，对人、生命，或用塔可夫斯基的说法，“永久的秘密就是生、死和爱情”。这样的原创性的思考，本体论的追问，我不认为ChatGPT能够取代，我乃至不认为人工智能能够取代。
我始终相信控制论的开创人N.维纳那本著作的名字，《人有人的用途》。
所以我心目中的电影，我心目中的电影艺术大师，他们的作品我不认为将是ChatGPT能够生产的。但是真的对不起，很多类型片多是ChatGPT能够生产得更好的，能够做得更迷人的。我们常常看一部商业片的时候就会叹口气说，“老梗啊，烂啊，怎样又来了”，我觉得ChatGPT大概能够最好地避免这类现象的出现。
所以，我觉得冲击是一定会有的，而目前在这个层次上的ChatGPT，听说有九岁的智力，它的结论是，批评性的思惟和原创性的思考是几近没有暴露在ChatGPT之下的东西。谢谢它，我一直相信的正是在这里，就是人类独有的原创，和人类在漫长的文明史当中习得的这类批评性的思考，在批评性思考当中所产生的问题，产生的追问，产生的质询，产生的对新的创造、新的路径的开辟，我不认为是今天的人所制造出来的新科学怪人，新的人类造物所可能仿效的，或所可能替换的。
▽
中国电影50部
活字文化出品 bilibili播出
