范荣靖：诺贝尔的担忧

诺贝尔（Alfred Bernhard Nobel）是19世纪著名的瑞典科学家。他经历多次失败后，找出了硝化甘油的最佳拍档——硅藻土，可以吸收比本身多3倍的硝化甘油，成为像黏土一样软硬适中的块状物体，不会轻易自爆。他带着这个新发明去注册专利，命名为“Dynamite”，也就是硅藻土炸药。

他的初心很单纯，就是想要帮助工人们更有效率、更加安全地完成各项高风险工作，例如爆破岩石或开挖山洞等。后来，硅藻土炸药大受欢迎，他也因此累积了大笔财富。

然而，随着收入大增，他担心的事情发生了。这项产品引起各国军方重视，被运用在战场上，造成死伤无数。这让信奉和平主义、反对战争的他十分沉痛，于是立遗嘱设基金，奖励为人类做出贡献的人。根据他的遗嘱，诺贝尔奖从1901年开始创立。

近期，ChatGPT的问世，也引发了两方的声音。

一方面，有人因为AI的进化而欢呼雀跃。英伟达（NVIDIA）首席执行官黄仁勋在今年2月的演讲中称ChatGPT是人工智能的“iPhone时刻”，是软件业有史以来最伟大的一刻。

受惠于ChatGPT热潮，GPU(图形处理器)大厂英伟达显然成为大赢家，至少从股价涨幅来看的确如此。这家公司今年以来股价已大涨近90%，市值6700多亿美元，在全球排名第七。在全球近900家半导体上市企业中，其市值稳居首位，比第二名的台积电美股市值高出2000多亿美元，是英特尔市值的近5倍。

但另一方面，关于ChatGPT也开始出现反省的声音。3月22日，生命未来研究所（Future of Life Institute）发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。

信中写道，“只有当我们确信强大的人工智能系统的效果是积极的、其风险是可控的，才应该开发。”此外，他们还在信中呼吁开发人员与政策制定者就治理和监管进行合作。

生命未来研究所是一家成立于2014年的非盈利机构，由麻省理工物理系终身教授迈克斯·泰格马克（Max Tegmark）和其他4位成员共同创立，组织的研究宗旨是探索人工智能的发展对人类的益处，并降低核武器以及生物技术给人类带来的风险。

“人工智能是有史以来最强大的东西，关乎整个人类的生存，”2018年接受《周末画报》采访时，泰格马克一再强调，“我们的目标很简单，就是保证生命在未来还会继续存在下去，并尽可能地兴旺发达。”

泰格马克对人工智能抱持谨慎的态度。他常常拿火和汽车举例，火可以取暖，也可以烧毁东西，在试错之后，人们发明了灭火器。比如汽车，在发生过无数次车祸之后，人们发明了交通规则、安全气囊。“但不一样的是，人工智能实在太强大了，人类很可能根本没有机会试错，”他语重心长地说，“随着技术变得越来越强大，我们应当越来越少以试错法来保障工程的安全，而是应该主动投资人工智能的安全性研究，保证一次事故也不会发生。”

生命未来研究所设有科学顾问委员会，马斯克位列其中。马斯克此前曾多次表达对人工智能的担忧，指出AI对人类最大的危害在于，它是一种超越人类智能的深度智能，一旦AI产生自主意识后，很可能超越人类智慧，产生与人类目标不一致的目标，后果将不堪设想。例如，AI可以自行在网络制造假新闻、假声明，就算是登录电邮帐户来窃取数据，对它来说也是轻而易举。

截至目前，马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque、图灵奖得主Yoshua Bengio等上千名科技大佬和AI专家已经签署公开信。

3月31日，意大利数据保护局宣布，从即日起禁止使用ChatGPT，限制ChatGPT的开发公司OpenAI处理意大利用户信息，并开始立案调查。该决定使意大利成为首个对ChatGPT采取限制措施的西方国家。

意大利数据保护局表示，3月20日，ChatGPT平台出现了用户对话数据和付款服务支付信息丢失的情况。他们认为该平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。该机构还表示，尽管OpenAI的条款声称ChatGPT的服务面向13岁以上的用户，但平台缺乏能够验证用户年龄的机制。

OpenAI回应愿与意大利数据保护局密切合作，已在意大利将ChatGPT下线。

继意大利后，美国、英国、德国、爱尔兰、西班牙、加拿大等国也相继出手。美国总统拜登及其科技顾问委员会在4月4日举行的会议上讨论了人工智能的风险和机遇。白宫官员表示，他们将呼吁国会通过两党隐私法，以保护孩子，并限制科技公司收集所有人的个人数据。

相关企业慎重以对，采取因应措施。OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face和Anthropic等公司的代表出席4月12日举行的会议。这次会议由顶级投资公司SV Angel召集，与会代表讨论如何以最负责任的态度继续开发人工智能，制定关于如何使用人工智能技术的标准。

本期封面人物，经济学家、《利润悖论》的作者简·埃克豪特(Jan Eeckhout)对此也有深刻看法。

对于人工智能对人类劳动力的威胁，埃克豪特认为ChatGPT并不危险。“人工智能技术可以让我们的工作变得更容易。ChatGPT是一个复杂的搜索引擎，如同在谷歌或百度中输入信息，就能得到答案。ChatGPT提供的信息被很好地整合，被包装得非常好，在某种程度上是有经济价值的，虽然它所提供的答案中还会有很多错误。”他告诉《周末画报》，“人工智能将是非常积极的，这些技术能节省劳动力，人们会以更少的工作时间赚更多的钱，有更多的时间去看足球比赛或去做任何想做的事情。我不太担心人工智能会降低劳动的价值或取代劳动力。”

“真正令人担心的是，人工智能可能被企业用来创造垄断地位。一旦利用数据和人工智能的公司创造垄断地位，它们就会向工人支付更少的工资，垄断公司也会获得更高的利润。”埃克豪特补充道。

对于科技巨头赢家通吃的局面，各国开启反垄断措施来遏制这种市场支配力。埃克豪特表示，反垄断的真正目的就是要提倡竞争。“只有朝着鼓励竞争的方向努力改革，遏制企业巨头的垄断势力，才能让市场健康发展，保证企业收益能够传递到员工身上。”他说。

范荣靖