AI威胁堪比核战？东西方态度不同

ChatGPT问世以来，人工智能（AI）成为关注焦点，但一批全球顶尖科学家和企业领袖，近日却要求正视人类文明可能毁灭的风险，其中包含ChatGPT母公司的执行长。他们的担忧为何？东、西方对待AI发展的态度又有何不同？

https://p.dw.com/p/4RzV6

（德国之声中文网）人工智能（AI）当红之际，来自全球顶尖的AI专家、研究人员、企业高管週二（5月30日）发布一项声明，要求各界审视AI可能造成人类文明灭绝的风险。

这份声明由总部设在美国旧金山的AI安全中心（The Center for AI Safety）发布，主旨阐明：“减轻人工智能灭绝（人类）的风险，应该与大流行病和核战争等其他社会风险（一样），共同成为全球性的优先事项。”

谁签署了这份声明？

这份声明的签署人相当多，其中不乏重要的AI专家和企业高层，例如2018年图灵奖共同得主、被称为“AI教父”的辛顿（Geoffrey Hinton）和本希奥（Yoshua Bengio）。

ChatGPT的研发公司OpenAI执行长阿尔特曼（Sam Altman），以及搜索引擎巨头谷歌（Google）旗下人工智能公司“深度思考”（DeepMind）的执行长哈萨比斯（Demis Hassasbis），也位列其后。

各类学者专家和商界人士，包含一大批在谷歌和微软等公司工作的专业人士，以及其他领域的知名人士，如爱沙尼亚前总统卡柳莱德（Kersti Kaljulaid）、美国神经科学家和主持人哈里斯（Sam Harris），以及加拿大流行歌手和词曲作者葛莱姆丝（Grimes）等人。

核科学、流行病和气候变化专家，如作家麦克基本（Bill McKibben）也签署了声明。麦克基本曾以1989年的著作《自然的终结》敲响全球变暖的警钟，并在另一本书中对人工智能相关技术提出了警告。

这项声明的序言提到，各界“越来越多地讨论AI带来的广泛、重要和紧迫的风险”，但这仍“很难表达对AI一些最严重风险的担忧”，声明称应就克服这一风险障碍展开讨论，并“为更多的专家和公众人物创造常识，让他们也认真对待一些先进AI最严重的风险”。

该封信是对OpenAI发布新人工智能模型GPT-4的回应，但OpenAI、其合作伙伴微软和竞争对手谷歌的领导人，当时都没有签署这份文件。

AI安全中心主任德里克斯（Dan Hendrycks）解释：“我们正试图在这些风险发生之前解决它们，而不是在事后才解决灾难”。

美联社报道，随著新一代高性能AI聊天机器人（如ChatGPT）的兴起，人们越来越担心AI会超越人类并失控，并促使世界各国为开发中的技术制定法规。欧盟已率先拟定了AI法案，预计将于今年内获得批准。

今年4月，中国国家互联网信息办公室也起草了《生成式人工智能服务管理办法》草案，向社会大众公开征求反馈。

美国《外交事务》杂志本週刊载文章指，根据市场调查机构益普索（Ipsos）于2022年发布的一项调查，只有35%的美国人认为AI的好处大于风险，使美国成为世界上对该技术前景最悲观的国家之一。

相比之下，中国是世界上对AI最乐观的国家，近五分之四的中国人相信AI的好处胜过风险。

新美国安全中心（CNAS）的副研究员德雷塞尔（Bill Drexel）和研究助理凯莉（Hannah Kelley）认为，在美国，灾难往往会促使公众意识提高、加强安全措施，因为它们的后果会扩及整个媒体和社会；但在中国，灾难事故很少能通过媒体引起反响，因为政府会为了维稳而封锁资讯。

2名专家指出，中国形成了一种“灾难健忘症文化”，公众很难要求改变，也无法迫使政府从代价高昂的事故中吸取教训。很少有人对错误负责，意味著企业主往往对安全问题视而不见，中国可怕的工业事故历史就是明证。

此外，若美国认识到AI构成的严重威胁，业界和政府可以加倍限制容易武器化的AI商业研究转移到中国，包括利用合资企业和中国投资的技术转让策略。

不过，益普索民调发布的2022年，ChatGPT尚未在全球刮起炫风，美中两国目前对于AI的发展态度或有所变化。

相较于部分西方专家和企业高层对AI态度的谨慎，亚洲整体对待AI发展的态度似乎较为正面。另一个案例展现在美国AI芯片设计商英伟达（Nvidia，又译辉达）的执行长黄仁勋（Jensen Huang），正在台湾受到明星式的欢迎和接待。

彭博社报道，这位60岁的企业家近期来台参加台北国际电脑展（Computex），週末在台北夜市受到群众追捧，在台北国际电脑展也一直被粉丝和媒体包围。

在台北国际电脑展一场圆桌会议上，黄仁勋谈到AI监管，以及如何在中国等地使用该技术。黄仁勋认为，AI将超越科技业的界限，渗透到从农业、工厂、制药和气候变化的方方面面。

黄仁勋说，“人工智能让每件事看起来都不一样”，并谈到加速运算及生成式AI是现今电脑产业的两大趋势。他直言：“AI将是未来游戏非常重要的一部分。”

但在讨论中国时，他似乎显得态度慎重。他认为，北京将支持AI的发展，并利用这个机会培养本土企业家。

（综合报道）