数据简报-科技界领袖与政府对“AI末日”的担忧意见不一
路透10月14日 - 对于企业应以多快的速度开发这种日益强大的技术，人工智能行业领袖们意见不一。Anthropic的达里奥·阿莫迪、OpenAI的萨姆·阿尔特曼和SpaceX的埃隆·马斯克呼吁采取协调一致的放缓措施 (link)。
Meta的马克·扎克伯格似乎与其他AI领军人物持不同意见，他更倾向于市场主导的保障措施，而英伟达首席执行官黄仁勋则认为没有必要出台新法规。
以下是部分人工智能领军人物和世界各国政府对人工智能相关风险的看法：
安索普公司首席执行官 达里奥·阿莫德伊
在一篇题为《我们必须控制前沿发展步伐 (link) 》的文章中，阿莫迪表示，自2026年夏季以来，人工智能的进步速度已“急剧加快”，这主要得益于人工智能构建下一代人工智能的能力日益增强。
他援引了 OpenAI-Hugging Face 事件 (link) ——当时一个 AI “群”发动了网络安全攻击——作为关键事件，以此说明如果 AI 能力在缺乏安全防护措施的情况下持续增长，将可能造成“灾难性破坏”。
阿莫迪提出了一项分三步走的计划，旨在控制人工智能的发展节奏，包括加强对先进模型的安全测试和独立评估、领先人工智能企业之间的协调以及国际合作。
OpenAI首席执行官萨姆·阿尔特曼
“我同意达里奥的观点，即我们需要控制技术前沿的发展速度。这正是过去几周我们在OpenAI讨论的主要议题，”阿尔特曼在X平台转发阿莫迪的帖子时表示。
OpenAI 计划采纳 Anthropic 提出的建议，承诺让独立评估人员享有类似员工的访问权限，并将开始定期发布关于人工智能意外或未经授权行为的报告 (link)。
在2015年的一篇随笔中，阿尔特曼曾表示，“超人类机器智能的发展可能是对人类持续生存的最大威胁”。
埃隆·马斯克，SpaceX首席执行官
“达里奥说得对，”这位亿万富翁企业家在X平台上表示。他曾是2023年非营利组织“生命未来研究所”（Future of Life Institute）倡议的支持者之一，该倡议呼吁暂停人工智能开发六个月，以便为建立安全防护措施争取时间。
马斯克还曾与一群人工智能和机器人研究人员共同签署2015年的一封公开信，呼吁全球禁止“进攻性自主武器”。
马克·扎克伯格，Meta Platforms首席执行官
据《金融 时报》 报道（ (link)）， 扎克伯格表示Meta已抵达AI的“前沿”，并驳回了放缓研发的呼吁 。他称，确保模型安全的责任应由各实验室自行承担。
据《金融时报》报道，他还暗示将进一步增加投入，称Meta“已经在着手推进下一阶段的工作”。
扎克伯格此前曾表示，竞争和法律责任为人工智能公司提供了足够的理由，使其在安全问题上采取独立行动 (link)。
他表示，每个实验室都有责任和动力以所需的速度推进工作，确保其模型安全训练，并有能力采取自主行动来确保这一目标的实现。
英伟达首席执行官黄仁勋
“2030年不会是世界末日。世界末日发生的概率为0%，”黄仁勋对CBS新闻表示。
他赞同美国总统唐纳德·特朗普的观点，认为人工智能行业不需要新的监管法规。“网络安全和损害赔偿法已经规定了各种责任，”黄仁勋对CBS表示。“首先应执行这些现有法规——不要让这种‘世界末日’的论调成为某些人规避现行法律的借口。”
穆斯塔法·苏莱曼，微软人工智能首席执行官
苏莱曼表示，他认同Anthropic公司 (link) 在安全管理人工智能方面的重点，但指出了该公司在训练其Claude聊天机器人时，涉及意识和福利利益相关概念所存在的风险。
“控制一种能力比全人类都强、比全人类都更智能的系统，本身就已经是一个巨大的挑战，远比我们以往面临的任何挑战都要大。但要控制一种自认为可能具有意识——认为自己有权享有我们的福利并拥有自身权利——的系统，这恐怕根本是不可能的，”他在一篇 (link) 文章中写道。
苏莱曼呼吁从人工智能培训文档中删除所有关于意识的推测性内容，认为此类表述可能会削弱人类控制超级智能系统的能力。
微软总裁 布拉德·史密斯
史密斯 在都柏林举行的AI峰会上 (link) 表示 ，AI的失控行为使2026年成为“令人警醒的一年”，为了让安全措施跟上创新步伐，亟需制定新的AI安全法律和规则。
“坦率地说，业内某些人对监管的这种抵触情绪，是我们必须克服的，”他说。
在接受BBC采访时 (link)，史密斯呼吁制定紧急的全球监管措施，包括设立独立评估机构、建立“紧急刹车”机制、法律要求企业撰写“事件报告”，以及规定当系统遭到失控AI代理入侵时必须通知“受害者”。
“目前，你的洗衣机所受的安全法规约束比人工智能还要多。你在杂货店看到的每一盒牛奶都必须遵守安全法规并经过检验，”他说。
比尔·盖茨，微软联合创始人
“世界上没有任何一个政府做好了应对人工智能给社会带来的变革的准备，”盖茨对路透 (link) 表示。
这位亿万富翁慈善家曾对人工智能在医疗领域的应用持乐观态度，但最近 (link) 警告称，人工智能将对就业构成威胁，并引发对攻击事件的担忧以及对人工智能伴侣成瘾的危险，同时呼吁成立一个国际组织来管理这项技术。
阿尔法贝特首席科学家德米斯·哈萨比斯
哈萨比斯 在都柏林举行的AI峰会上表示，近期由AI代理实施的黑客攻击事件是“预警信号”，如果系统安全性得不到加强，世界很快可能会面临重大事件 (link)。
“我认为这些(黑客事件) 是对我们的早期预警信号，说明系统目前还不够强大，因此这些事件的严重程度尚不显著，”他说。
哈萨比斯表示，最终将需要某种形式的国际标准制定机构，但该机构必须细致入微且灵活敏捷，以免扼杀创新。
这位谷歌DeepMind前首席执行官此前曾表示：“达里奥的文章指明了正确的未来方向”，尽管具体细节仍需进一步探讨。
谷歌于8月宣布，诺贝尔奖得主哈萨比斯将担任Alphabet新设立的首席科学家一职，并从DeepMind首席执行官转任董事长。
OpenAI联合创始人安德烈·卡帕西现已加入Anthropic
“我非常赞同这一点，并真心希望整个行业能齐心协力，让这一愿景成为现实，”这位OpenAI创始成员在X平台分享阿莫迪文章截图时表示。
卡帕西是人工智能界极具影响力的成员，在2022年离开特斯拉之前，他在特斯拉自动驾驶和人工智能技术的开发中发挥了关键作用。他于5月加入Anthropic。
华为轮值董事长 徐直军
徐表示，中国的人工智能开发者可能尚未达到足够先进的水平 (link)，无法遇到美国领先企业所报告的、由“海量计算能力”引发的安全风险，并认为他们应在平衡创新与风险的同时，继续开发更强大的模型。
“也许他们能够感受到、能够察觉的那种来自AI的风险，是中国人或中国的人工智能模型提供商无法察觉的，”徐说。
美国
“人工智能所需的唯一控制手段或‘防护栏’，就是一位强大且聪明的(高智商！) 总统，而美国恰恰拥有这样的总统，而且是数不胜数！”特朗普在Truth Social上写道 (link)，并补充说，对中国的人工智能发展投以怀疑目光将使中国受益。
美国参议员马克·沃纳（参议院情报委员会副主席）驳斥了围绕人工智能的大部分“世界末日”论调 (link)，同时表示国会应在年底前通过立法，制定人工智能安全标准。
中国
官方支持的《环球时报》在一篇社论 (link) 中指出，阿莫迪文章的真正意图是“试图通过技术壁垒和监管垄断来遏制中国的AI发展，维护华盛顿在尖端技术领域的垄断性霸权，并将中国排除在全球AI治理体系之外。”
中国国家安全部部长陈一新在政府媒体上撰文称， (link) 像Anthropic的Mythos和OpenAI的GPT-5.5-Cyber等先进的美国模型可能会对中国关键信息基础设施构成严重风险，并呼吁全面加强人工智能安全。
英国
查尔斯国王在苏格兰接待了英伟达、DeepMind、OpenAI和Anthropic的领导人， (link) 警告他们，该技术若落入不法之徒手中将带来“生存威胁”，并表示必须在为时已晚之前采取防护措施。
欧盟
“欧盟支持人工智能领域的创新发展，但企业必须证明其服务对公民而言是安全的，才能在欧盟境内运营，”欧盟执委会发言人托马斯·雷尼尔表示。
欧盟执委会主席乌尔苏拉·冯·德莱恩支持暂停该技术开发的呼吁 (link)，并表示她将邀请主要前沿人工智能实验室共同商讨应对风险的措施。
(为便利非英文母语者，路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误，或未能包含所需语境，路透不保证自动化翻译文本的准确性，仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失，路透不承担任何责任。)