// AI 新闻 · 2026-11-10 · WIRED
专家探讨AI安全真实风险与治理挑战
WIRED采访了10位跨领域专家，梳理当前AI安全的核心关切。多位专家指出，AI在核能系统中的应用可能引发严重事故，因现有系统对错误敏感且缺乏可靠性，存在重大安全隐患。同时，专家普遍质疑‘人类灭绝’等极端风险的科学依据，认为其缺乏可验证数据和量化评估。
原文发布 2026-11-10 19:00（北京时间）来源 WIRED自动整理 · 已核对原文
01摘要
专家强调，AI安全应基于可验证的风险评估标准，借鉴核能领域建立的民主化安全阈值判断机制。当前部分AI实验室通过重新定义术语，弱化传统安全框架，导致公众对AI风险的认知失焦。多数人认为技术发展不可暂停，但需加强立法与公众监督，以应对潜在的网络与生物攻击风险及系统性权力失衡。
由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。
02要点
- 多位专家警告AI在核能系统中的应用可能引发灾难性事故，因系统易出错且可靠性不足。
- ‘人类灭绝’等极端风险缺乏可验证数据，被专家视为无科学依据的假设。
- AI安全应遵循可量化、可验证的风险评估标准，借鉴核能领域建立的安全阈值机制。
- 专家认为当前AI实验室对安全定义的重新设定缺乏科学基础，存在术语滥用问题。
03原文出处
The AI Safety Debate Has Lost the Plot. We Asked 10 Experts What the Real Nightmares Are
WIRED · 发布于 2026-11-10 19:00（北京时间） · 上方为原标题
05相关新闻
出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 2026-11-10 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日