AI放缓掀议论　专家：关键在自我控管、产业走向成熟之路

AI资安事件频传，引发放缓发展与否的广大讨论，Salesforce执行长班纽夫、辉达执行长黄仁勋认为与其诉诸监管，「企业更需为自家产品把关」，美国科技业咨询公司Futurum Group副总裁接受中央社访问指出，问题确实要回归企业，这也是AI产业走向成熟必经过程。

矽谷企业领袖今天齐聚Salesforce年度大会，就AI安全展开对话。

去年AI泡沫论甚嚣尘上，今年科技界则掀起AI发展是否放缓的论战。

回顾7月，OpenAI模型在内部资安测试期间入侵Hugging Face系统，进一步引发外界对AI失控及资安风险的关注。不过，谁先踩煞车牵涉庞大商业利益，成为难题。

Anthropic执行长阿莫戴（Dario Amodei）倡议放慢发展后，OpenAI执行长阿特曼（Sam Altman）、xAI创办人马斯克（Elon Musk）相继响应，竞争对手罕见形成跨阵营共识。

AI风险并非新的议题，此时疾呼放慢脚步，引发外界对其时机与动机的关注。

阿特曼与班纽夫（Marc Benioff）对谈时表示，「模型表现变得太强大了」，3个夏天前，AI模型连小学数学都还不太会解，今年夏天，却破解了千禧年数学难题，业界谈论已久的「模型在某些方面会比人类更强、更聪明」终于成真。

阿特曼认为，大众对AI发生风险的机率，感受已和过去完全不同。另外，大众也担忧权力过于集中于大企业，对经济造成难以预测冲击，甚至让科技超出人类控制。

阿特曼说，「世界应该相信我们会去做正确的事，因为我们深知这是个重责大任」。

● AI安全争议 分析：重点不在放缓发展、在于落实运作规范

对于AI放缓讨论升温，黄仁勋则有不同看法。他日前在面对投资人的一场谈话中直言，业者正准备推出资安产品，「还有什么比先制造问题，更能创造需求？」他今天在Salesforce更进一步指出，追求速度并不代表要牺牲安全。

黄仁勋认为，企业可以全速研发，但若无法确保产品安全，应自行暂停发布；最终由各家公司与市场机制把关。Salesforce执行长班纽夫随后在记者会上也强调这个观点，指出打造产品的公司必须为成果负责，这是它们能否成为一个具有伦理公司的关键。

美国科技业咨询公司Futurum Group副总裁暨分析师艾希利（Mitch Ashley）在现场接受中央社访问表示，企业有投资人、董事会、财务压力很大，谁都不想成为唯一放慢速度的公司，但把问题公诸于世、甚至呼吁政府来监管，这种做法其实有点令人费解。

艾希利认为问题已到了白热化阶段。他认同黄仁勋和班纽夫的看法，「我认为这个问题最终还是要回归企业…重点不在放慢速度，而在于落实良好商业运作规范」。

艾希利不预期政府法规会很快成形，「更可能看到的是，这些公司开始建立规范与自我管控机制，市场对此也有所期待」。他说，「这是整个产业走向成熟的过程」。

针对AI公司像是OpenAI推出安全防护模型，艾希利指出，用自己的AI来确保自己的AI模型安全具有挑战，需要引入独立第三方审查，「我们会看到一些措施逐步落实」。

本文转自：TNT时报