专题：A股风格切换 哪些热点有望继续上涨？
一名 Anthropic 公司研究员出于担忧，选择离开人工智能行业。他认为该实验室及其竞争对手正竞相研发人类无法掌控的 AI 系统，这也表明头部 AI 企业内部的安全顾虑正不断加剧。
专门通过海量数据训练新型 AI 模型的研究员雅各布・考克森于周二表示，他将离开这家公司，原因是不想参与全行业争相研发可自我迭代 AI 系统的竞赛。他担心这类系统可能彻底失控并毁灭人类。
这位 27 岁的英国籍研究员曾主修数学。他称，业内许多同行如今会用 “决战时刻” 和 “终局” 这类词汇，来描述走向可自我改进模型的发展趋势。
考克森称：“按照当前态势，很多极端推演场景都有可能成真，到明年年底情况或许就会失控。” 他还补充道，各家企业以及中国新兴 AI 企业之间相互竞争时，安全层面的取舍权衡不可避免。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：王永生
中鑫优配提示：文章来自网络，不代表本站观点。
