AI自我演进恐成现实？Anthropic招股书“埋暗雷”：已接近RSI模型！

(资料图片)

财联社11月3日讯（编辑 黄君芝）虽然市场的注意力大多集中在Anthropic最新修订后的S-1A文件中披露的财务数据上（收入飙升，但支出也同样飙升），但这家人工智能实验室在细则中又抛出了一颗小炸弹——公司已经非常接近做出具备RSI能力的模型。

在人工智能末日论者看来，RSI更是代表着一场无法挽回的灾难，人工智能将自身构建得足够强大，以至于超出人类的控制，并在实现目标的过程中对造成的破坏漠不关心。但对AI支持者而言，RSI将成为提高生产力、科学发现等方面的巨大工具。

看Anthropic的表述，似乎介于两者之间。

该公司在上述文件中指出，其在研发中大量使用AI，但同时提醒：“用AI去帮助构建能力更强的AI，也可能带来相当大的安全风险，尤其是在它急剧加快进展速度的时候。”这类风险被纳入公司的“负责任扩展政策”（RSP）加以监控。

“该政策阐述了我们在推进所谓‘递归式自我改进’的过程中，如何监测和降低风险的计划。”文件补充道、

今年早些时候，当RSI这个词流行起来时，许多人认为它只是一个流行词，或者充其量是一个难以实现、定义或证明的目标。

但周一，Anthropic 在其“风险因素”部分添加了新的声明，称：1）它已经使用人工智能开发了新的模型，但当时它并未意识到这些模型的能力有了飞跃；2）它可能很快就会符合其内部对RSI的定义：

不过，Anthropic公司在提交的文件中也表示，目前没有任何一款模型越过这条线，并承诺在可预见的未来继续让人类参与研发过程。

“我们预计，即便技术上可行，也无法在缺乏有效人工监督或理解的情况下，安全地使用Claude完全自主地设计和构建下一代前沿模型。因此，我们正在考虑更新我们的RSP，以确保人类始终掌控Anthropic前沿模型的开发。”文件称。

（财联社 黄君芝）

标签： rsi 招股书 人工智能 真实场景 anthropic

　　 原标题：AI自我演进恐成现实？Anthropic招股书“埋暗雷”：已接近RSI模型！