Anthropic 表示：減慢 AI 衝刺對世界有益

媒體報導指出，人工智慧公司 Anthropic 在一篇由聯合創始人 Jack Clark 和研究員 Marina Favaro 撰寫的官方部落格文章中表示，減慢或暫停前沿 AI 開發對世界有益，這能讓社會結構和對齊研究跟上技術進展。文章提到，執行這樣的暫停需要類似核協議的談判和監控，包括所有前沿 AI 實驗室的支持，但仍有可能出現違規行為。Anthropic 此前以對 AI 能力增長的警覺著稱，並試圖將自己定位為比 OpenAI 更注重安全的替代方案。值得注意的是，這一呼籲發生在 Anthropic 本週提交機密 IPO 申請的同一週，公司估值達 9650 億美元。此外，文章探討了 AI 模型能力的快速進展，指出 Claude 等模型已能完成更長時間的人類任務，人類在代碼編寫中的角色正在縮小，可能轉向監督和驗證。文章承認可能存在未知瓶頸，但若趨勢持續，AI 開發節奏將完全由計算資源決定，人類角色將大幅減弱。