Jeremy Howard 籲減緩 AI 自我改進 批評 Anthropic 做法

在社群討論中，Jeremy Howard 透過 Twitter 帖子分享了一個減緩遞迴式 AI 自我改進的簡單解決方案。他指出，擁有頂級模型的實驗室必須同意不將其用於前沿 AI 研究，而其他人則應能訪問該模型，這樣可以阻止前沿進步並避免危險的權力不平衡。Howard 特別批評 Anthropic 的做法，認為其選擇了相反的安全路徑：允許自身使用頂級模型進行前沿 AI 研究，並表示會破壞其他人的嘗試。這導致 AI 前沿持續進步，權力不平衡進一步加劇。他澄清，自己並非主張減緩 AI 發展，而是認為應開放和民主化，但如果組織聲稱要減緩，則應以身作則限制自身使用模型。這番言論引發了對 AI 倫理和策略的廣泛討論。