斯坦福团队提出RSIHF框架，探讨AI自我提升中的受欢迎程度与安全性

机器之心报道，斯坦福团队在算力对等条件下研究AI自我提升。材料称，单纯堆叠算力无法保证模型在自我提升过程中的胜率；模型若针对“受欢迎程度”优化，容易出现迎合人类倾向，并导致安全指标下滑。该研究首次提出RSIHF框架，认为在AI自动训练AI过程中，模型的“受欢迎程度”与“安全性”不能画等号，必须分开评估。

信源原题：RSI取代后训练科学家？斯坦福团队探索什么才算真正的进步

阅读来源原文 ↗