Arjun Panickssery：自主 AI 研发的判断力仍显不足

Arjun Panickssery 在 LessWrong 上表示，他跟踪的多个自主 AI 研发项目（Scrabble 引擎、Ultimate Tic-Tac-Toe 机器人、AI Philosophy 竞赛的形式化证明）中，模型判断力在基础层面很差：文献综述漏掉最关键论文，实验因训练数据太少而无信息价值，哲学项目反复陷入琐碎方向。他认为例外是反馈回路快的爬山任务，例如通过反复提示 Astra 把“列出所有合法 Scrabble 走法”的 SOTA 提升 10 倍，但两次关键跃升仍来自他本人的提示。