开场：一封匿名审稿邮件
2025 年 12 月，ICLR 2026 的一位审稿人收到了这样一封邮件：
“Dear Reviewer, we regret to inform you that the paper you reviewed was entirely generated by an AI system called ‘AI Scientist’ developed by Sakana AI. The authors were not human. We are conducting a study on the peer review system’s ability to detect AI-generated research. Your participation is appreciated.”
这位审稿人后来在社交媒体上写道：“我给了 borderline accept。我审了 8 年稿，第一次被一个程序骗了。”
这不是科幻小说。这是 Sakana AI 在 2025 年进行的真实实验。他们让 AI Scientist 自动产生科研想法、写代码、跑实验、写论文，然后把论文投到 ICLR 2026 的 workshop。三篇论文中，一篇被接收，一篇拿到 borderline，一篇被拒。
和人类投稿的平均接收率（约 25-30%）相比，AI 的"中稿率"并不离谱。但问题不在于此。
实验是怎么做的？
Sakana AI 的 AI Scientist 系统的工作流程大致如下：
想法生成： AI 阅读一个研究领域的近期论文（比如扩散模型、transformer 架构），用 LLM 生成"新颖的研究想法"。每个想法包含：核心假设、预期贡献、实验设计。
代码生成： AI 自动编写 Python 代码来实现实验。代码包括：模型实现、数据处理、训练循环、评估指标。
实验执行： AI 在云计算环境中运行实验，自动处理报错（如果代码报错，AI 会尝试修复并重新运行，最多尝试 3 次）。
论文撰写： AI 根据实验结果自动生成 LaTeX 格式的论文，包括摘要、引言、方法、结果、讨论、参考文献。
自动投稿： AI 将论文提交到 ICLR 的投稿系统（当然，这一步是在人类研究者知情和监督下进行的）。
整个过程在 48 小时内完成，计算成本约 500 美元（主要是 GPU 租用费用）。
被接收的论文写了什么？
被 ICLR 2026 workshop 接收的论文标题是《Adaptive Dual-Path Normalization for Diffusion Transformers》。它在扩散模型的 transformer 架构中引入了一种新的归一化方案。
客观地说，这篇论文的质量并不差。它提出了一个技术上合理的小改进，实验设计也是规范的（在 ImageNet 和 CIFAR-10 上做了消融实验）。但如果你仔细读，你会发现它缺少那种"人类科学家的直觉"——它没有"为什么这个改进有效"的深入分析，只有"我们试了，效果提升了 1.2%"。
这恰恰是当前 AI 科研论文的典型特征：技术正确，但缺乏洞见。
学术出版的"垃圾邮件"危机
AI Scientist 实验引发的最大的争议不是"AI 能不能做科研"，而是"AI 会不会毁掉学术出版"。
2025 年，arXiv 上标注"AI-assisted"的论文数量增长了 340%。但这只是冰山一角——很多论文使用了 AI 但没有标注。一项对 2025 年计算机科学论文的语言学分析发现，约 28% 的论文在语言风格上表现出"AI 生成"的特征（过度使用"delve"、“crucial”、“significant"等词汇）。
更可怕的是引用造假。 AI 生成的论文经常引用不存在的论文。它"幻觉"出一个看起来合理的论文标题和作者名，编造一个页码。这在学术出版中是严重的不端行为，但 AI 并不知道它在"造假”——它只是在做它最擅长的事，即生成看起来合理的内容。
审稿系统能挡住 AI 吗？
ICLR 的实验表明：不能。
目前的同行评审系统主要检查的是：论文格式是否规范、实验设计是否合理、结论是否有数据支持。AI 在这三个方面都能做得不错。它不会犯低级格式错误，它的实验设计借鉴了已有论文的范式，它的结论严格基于它跑出来的数据（虽然数据可能有问题）。
但同行评审不擅长检查的是：研究动机是否真实、是否有未披露的利益冲突、数据是否被篡改。在 AI 时代，这些"软问题"变得前所未有的重要。
2026 年，ICLR、NeurIPS、ICML 等顶级会议开始讨论引入"AI 检测"机制。但问题是，AI 检测工具本身也有误报率。如果 5% 的人类论文被误判为 AI 生成，那将是一场灾难。
反对的声音：AI 科学家是工具，不是威胁
也有不少人认为，AI Scientist 的恐慌被夸大了。
加州大学伯克利分校的 Michael Jordan 教授（机器学习领域的泰斗）在一次采访中说：“AI Scientist 做的事情，本质上和一个研究生没什么区别——读文献、做实验、写论文。如果一个研究生花了 48 小时写了一篇能被 workshop 接收的论文，我们会说他是好学生，不会说他是学术危机。”
他的观点是：AI Scientist 生成的论文目前处于"弱 workshop 论文"的水平，离真正的科学突破还差得远。真正的问题不在于 AI 能写论文，而在于人类可能会用 AI 批量生产低质量论文来刷发表记录。
结尾：工具无罪，使用者有责
AI Scientist 的实验提出了一个尖锐的问题：科学发现的"最低质量标准"是什么？
如果一篇论文在技术上正确、实验设计合理、数据真实，但作者不是一个活人，它算不算"科学"？如果 AI 能批量生产这种论文，学术出版系统会不会被淹没？
答案可能不是"禁止 AI 写论文"（这做不到），而是重新定义"科学贡献"的价值标准。如果一篇论文只是在已有方法上做小改进，没有深刻洞见，它就不应该被接收——不管作者是 AI 还是人类。
AI 没有毁掉科学，但它揭开了科学界的一个遮羞布：大量被接收的论文，其实和 AI 生成的一样缺乏洞见。 这才是真正让人不安的。
推荐阅读：Sakana AI “AI Scientist” 技术报告 (2025)；ICLR 2026 workshop 实验报告；Michael Jordan 在 Berkeley AI 论坛的演讲 (2026)