OmniScientist:面向多模态、多学科证据的 AI 科学家(arXiv 2026)

原题:OmniScientist: An Omni-Modal Omni-Discipline AI Scientist

一句话总结:OmniScientist 让原始图像、信号、音频、视频、三维结构、轨迹、表格、公式和图贯穿选题、实验与写作,并用代码门禁约束新颖性搜索、统计检验和论断来源;系统完成 36/36 个计算型案例,直接感知在 5 个成对案例中赢得 85% 的评审偏好,但这些“发现”只经同一团队配置的执行记录和 LLM 评审器检验,尚无领域专家、独立重执行或湿实验确认。

问题与动机

AI-Scientist-arXiv24AI-Scientist-v2-arXiv25 一类系统已经能把想法、代码、实验和论文连成流水线,但通常只接收文本、标签、代码或人工预计算的标量特征。作者认为,这类接口在研究开始前就丢掉了局部形态、时间顺序、跨通道一致性和实验过程等关系;一个工作流即使“阶段齐全”,仍可能是证据不完整的。

OmniScientist 因而把问题改写为:给定数据集、研究对象和目标属性,能否让同一套智能体直接检查异构原始证据,自行形成可证伪问题、运行计算实验,并只把执行记录支持的论断写入论文?系统覆盖五类学科、36 个真实可下载数据集,其中 28 个案例主要依赖感知证据(§1、§3.2,表 1)。

这里的“自主”从人工给定数据、主题和目标属性之后开始。所有候选研究都必须能在计算机上完成,idea gate 明确拒绝需要物理实验的方案;因此论文评估的是多模态计算研究闭环,而不是能操作实验室或独立决定研究议程的通用科学家(§3.2、§4.2,附录 G)。

关键观察 / 隐含假设

  • 观察 1:证据接口会改变智能体提出的问题,而不只是改变输入精度。 在地震波、胸片、CAD、植物轨迹和星系图像五组成对实验中,直接感知版本围绕原始结构形成问题;只看预计算标量的版本选择了不同且更窄的研究路径(§5.3–5.6,表 7)。
    • 依赖假设:原始记录中被视觉模型注意到的特征是真实科学信号,而不是感知模型偏差或数据泄漏。
    • 证据强度:中。成对结果方向一致,但只有 5 个主要配对案例,且没有领域专家判断问题本身是否更有科学价值。
  • 观察 2:大多数失败发生在结果选择,而非数字凭空生成。 36 次主运行共触发 115 次阶段拒绝;26 次运行曾试图把不显著分析写成发现,最终有 67 项分析被降级,只有 4 次运行未被任何门禁退回(附录 B–C,表 15、17)。
    • 依赖假设:代码谓词检查到的 schema、显著性和来源追踪覆盖了最重要的科学错误。
    • 可能失效场景:研究问题错误、混杂因素遗漏、因果解释越界或数据本身有偏时,数值可追踪仍不能保证结论成立。
  • 观察 3:更强推理模型不自动带来更强感知。 不同 backbone 的事实准确性和严谨性差距约 2.9 分,而多模态 grounding 差距约 1.2 分;作者据此把感知层视为独立系统能力(§5.4,图 10)。
    • 证据强度:弱到中。模型覆盖的案例数不完全相同,失败运行被排除,且评测由 LLM judge 完成。
  • 假设 1:代码门禁可以把开放研究压缩成可靠的可判定条件。 Idea、rigour 和 claim 三个 gate 检查搜索次数、可证伪性、数据泄漏、有效样本量、多重比较、执行来源和数字一致性。
    • 边界:这些门禁能拒绝已编码的失败模式,却不能自动判定新颖性、机制真实性或研究意义。

核心方法

系统把科学证据分为四族:感知证据(图像、波形、光谱、三维结构)、符号证据(文本、公式、序列、知识图)、定量统计证据(表格、测量、分布)和过程证据(轨迹、模拟、agent trace)。每种模态注册原生数值读取器和必要时的可视化工具;系统优先分析原始数值,只有空间或结构关系必要时才消耗受限视觉预算(§3.1、§4.1,表 2、18)。

Ideation agent 先盘点材料并检查代表样本,再通过 OpenAlex/Crossref 做至少三次聚焦检索,生成至少五个候选问题,并按新颖性风险、统计功效、可证伪性和全计算可行性筛选。代码门禁要求研究问题、假设、实验草图和证伪条件齐全,并把“首次”“从未研究”等无法由有限检索证明的措辞自动收窄(§4.2,附录 B、G)。

Experiment agent 在受控 run_python 环境中迭代实现,要求主检验之外至少加入基线、消融实验、机制探针、分组分析或敏感性分析。Rigour gate 检查真实数据访问、生成图与执行记录、全部尝试过的统计检验分母、分组泄漏和独立性;若主假设失败,系统可以诚实输出 mixed/null,或回到 ideation,而不能事后把最好的噪声结果升为 headline(§4.3,图 5,附录 B–C)。

Writeup agent 根据五类领域模板生成论文。每一节只接收结构化实验记录中需要的切片,abstract 最后生成;claim gate 将数字和论断逐项映射到 stdout、图、配置与分析记录,不可支持的内容被删除或降级(§4.4,附录 F)。

三个阶段内部使用开放的 ReAct 循环,阶段切换、回退和退出则由确定性代码控制。这种“自由搜索 + 硬边界”设计与 EviGraph-arXiv26 的显式证据图目标相近,但 OmniScientist 的中心对象是 execution record 和 gate,而不是跨阶段的 typed claim–evidence graph。

设计取舍

  • 原始证据 vs 统一接口:直接暴露原始结构扩大问题空间,也增加视觉模型偏差、隐私、数据体量和工具成本。
  • 代码门禁 vs 科学开放性:谓词能稳定检查已知错误,却会鼓励选择容易程序化检验的问题;所有需要湿实验的想法在入口就被排除。
  • 多候选搜索 vs 选择偏差:至少五个候选和多次实验有助于探索,但会扩大自适应多重检验;系统虽记录全部 tests,idea selection 本身的 researcher degrees of freedom 仍难完全量化。
  • 同一引擎 vs 领域知识:新学科只需 specification file,便于扩展;“无需领域代码”也意味着领域特有的质量控制、仪器误差和伦理约束没有进入核心系统。
  • 可追踪事实 vs 科学真值:stdout 能证明数字确由程序产生,不能证明程序选择、统计模型或机制解释正确。

实验与结果

  • 36 个案例全部从原始数据运行到可编译论文;参考 backbone 的七维平均论文分为 6.3,五个学科族和多种模态的中位数大致落在 6.1–7.1(§5.2,表 3、5、6)。
  • 五个主要 perception/blind 配对中,直接感知版本平均赢得 85% 的 head-to-head 判断;同一评审器下,多模态 grounding 提高 2.8 分、significance 提高 1.8 分,事实准确性持平(§5.3,图 7–8,表 12)。
  • Leave-one-out 案例显示,去掉 prior-art search 时 composite 从 6.9 降到 5.7;去掉 novelty check 时新颖性分下降约 1 分;单次而非迭代运行也明显退化(§5.3,图 9)。
  • 地震案例从约 1,500 条三分量波形中报告 163/750(21.7%,95% CI 18.8–24.9%)“noise”标签含相干瞬态;移除跨通道 coincidence 后检出率降到 2.0%(§5.5,图 11,表 9)。
  • 胸片案例提出局部熵空间离散度,held-out AUC 为 0.851,明显高于 raw-pixel baseline 的 0.634;但这仍是同一数据集内的计算验证,没有外部医院数据或临床专家评估(§5.6,图 12,表 10)。
  • 36 次运行的 experiment 阶段平均调用 run_python 31.8 次;感知工具共调用 337 次,其中 173 次是视觉查看。最终记录包含 2 个 refuted、17 个 mixed verdict 和 67 个被降级分析(附录 C–D,表 16–18)。

论断—证据表

论断证据评测边界置信度
原始多模态感知会改善生成论文并改变研究问题§5.3–5.6,图 7–125 个主要成对案例;同一团队构造的 scalar-blind baseline;LLM judge
统一引擎能完成跨学科计算研究流水线36/36 个案例,表 1、3–6人工提供数据、主题、目标属性;不允许湿实验;失败运行的 backbone 比较会被排除
代码 gate 能阻止一批不显著或无来源结果进入论文115 次拒绝、26 次运行触发非显著结果问题、67 项降级,表 15、17只覆盖显式编码的 predicate;没有与无 gate 系统的全套多 seed 对照
所生成结果构成新的科学发现两个案例研究与系统自带文献检索/执行记录无领域专家盲审、独立重执行、外部数据或湿实验;新颖性由检索和 LLM judge 代理

批判性分析

论证链条

论文最扎实的论断不是“已经实现通用 AI 科学家”,而是“输入表示是科研 agent 的一等设计变量”。成对实验显示,删掉原始记录后,系统不只是得分下降,而是选择了不同问题;这补足了主要处理文本、代码和表格的自动科研工作。

从“论文数字可追踪”跳到“科学发现可靠”则证据不足。Claim gate 对 execution record 的一致性很强,但记录可能来自错误分析;两个 headline 案例没有外部领域团队复现。平均 6.3 分来自两名跨领域 LLM judge,而不是同行专家或真实 venue 评审,不能与论文接受率或科学价值直接等价。

假设压力测试

Blind baseline 只接收预计算标量,本来就缺少 full system 拥有的信息;因此实验能证明“移除原始结构会损失信息”,却不能完全隔离收益来自视觉模型、更多输入带宽还是工作流设计。更强对照应让非视觉 agent 自主生成丰富的信号/图像统计描述,并固定总 token 与工具预算。

Idea gate 要求至少五个候选、三次检索,rigour gate 又记录全部实验检验,但跨候选选择仍可能构成未计入的多重比较。系统最后选择最强 supported analysis 作为 lead,也可能把预注册主假设失败后发现的次级关系包装成论文主线;“demoted”避免直接 HARKing,不等于消除探索性研究的选择偏差。

实验可信度

作者公开 prompts、代码检查和 run-level 统计,披露 mixed/refuted 结果及 gate 拒绝,审计性优于只展示成功稿件的系统。36 个真实数据集和多模态覆盖也比单一 ML benchmark 更广。

不足是没有领域专家对 36 篇论文的 factual/scientific validity 抽样,没有独立运行团队,也没有将最终发现提交给原数据提供者确认。感知模型、reasoning backbone 和两名 LLM judge 的误差可能相关;用自动系统评自动论文仍存在同源偏差。

系统性缺陷

所有任务都由 specification 预先绑定数据、对象和目标属性,且原始数据已是可下载、可在单机脚本中处理的研究制品。真实研究还包括获取样本、校准仪器、处理访问权限、决定哪个观测值得采集,以及对危险或伦理敏感假设作限制;这些没有被“新学科只需一个配置文件”覆盖。

局限与后续工作

  • 局限 1:36 个结果只有执行内验证和 LLM 评审,没有独立专家、外部重执行或湿实验,不能据此宣称科学发现已获确认。
  • 局限 2:感知消融主要覆盖 5 个配对案例,scalar-blind baseline 与 full system 的信息量天然不等,因果归因仍不充分。
  • 局限 3:研究目标、数据和 target property 均由人提供;所有需要物理实验的候选被 gate 排除,自治边界止于计算研究。
  • 局限 4:多 backbone 结果排除失败运行且案例覆盖不同,跨模型和跨模态的平均分可能受选择偏差影响。
  • 后续工作 1:预注册一组从未被开发者查看的外部数据,由领域专家先写验收标准,再盲审并独立重执行 agent 的结论。
  • 后续工作 2:加入“自动统计摘要但无视觉”“视觉但无原生数值”“两者兼有”三组等预算消融,分离信息带宽、感知与 agent 控制的贡献。
  • 后续工作 3:把 candidate selection 也纳入统一检验账本,记录每个候选问题、检索、分析和停止决定的选择概率。
  • 后续工作 4:将 execution provenance 与 EviGraph-arXiv26 式论断—证据依赖图结合,使上游假设或数据处理改变时能自动使下游 claim 失效。

相关