泥潭日报 uscardforum · 内容汇总

阿里开源首个统一科学大模型 LOGOS,仅用 1/56 参数超越微软 NatureLM

内容摘要

阿里LOGOS开源:1B参数超越NatureLM,引发对AI替代科研岗位的焦虑讨论

关键信息

  • 发布方:阿里 ATH-Token Foundry 联合中国人民大学高瓴人工智能学院。
  • 模型名称:LOGOS(Language Of Generative Objects in Science),首个基于统一“科学语法”的多领域科学生成基础模型 #1
  • 核心突破
    • 参数效率极高:LOGOS-1B 仅用 1/56 参数量(1B vs 8×7B),在多个任务上超越微软 NatureLM #1
    • 统一范式:构建涵盖 7 类模态、总计 44.87B tokens 的预训练语料库,将蛋白质、抗体、小分子、材料等异构对象编码为统一离散 Token 序列 #1
    • 去几何化:发明“文字描述法”,将 3D 空间接触模式语法化为离散 Token,无需输入 3D 坐标,仅靠序列预测构建 3D 互作规律 #1
    • 消除目标偏差:预训练形式与下游任务一致(Next-token prediction = 条件生成),无需复杂适配层或大量微调即可激活生成能力 #1
  • 开源资源:模型权重、推理代码、技术报告已全量开源,地址见 HuggingFace (LOGOS-Hub) 和 GitHub (LOGOS-Hub/LOGOS) #1

最新动态

  • 阿里宣布 LOGOS 在六大代表性科学任务上,以纯序列建模范式一致性地匹配或超越了领域专用方法 #1
  • 模型展示了底层“知识共享”能力,如通过蛋白质口袋序列直接推导小分子结构,证明其学会了跨模态对应关系 #1

争议或不同意见

  • 职业焦虑:网友 @peettr 评论称,若该模型能全面覆盖领域内知识训练,初级研究员可能面临失业风险,反映了AI在科研自动化背景下对基础科研岗位的潜在冲击 #3

闲聊脉络

  • 网友 @长乐人在纽约 评论为“大蒸馏时代”,暗示该成果可能代表了一种通过高效参数利用或数据蒸馏实现性能超越的新趋势 #2