128 A100 kartıyla sıfırdan eğitilmiş! ByteOpen tarafından açık kaynaklı 3B çok modlu Lance modeli

根据Beatling 动态监测，字节跳动（ByteDance Research）已正式开源原生统一多模态大模型 Lance。这是一个激活参数仅为 3B 的轻量级模型，在单一框架内同时支持图像与视频的理解、生成和编辑。

目前，主流统一模型高度依赖于扩展参数规模或采用文生图架构，而 Lance 则走出了极低算力的协同路径。研发团队让模型完全从头开始训练，并将整个训练周期的总计算预算压缩至 128 张 A100 GPU。

为了解决不同模态和任务之间的内部冲突，Lance 在架构上采取了两项强制隔离措施：
- 采用双流混合专家（MoE）架构处理交织的多模态序列，在共享底层上下文的同时，解耦了理解和生成的计算路径。
- 引入了模态感知的旋转位置编码，直接削弱了图像和视频之间的异构视觉令牌之间的信号干扰。

极端的算力压缩并没有降低性能上限。在仅有 3B 激活参数的情况下，Lance 的图像和视频生成以及编辑在大多数基准测试中领先于现有的开源统一模型，通过多任务协同实现了小参数同时满足生成和语义理解的低成本路径。