- 类型
- 论文
- 来源
- arXiv AI
- 发布
- 2026年9月21日 16:59
- 状态
- 单一信源
发生了什么
针对 whole-slide pathology 图像达 gigapixel 规模、现有 slide 级 MLLM 需处理数千 patch token 且在编码后才压缩的问题,论文提出 SLICEChat:在 hybrid Mamba–Transformer slide encoder 内部做渐进式 token 剪枝,由语言监督、区域感知的剪枝按受控保留率移除空间连贯的低价值区域,在融合前得到紧凑表示。在 SlideBench VQA 上 TCGA 准确率 79.84%、BCNB 59.09%,优于此前模型,并取得最高 WSI-Bench 总体指标,显存与推理延迟具竞争力。
为什么重要
此前方案在 slide 编码之后才做压缩,多模态注意力仍需承担全部 patch token 的开销。SLICEChat 把剪枝前移到编码器内部并逐阶段缩短序列,直接压缩了进入多模态融合的表示规模,同时报告了准确率与内存、延迟方面的表现,指向全切片级别推理的可扩展性瓶颈。
底层逻辑
机制是混合 Mamba 与 Transformer 的编码器:Mamba 层负责长程信息高效传播,Transformer 层在序列被逐步缩短的过程中保留全局交互;阶段之间按受控 keep-rate 进行语言监督、区域感知剪枝,删除空间上成块的低效用区域,使剪枝后的表示仍适配下游多模态融合。
产品与商业机会
对病理 AI 产品而言,将压缩放在编码器内部而非编码之后,意味着同样的显存和延迟预算下可能处理更大的全切片或更高吞吐;若该方案可复现,研发重点会从后处理压缩转向编码器结构与保留率调度,病理辅助诊断与科研读片的推理成本结构可能随之改变。
- 在自有病理切片数据上复现 SLICEChat 的保留率调度,测试准确率与显存、延迟的取舍曲线
- 评估将编码器内渐进剪枝接入既有 slide 级 MLLM 流水线,替换编码后压缩模块的可行性
- 面向全切片推理场景,建立以显存与延迟为约束的剪枝策略配置模板
- 针对区域感知剪枝,构建低价值区域判定与语言监督信号的内部评测集
仍待确认
- 论文未披露剪枝的保留率调度训练细节与超参,复现成本待确认
- SlideBench VQA 与 WSI-Bench 之外的病理任务上是否仍保持优势,尚不清楚
- 与同规模模型对比时的具体显存和延迟数值未在证据中给出
- 语言监督信号如何获取及是否依赖额外标注,证据未说明