本文针对协作与分布式智能系统中压缩中间特征的语义质量评估问题,提出了一种基于Token级注意力引导的评估方法。该方法利用原始与重建Token之间的内在对应关系,在Token层面进行质量度量,以减少跨Token干扰;同时通过注意力机制区分不同Token对下游任务的重要性,从而更准确地反映压缩特征的语义效用。实验表明,该方法在多种特征编解码器上均优于传统相似性度量,具有良好的鲁棒性。
本文提出 Dome-DETR,一种面向微小物体检测的高效框架。针对现有方法特征利用不充分和计算成本高的问题,引入轻量级密度聚焦提取器(DeFE)生成紧凑前景掩码,并基于掩码的窗口注意力稀疏化(MWAS)将计算资源集中于关键区域。同时提出渐进自适应查询初始化(PAQI),自适应调节查询分布,提升检测效率与精度。
本文首次系统研究大模型通用特征编码问题,旨在降低分布式部署中的传输与存储开销。针对不同模型提取特征分布差异显著(如DINOv2特征高度集中、SD3特征分散均匀)导致压缩效率低、跨模型泛化难的问题,提出一种从峰值分布到平衡分布的变换方法,实现通用且高效的特征压缩与传输。
本文面向视频编码与机器(VCM)中的特征压缩任务,指出现有方法未充分利用特征的维度与稀疏性。研究发现特征具有低空间维度、高通道维度的特点,传统基于2D卷积的下采样方式并不适用,因此提出采用3D卷积进行特征压缩;同时利用特征的稀疏性引入稀疏卷积,以降低模型复杂度。作者在多种网络结构和输入特征上验证了所提方法的有效性,为特征压缩提供了新思路。
本文提出 TMFormer,一种用于缺失模态脑肿瘤分割的 Token 合并 Transformer。该方法通过提取并合并可用模态为更紧凑的 token 序列,解决现有方法以零图填充缺失模态带来的特征偏差与冗余计算问题。其核心包括单模态 Token 合并块(UMB)和多模态 Token 合并块(MMB),分别增强单模态表示并缓解多模态融合偏差。在 BraTS 2018 和 2020 数据集上的实验表明,TMFormer 在缺失模态场景下优于现有方法。