https://vilab.team/tag/%E7%89%B9%E5%BE%81%E5%8E%8B%E7%BC%A9/ 特征压缩 Hugo Blox Builder (https://hugoblox.com)en-usMon, 29 Jun 2026 00:00:00 +0000 https://vilab.team/media/icon_hu2896232876136423579.png https://vilab.team/tag/%E7%89%B9%E5%BE%81%E5%8E%8B%E7%BC%A9/ https://vilab.team/publication/token-wise-attention-guided-semantic-quality-assessment-for-/ Mon, 29 Jun 2026 00:00:00 +0000 https://vilab.team/publication/token-wise-attention-guided-semantic-quality-assessment-for-/ <p>本文针对协作与分布式智能系统中压缩中间特征的语义质量评估问题，提出了一种基于Token级注意力引导的评估方法。该方法利用原始与重建Token之间的内在对应关系，在Token层面进行质量度量，以减少跨Token干扰；同时通过注意力机制区分不同Token对下游任务的重要性，从而更准确地反映压缩特征的语义效用。实验表明，该方法在多种特征编解码器上均优于传统相似性度量，具有良好的鲁棒性。</p> https://vilab.team/event/%E7%A5%9D%E8%B4%BA%E5%AE%9E%E9%AA%8C%E5%AE%A4%E7%A7%91%E7%A0%94%E6%88%90%E6%9E%9C%E5%8F%91%E8%A1%A8%E4%BA%8E-qomex/ Mon, 29 Jun 2026 00:00:00 +0000 https://vilab.team/event/%E7%A5%9D%E8%B4%BA%E5%AE%9E%E9%AA%8C%E5%AE%A4%E7%A7%91%E7%A0%94%E6%88%90%E6%9E%9C%E5%8F%91%E8%A1%A8%E4%BA%8E-qomex/ <p>热烈祝贺柯诗恩同学！论文《Token-Wise Attention-Guided Semantic Quality Assessment for Compressed Visual Features》已发表在 <em>QoMEX 2026</em>。</p> <h2 id="token-wise-attention-guided-semantic-quality-assessment-for-compressed-visual-features">Token-Wise Attention-Guided Semantic Quality Assessment for Compressed Visual Features</h2> <p><strong>祝贺柯诗恩同学！该论文已发表在 <em>QoMEX</em>。</strong></p> <ul> <li><strong>作者：</strong> Shien Ke、Changsheng Gao、Hadi Amirpour、Zhihua Wang、Xiaoyan Sun</li> <li><strong>发表载体：</strong> <em>QoMEX</em></li> <li><strong>发表时间：</strong> 2026年6月29日</li> <li><strong>相关链接：</strong> <a href="https://ieeexplore.ieee.org/abstract/document/11618326/" target="_blank" rel="noopener">论文链接</a></li> </ul> <h3 id="论文介绍">论文介绍</h3> <p>本文针对协作与分布式智能系统中压缩中间特征的语义质量评估问题，提出了一种基于Token级注意力引导的评估方法。该方法利用原始与重建Token之间的内在对应关系，在Token层面进行质量度量，以减少跨Token干扰；同时通过注意力机制区分不同Token对下游任务的重要性，从而更准确地反映压缩特征的语义效用。实验表明，该方法在多种特征编解码器上均优于传统相似性度量，具有良好的鲁棒性。</p> https://vilab.team/publication/dome-detr-detr-with-density-oriented-feature-query-manipulat/ Mon, 27 Oct 2025 00:00:00 +0000 https://vilab.team/publication/dome-detr-detr-with-density-oriented-feature-query-manipulat/ <p>本文提出 Dome-DETR，一种面向微小物体检测的高效框架。针对现有方法特征利用不充分和计算成本高的问题，引入轻量级密度聚焦提取器（DeFE）生成紧凑前景掩码，并基于掩码的窗口注意力稀疏化（MWAS）将计算资源集中于关键区域。同时提出渐进自适应查询初始化（PAQI），自适应调节查询分布，提升检测效率与精度。</p> https://vilab.team/publication/dt-ufc-universal-large-model-feature-coding-via-peaky-to-bal/ Mon, 27 Oct 2025 00:00:00 +0000 https://vilab.team/publication/dt-ufc-universal-large-model-feature-coding-via-peaky-to-bal/ <p>本文首次系统研究大模型通用特征编码问题，旨在降低分布式部署中的传输与存储开销。针对不同模型提取特征分布差异显著（如DINOv2特征高度集中、SD3特征分散均匀）导致压缩效率低、跨模型泛化难的问题，提出一种从峰值分布到平衡分布的变换方法，实现通用且高效的特征压缩与传输。</p> https://vilab.team/event/%E7%A5%9D%E8%B4%BA%E5%AE%9E%E9%AA%8C%E5%AE%A4-3-%E9%A1%B9%E7%A7%91%E7%A0%94%E6%88%90%E6%9E%9C%E5%8F%91%E8%A1%A8/ Mon, 27 Oct 2025 00:00:00 +0000 https://vilab.team/event/%E7%A5%9D%E8%B4%BA%E5%AE%9E%E9%AA%8C%E5%AE%A4-3-%E9%A1%B9%E7%A7%91%E7%A0%94%E6%88%90%E6%9E%9C%E5%8F%91%E8%A1%A8/ <p>热烈祝贺第一作者 Changsheng Gao、胡张驰同学、王义钧同学！近期，实验室共有 3 项科研成果正式发表在ACM MM 2025。</p> <h2 id="dt-ufc-universal-large-model-feature-coding-via-peaky-to-balanced-distribution-transformation">DT-UFC: Universal large model feature coding via peaky-to-balanced distribution transformation</h2> <p><strong>祝贺第一作者 Changsheng Gao！该论文已发表在 <em>ACM MM</em> 2025。</strong></p> <ul> <li><strong>作者：</strong> Changsheng Gao、Zijie Liu、Li Li、Dong Liu、Xiaoyan Sun、Weisi Lin</li> <li><strong>发表载体：</strong> <em>ACM MM</em> 2025</li> <li><strong>发表时间：</strong> 2025年10月27日</li> <li><strong>相关链接：</strong> <a href="https://dl.acm.org/doi/abs/10.1145/3746027.3755814" target="_blank" rel="noopener">论文链接</a> · <a href="https://dl.acm.org/doi/pdf/10.1145/3746027.3755814" target="_blank" rel="noopener">PDF</a></li> </ul> <h3 id="论文介绍">论文介绍</h3> <p>本文首次系统研究大模型通用特征编码问题，旨在降低分布式部署中的传输与存储开销。针对不同模型提取特征分布差异显著（如DINOv2特征高度集中、SD3特征分散均匀）导致压缩效率低、跨模型泛化难的问题，提出一种从峰值分布到平衡分布的变换方法，实现通用且高效的特征压缩与传输。</p> <hr> <h2 id="dome-detr-detr-with-density-oriented-feature-query-manipulation-for-efficient-tiny-object-detection">Dome-DETR: DETR with density-oriented feature-query manipulation for efficient tiny object detection</h2> <p><strong>祝贺胡张驰同学！该论文已发表在 <em>ACM MM</em>。</strong></p> <ul> <li><strong>作者：</strong> Zhangchi Hu、Peixi Wu、Jie Chen、Huyue Zhu、Yijun Wang、Yansong Peng、Hebei Li、Xiaoyan Sun</li> <li><strong>发表载体：</strong> <em>ACM MM</em></li> <li><strong>发表时间：</strong> 2025年10月27日</li> <li><strong>相关链接：</strong> <a href="https://dl.acm.org/doi/abs/10.1145/3746027.3754861" target="_blank" rel="noopener">论文链接</a> · <a href="https://dl.acm.org/doi/pdf/10.1145/3746027.3754861" target="_blank" rel="noopener">PDF</a> · <a href="https://github.com/RicePasteM/Dome-DETR" target="_blank" rel="noopener">代码</a></li> </ul> <h3 id="论文介绍-1">论文介绍</h3> <p>本文提出 Dome-DETR，一种面向微小物体检测的高效框架。针对现有方法特征利用不充分和计算成本高的问题，引入轻量级密度聚焦提取器（DeFE）生成紧凑前景掩码，并基于掩码的窗口注意力稀疏化（MWAS）将计算资源集中于关键区域。同时提出渐进自适应查询初始化（PAQI），自适应调节查询分布，提升检测效率与精度。</p> <hr> <h2 id="medkcoop-dual-knowledge-guided-graph-prompt-learning-for-biomedical-vision-language-models">MeDKCoOp: Dual Knowledge-guided Graph Prompt Learning for Biomedical Vision-Language Models</h2> <p><strong>祝贺王义钧同学！该论文已发表在 <em>ACM MM</em>。</strong></p> <ul> <li><strong>作者：</strong> Yijun Wang、Siying Wu、Lubin Gan、Zheyu Zhang、Jing Zhang、Zhangchi Hu、Huyue Zhu、Peixi Wu、Xiaoyan Sun</li> <li><strong>发表载体：</strong> <em>ACM MM</em></li> <li><strong>发表时间：</strong> 2025年10月27日</li> <li><strong>相关链接：</strong> <a href="https://dl.acm.org/doi/abs/10.1145/3746027.3755135" target="_blank" rel="noopener">论文链接</a> · <a href="https://dl.acm.org/doi/pdf/10.1145/3746027.3755135" target="_blank" rel="noopener">PDF</a></li> </ul> <h3 id="论文介绍-2">论文介绍</h3> <p>本文提出MeDKCoOp，一种面向生物医学视觉语言模型的双知识引导图提示学习方法。该方法系统整合医学领域知识，从文本与视觉分支提取专门知识并构建图结构表示，通过知识引导的关系转移实现跨模态融合，并动态优化可学习提示，以增强CLIP等模型在医学下游任务中的适应能力。实验表明其在多个生物医学基准上取得优异性能。</p> https://vilab.team/publication/feature-compression-with-3d-sparse-convolution/ Sun, 08 Dec 2024 00:00:00 +0000 https://vilab.team/publication/feature-compression-with-3d-sparse-convolution/ <p>本文面向视频编码与机器（VCM）中的特征压缩任务，指出现有方法未充分利用特征的维度与稀疏性。研究发现特征具有低空间维度、高通道维度的特点，传统基于2D卷积的下采样方式并不适用，因此提出采用3D卷积进行特征压缩；同时利用特征的稀疏性引入稀疏卷积，以降低模型复杂度。作者在多种网络结构和输入特征上验证了所提方法的有效性，为特征压缩提供了新思路。</p> https://vilab.team/publication/tmformer-token-merging-transformer-for-brain-tumor-segmentat/ Sun, 24 Mar 2024 00:00:00 +0000 https://vilab.team/publication/tmformer-token-merging-transformer-for-brain-tumor-segmentat/ <p>本文提出 TMFormer，一种用于缺失模态脑肿瘤分割的 Token 合并 Transformer。该方法通过提取并合并可用模态为更紧凑的 token 序列，解决现有方法以零图填充缺失模态带来的特征偏差与冗余计算问题。其核心包括单模态 Token 合并块（UMB）和多模态 Token 合并块（MMB），分别增强单模态表示并缓解多模态融合偏差。在 BraTS 2018 和 2020 数据集上的实验表明，TMFormer 在缺失模态场景下优于现有方法。</p>