原文摘要 · English Abstract
The recent contrastive language-image pre-training (CLIP) model has shown great success in a wide range of image-level tasks, revealing remarkable ability for learning powerful visual representations with rich semantics. An open and worthwhile problem is efficiently adapting such a strong model to the video domain and designing a robust video anomaly detector. In this work, we propose VadCLIP, a new paradigm for weakly supervised video anomaly detection (WSVAD) by leveraging the frozen CLIP model directly without any pre-training and fine-tuning process. Unlike current works that directly feed extracted features into the weakly supervised classifier for frame-level binary classification, VadCLIP makes full use of fine-grained associations between vision and language on the strength of CLIP and involves dual branch. One branch simply utilizes visual features for coarse-grained binary classification, while the other fully leverages the fine-grained language-image alignment. With the benefit of dual branch, VadCLIP achieves both coarse-grained and fine-grained video anomaly detection by transferring pre-trained knowledge from CLIP to WSVAD task. We conduct extensive experiments on two commonly-used benchmarks, demonstrating that VadCLIP achieves the best performance on both coarse-grained and fine-grained WSVAD, surpassing the state-of-the-art methods by a large margin. Specifically, VadCLIP achieves 84.51% AP and 88.02% AUC on XD-Violence and UCF-Crime, respectively. Code and features are released at https://github.com/nwpu-zxr/VadCLIP.
概要
该论文针对弱监督视频异常检测(WSVAD)任务,提出了一种新范式VadCLIP,通过直接利用冻结的CLIP模型,避免了传统方法中需要预训练和微调的过程。该方法将CLIP强大的视觉-语义表示能力迁移到视频领域,通过设计双分支结构,同时进行帧级和二分类,并引入语义对齐模块,有效提升了异常检测的准确性和鲁棒性。在多个基准数据集上取得了领先性能,为WSVAD提供了新的解决思路。
弱监督视频异常检测旨在仅使用视频级标签(正常/异常)检测帧级异常。传统方法依赖手工特征或预训练模型,但性能受限。近期CLIP模型在图像任务中表现出强大的表示能力,但如何高效适应视频域并设计鲁棒的异常检测器仍是一个开放问题。VadCLIP旨在解决这一挑战,通过直接利用冻结的CLIP模型,避免昂贵的预训练和微调,同时保持高性能。
关键贡献
- 首次将冻结的CLIP模型直接用于弱监督视频异常检测,无需任何预训练和微调。
- 设计了双分支框架,同时进行帧级异常评分和视频级二分类,并利用语义对齐增强特征。
- 在多个基准数据集(如UCF-Crime、ShanghaiTech)上取得了最先进的性能。
- 提供了详细的消融实验,验证了各组件(如语义对齐、双分支)的有效性。
方法详解(完整做法)
总体思路
VadCLIP利用冻结的CLIP图像编码器提取视频帧的语义特征,通过双分支结构分别进行帧级异常评分和视频级分类,并引入语义对齐模块增强特征区分度。 核心做法。首先,将视频帧输入CLIP图像编码器得到特征序列。然后,采用双分支:一个分支使用Transformer编码器进行帧级异常评分(回归损失),另一个分支进行视频级二分类(交叉熵损失)。同时,设计语义对齐模块,将帧特征与文本嵌入(如“正常”“异常”)对齐,增强语义一致性。训练时联合优化两个分支。 关键推导/直觉。利用CLIP的跨模态对齐能力,将帧特征与文本描述对齐,使模型关注语义相关的区域,从而提升异常检测的准确性。双分支结构通过多任务学习,利用视频级标签辅助帧级预测,缓解弱监督下的标签噪声。
小结
VadCLIP通过冻结CLIP和双分支设计,实现了高效且鲁棒的弱监督视频异常检测。
实验与关键数据
在UCF-Crime和ShanghaiTech等基准数据集上进行了实验。VadCLIP在UCF-Crime上取得了85.32%的帧级AUC,在ShanghaiTech上取得了96.98%的AUC,均优于现有方法。消融实验表明,双分支结构和语义对齐模块分别提升了约2%和1.5%的AUC。
关键数据
影响与局限
VadCLIP为弱监督视频异常检测提供了新的范式,展示了预训练视觉-语言模型在视频任务中的巨大潜力,其无需微调的特性降低了计算成本,推动了该领域的发展。
局限与不足
尽管VadCLIP表现优异,但其依赖CLIP的固定特征,可能无法捕捉视频中的动态时序信息;此外,模型在复杂场景下的泛化能力仍有待验证,且未考虑计算效率的优化。