关键功能

专为乐谱表示设计的基础视觉编码器。
在 970 万页 IMSLP 乐谱上使用掩码自编码器进行预训练。
使用具有 16x16 图像块的 12 层 Vision Transformer。
生成 768 维的图块和整页表示。
使用 2D 正弦位置编码表示五线谱几何结构。
支持整页和谱表级乐谱识别。
支持音乐符号检测和乐谱难度分类。
发布公开权重、预训练代码和评估脚本。

该模型采用 12 层 Transformer、16x16 图像块、768 维嵌入和 2D 正弦位置编码,以保留五线谱纵向结构。训练遵循两阶段课程:首先用合成排版乐谱热启动编码器,然后用大规模真实乐谱预训练,以学习跨历史、印刷和手写记谱的稳健表示。


MuSViT 适用于光学乐谱识别、谱面搜索、记谱分析、符号检测和难度分类。公开权重、预训练代码和评估脚本让研究人员可以探索嵌入空间、冻结编码器进行线性评估,或针对下游乐谱理解系统进行微调。

在您的网站添加此徽章,以获得更多点赞并登上搜索结果顶部!

嵌入按钮预览 - 浅色主题
嵌入按钮预览 - 深色主题

Subscribe to the AI Search Newsletter

Get top updates in AI to your inbox every weekend. It's free!