Video DeltaNet

新热门

关键功能

VDN-H3将Video DeltaNet应用于MiniMax H3。
滑动窗口 softmax 分支保留对附近帧的精确关注。
双向线性状态总结了局部注意力窗口之外的视频。
第一个和最后一个帧充当整个序列中可见的边界锚点。
文本提示会影响 softmax 和线性注意力分支。
检查点支持第一帧、最后一帧和组合边界帧调节。
在 8 个 B200 GPU 上,一段 14.4 秒的 768p 剪辑只需大约 9 秒即可完成。
该项目链接公共代码和模型权重。

该架构将滑动窗口 softmax 注意力与双向线性记忆相结合。第一个和最后一个帧充当全局锚点,而线性分支处理本地窗口之外的远程上下文。文本限制两条路径,并且设计避免对相同的视频上下文进行两次计数。


视频 DeltaNet 对于优化大型视频模型的研究人员和开发人员非常有用。该项目报告在八个 B200 GPU 上预热后约九秒内完成了 14.4 秒、768p 的剪辑。这些测量值是特定于硬件的,并不意味着消费类显卡具有相同的性能。

在您的网站添加此徽章,以获得更多点赞并登上搜索结果顶部!

嵌入按钮预览 - 浅色主题
嵌入按钮预览 - 深色主题

Subscribe to the AI Search Newsletter

Get top updates in AI to your inbox every weekend. It's free!