果核Pulse
📡 X 信号

FastVideo推出FastH3 现已支持本地端视频生成

上周FastVideo发布了新模型FastH3,现在该模型已经可以在本地设备运行:支持通过MLX框架在NVIDIA DGX Spark和苹果Apple Silicon平台运行。

FastH3基于MiniMax AI H3开发,用于本地视频生成,相比基础版本提速达8倍。项目团队使用两块NVIDIA DGX Spark,生成了一段时长15秒、分辨率1344×768的完全本地运行的视频片段。

单块128GB统一内存的DGX Spark生成一段5秒480p分辨率视频仅需134秒,速度是vLLM-Omni的8倍;两块DGX Spark生成同规格视频仅需119秒,生成5秒768p分辨率视频则需要195秒。

在36GB显存的M4 Max芯片上,生成相同规格视频需要454秒,模型无法整体加载,采用分阶段运行方式。项目做了多项优化,包括缓存提示词消除编码等待,将解码时间从102秒压缩到1秒,同时提供了可直接运行的INT8、INT6、INT4量化版本DiT。

项目已经公开FastH3操作手册、项目博客,各量化版本的权重文件也已上传至Hugging Face。

团队致力于开源开发,计划未来将该方案推广到消费级RTX显卡,欢迎开发者为MLX和CUDA版本贡献代码。项目团队感谢了合作方与赞助方的支持。

查看 X 原帖

📬 订阅 果核Pulse

每日早间更新,不错过重要信号

▲ 回到顶部