国语视界

 找回密码
 立即注册
查看: 228|回复: 17

[字幕技术] Voice2Sub —— 通过本地Qwen3-ASR大模型转写字幕

[复制链接]

246

主题

2007

帖子

2345

积分

管理员

大洋
26390
阅读权限
200
发表于 26-9-27 14:05 | 显示全部楼层 |阅读模式
中秋放假闲来无事,用Qwen3-ASR做了个音频转写字幕的小工具。GUI用的pyside6,模型加载器用的Audio.cpp(vulkan版本,AMD还没有ROCm优化版)。

测试机器:
CPU:AMD RYZEN AI MAX+ 395
GPU:Radeon 8060S
内存:128G(64G划给了GPU)

模型加载器:
audio-v0.8.2-audio8-perf-hotfix-bin-windows-x64-vulkan
audio.cpp下载地址:https://github.com/0xShug0/audio.cpp,根据自己使用的GPU选择合适版本的。

测试用的模型:
语音识别模型:qwen3-asr-1.7b-q8_0.gguf(2.3G)
对齐器模型:qwen3-forced-aligner-0.6b-q8_0.gguf(1.05G)
说话人分离模型:sortformer-diar-4spk-v1-f16.gguf(236MB)
VAD模型:silero_vad_16k.safetensors
以上模型要用audio.cpp的专有gguf格式,下载地址:https://huggingface.co/audio-cpp/audio.cpp-gguf

语音识别模型用来将语音转换为文字。VAD模型负责找到“人声”的起止位置。对齐器模型用来生成精确的时间轴。说话人分离模型用来将长句里面不同人说的话拆分为多条字幕,这个效果不怎么样,所以做成可选项了。核心难点是断句,多番测试下来,还是按说话间隔时间来断句更理想。

整个程序跑起来,显存占用最多7G多一点,所以8GB显存的显卡可以完全在GPU上跑,属于普通人都玩得起的了。速度方面,一条90分钟的音轨六、七分钟就可以跑完。字幕质量方面,感觉还行,90%以上的准确率吧,大家可以多试试,提出优化方案继续优化。









使用很简单,设置好模型的位置和audio.cpp的目录后,选择音轨,点击开始识别就自己干活了。启动后会有个两三分钟进度条没有反应,不要着急,那是在做切片等准备工作。后续的精调建议在Aegisub或srtedit上操作。

游客,如果您要查看本帖隐藏内容请回复

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x

点评

VAD模型在audio.cpp的github仓库的audio.cpp/assets/framework/models/silero_vad/目录下面  发表于 26-9-27 14:36

评分

参与人数 1威望 +50 大洋 +500 收起 理由
其实我很乖 + 50 + 500 十周年快乐!

查看全部评分

120

主题

6516

帖子

8821

积分

版主

大洋
59835
阅读权限
140

宣传达人优秀版主皇马褂热心会员版主

发表于 26-9-27 14:31 | 显示全部楼层
欢迎技术大佬回归,膜拜技术的人。配置的话,cpu、显卡、内存最低是建议什么起步呢。
国语视界我的家园!
回复 支持 反对

使用道具 举报

246

主题

2007

帖子

2345

积分

管理员

大洋
26390
阅读权限
200
 楼主| 发表于 26-9-27 14:35 | 显示全部楼层
gjp0975 发表于 26-9-27 14:31
欢迎技术大佬回归,膜拜技术的人。配置的话,cpu、显卡、内存最低是建议什么起步呢。 ...

8G显存就可以全部放进GPU了,用CPU也可以跑,内存就要大点,32G往上会好点。
回复 支持 反对

使用道具 举报

32

主题

9148

帖子

1万

积分

师长

大洋
116110
阅读权限
80
发表于 26-9-27 14:54 | 显示全部楼层
谢谢大神分享
回复 支持 反对

使用道具 举报

0

主题

1238

帖子

390

积分

排长

大洋
57257
阅读权限
30
发表于 26-9-27 15:24 | 显示全部楼层
更新试一试看看
回复 支持 反对

使用道具 举报

578

主题

1148

帖子

3万

积分

超级版主

大洋
817272
阅读权限
150
QQ
发表于 26-9-27 15:27 | 显示全部楼层
大佬,能直接加载已经封装了国语音轨的视频吗。
回复 支持 反对

使用道具 举报

0

主题

5119

帖子

815

积分

连长

大洋
2001
阅读权限
40
发表于 26-9-27 17:00 | 显示全部楼层
感谢大神分享!
回复 支持 反对

使用道具 举报

93

主题

2209

帖子

4871

积分

工作组

大洋
125133
阅读权限
135

灌水之王

发表于 26-9-27 17:36 | 显示全部楼层
谢谢大神分享字幕软件!
回复 支持 反对

使用道具 举报

246

主题

2007

帖子

2345

积分

管理员

大洋
26390
阅读权限
200
 楼主| 发表于 26-9-27 18:18 | 显示全部楼层
lds 发表于 26-9-27 15:27
大佬,能直接加载已经封装了国语音轨的视频吗。

不行,只能加载音轨
回复 支持 反对

使用道具 举报

281

主题

5043

帖子

6万

积分

炊事员

大洋
447050
阅读权限
120

灌水之王热心会员论坛元老王者至尊

发表于 26-9-27 18:24 | 显示全部楼层
音频转写不错,看看识别率如何,感谢
回复 支持 反对

使用道具 举报

1

主题

503

帖子

270

积分

排长

大洋
2272
阅读权限
30
发表于 26-9-27 19:32 | 显示全部楼层
大佬好久不发帖,一发帖必属精品贴,感谢分享技术
回复 支持 反对

使用道具 举报

0

主题

3622

帖子

1214

积分

营长

大洋
7597
阅读权限
50
发表于 26-9-27 21:22 | 显示全部楼层
厉害~~支持~~~
回复

使用道具 举报

75

主题

5108

帖子

3991

积分

团长

大洋
134519
阅读权限
60

热心会员

QQ
发表于 26-9-27 22:01 | 显示全部楼层
来学习一下,干到老学到老
回复 支持 反对

使用道具 举报

25

主题

7130

帖子

2005

积分

营长

大洋
1937
阅读权限
50
发表于 26-9-27 22:44 | 显示全部楼层
看起来很实用的工具!
回复 支持 反对

使用道具 举报

0

主题

1890

帖子

707

积分

连长

大洋
3486
阅读权限
40
发表于 26-9-27 23:15 | 显示全部楼层
工具看起来还不错 学习一下 感谢大佬
回复 支持 反对

使用道具 举报

30

主题

353

帖子

371

积分

排长

大洋
1158
阅读权限
30
发表于 26-9-27 23:21 | 显示全部楼层
电脑应该勉强够用,32G内存 8G显存,来试试看
回复 支持 反对

使用道具 举报

30

主题

353

帖子

371

积分

排长

大洋
1158
阅读权限
30
发表于 26-9-28 02:21 | 显示全部楼层
q776812193 发表于 26-9-27 23:21
电脑应该勉强够用,32G内存 8G显存,来试试看

1小时44分的音轨,5分钟跑完,速度还是很快的

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表