admin管理员组

文章数量:1516870

本地部署

1 简介

Whisper 是 OpenAI 的语音识别系统（几乎是最先进），它是免费的开源模型，可供本地部署。

2 docker

3 github

4 运行

nvidia-docker run -d --gpus all -p 9000:9000 -e ASR_MODEL=base -e ASR_ENGINE=openai_whisper onerahmet/openai-whisper-asr-webservice:latest-gpu

image 大小：11.5G
运行后，即可在9000端口通过swagger调用，我先用手机录了一些简单的中文，识别效果还不错，除了第一次调用时可能是下载和加载模型时间比较长，后面再调用速度就很快。
又用它识别了一个25分钟的mp3（约27M），是一位小哥哥B站视频对应的音频文件，识别时间约为不到1分钟，使用GPU内存占用在1G之内，尽管有一小部分乱码和一些重复，但整体效果不错。
我觉得速度和效果都相当美丽，绝对可以作为一些收费产品的平替了～～

5 注意事项

  • 上传的音频文件使用时尽量不要用中文文件名

本文标签： 本地部署

版权声明：本文标题：本地部署 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://www.betaflare.com/biancheng/1700238168a292913.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。