本地部署chatglm及缓解时效性问题的思路： 模型使用chatglm-6b 4bit，推理使用hugging face，前端应用使用streamlit或者gradio。