应用市场
悟空应用市场与生态伙伴通过产品级融合,为客户提供全面、专业、领先的产品及解决方案,共建产业互联。
前往应用市场 >
今天介绍这个工具(OpenLLM),可以很好的屏蔽 LLM 的底层逻辑,实际使用的时候比直接手写 Transformer 要方便太多了。而且集成了远程 API 的访问,同时可以和 LangChain 结合,可以作为生产服务的 LLM 后端使用。
文章内容:
• OpenLLM 介绍
• 安装、运行、本地和远程接口调用和部署(ChatGLM2为例)
• 如何运行 Llama 2
• 部署说明
ChatGLM 架构 支持的模型 ID 如下:
• thudm/chatglm-6b
• thudm/chatglm-6b-int8
• thudm/chatglm-6b-int4
• thudm/chatglm2-6b
• thudm/chatglm2-6b-int4
悟空CRM产品更多介绍:www.5kcrm.com