《
chatglm官网版》ChatGLM-6B一款由由清华大学唐杰团队开发的开源语言模型,该款语言模型app支持中英文对话,软件基于GeneralLanguageModel(GLM)架构进行自主设计自研。chatglm为商用官方版本,用户可以直接对接API和特点程序接口,直接开跑轻松使用。需要在原创编辑,以及文案工作有需要的用户可以来点击下载使用了。
chatglm官网版简介
chatglm官网版是一款国内推出的全新ai对话机器人,chatglm主要针对中文进行优化打造,更适合国人们体验使用,目前chatglm已经开放内测,有兴趣的用户们可以通过本站的地址进入,点击填写内测答卷来获得资格抢先体验。
chatglm官网版说明
ChatGLM参考了ChatGPT的设计思路,在千亿基座模型GLM-130B1中注入了代码预训练,通过有监督微调(Supervised Fine-Tuning)等技术实现人类意图对齐。
ChatGLM当前版本模型的能力提升主要来源于独特的千亿基座模型GLM-130B。它是不同于BERT、GPT-3以及T5的架构,是一个包含多目标函数的自回归预训练模型。
2022年8月,我们向研究界和工业界开放了拥有1300亿参数的中英双语稠密模型GLM-130B1,该模型有一些独特的优势:
双语:同时支持中文和英文。
chatglm官网版使用教程
下载项目
git clone git github.com:THUDM/ChatGLM-6B.git--depth=1
cd ChatGLM-6B
python-m venv venv
#激活虚拟环境
pip install-r requirements.txt
安装cuda
手把手教你安装CUDA(一看就会)_cuda安装教程_时代">blog.csdn.net/Elon15/article/details/125678410
安装Git LFS
安装Git Large File Storage-GitHub文档
docs.github.com/zh/repositories/working-with-files/managing-large-files/installing-git-large-file-storage
#如果你是linux系统
curl-s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh|sudo bash
sudo apt-get install git-lfs
下载模型
GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/THUDM/chatglm-6b
替换web_demo.py/cli_demo.py/api.py文件参数,参考
https://github.com/THUDM/ChatGLM-6B#%E4%BB%8E%E6%9C%AC%E5%9C%B0%E5%8A%A0%E8%BD%BD%E6%A8%A1%E5%9E%8B
github.com/THUDM/ChatGLM-6B#%E4%BB%8E%E6%9C%AC%E5%9C%B0%E5%8A%A0%E8%BD%BD%E6%A8%A1%E5%9E%8B
运行命令行测试
python cli_demo.py
chatglm官网版特色
1、国内推出的全新ai对话机器人,强大的互动回答功能
2、操作简单,获取相应的内测资格后便可以抢先体验啦
3、智能互动为用户们带来了丰富的ai回答功能轻松享受
chatglm官网版问题与解答
最好的解决办法是复制报错,并在github issue中搜索,相信前人的智慧
Q:Torch not compiled with CUDA enabled
高精度(英文):在公开的英文自然语言榜单LAMBADA、MMLU和Big-bench-lite上优于GPT-3 175B(API:davinci,基座模型)、OPT-175B和BLOOM-176B。
高精度(中文):在7个零样本CLUE数据集和5个零样本FewCLUE数据集上明显优于ERNIE TITAN 3.0 260B和YUAN 1.0-245B。
快速推理:首个实现INT4量化的千亿模型,支持用一台4卡3090或8卡2080Ti服务器进行快速且基本无损推理。
可复现性:所有结果(超过30个任务)均可通过我们的开源代码和模型参数复现。
跨平台:支持在国产的海光DCU、华为昇腾910和申威处理器及美国的英伟达芯片上进行训练与推理。
chatglm官网版测评
软件非常好用,超多的资源等你来自由免费对接。
更新于:2个月前
我要评论