【

chatglm商用版】——一款国内2023最新开发的AI人工智能语言模型APP，软件支持中英文双向输入。软件目前支持两种对话入口，一种“图形界面”方式，一种“命令行”方式，用户可以选择自己使用的方式来进行对接。专业的语言模型，可以帮您解决文案、设计、架构、编辑等类型的工作内容，需要使用的话就来下载吧。

chatglm商用版简介

是全新上线的ai智能对话软件，你可以通过声音匹配自己喜欢的队友，在这里参与到体验中来，chatglm国内手机版里面为大家提供了超多丰富的聊天功能和服务，你可以在这里和更多的恋人参与约会，学习更多的恋爱技巧，带给用户更多的体验，喜欢的小伙伴不要错过。

chatglm商用版优势

1.提供给用户的服务非常的多元化，并且非常的具有创意性。

2.支撑软件的是强大的互联网技术，并且融入了智能聊天的模式。

3.会给用户分享更多的话题，所有的话题都非常的有意思。

4.可以加入到话题探讨里面，有助于更好的交流。

chatglm商用版使用教程

在我笔记本单卡2060（6G）上可以加载模型，但推理时候会报cuda错误，可能是笔记本上显卡功率跟不上，性能发挥不出最佳状态。之后换成2080ti、3090ti都可以轻松运行。没有GPU的情况下也可以使用CPU，但推理非常慢，本人使用自己笔记本电脑CPU进行加载，推理过了十几分钟还没有得到回复，不过能在消费级显卡上运行起来已经为大模型部署降低了很大的门槛了。

因此推断，笔记本上2070以上的显卡、台式机2060以上显卡可以运行ChatGLM-6B。可根据显卡性能不同，设置以不同量化精度加载模型。不同量化精度对应的推理需要的最小显存如下：

量化等级 最低GPU显存 量化代码

FP16（无量化） 13 GB model.half().cuda()

INT8 10 GB model.half().quantize(8).cuda()

INT4 6 GB model.half().quantize(4).cuda()

-- CPU model.float()

ChatGLM-6B项目提供了两种对话入口，一种图形界面方式，一种命令行方式：

图形界面方式：

命令行方式：

使用了几次后，感觉还挺好，在性能和回复的流畅度、效果上都是很可以接受的，毕竟相对于GPT3、GPT4上千亿/万亿的参数来说，在60亿参数，并且NLP平民能消费的起情况下，可以说是很Niubility了。

但愿，大模型方向会在ChatGLM-6B的引领下，向着小而精的方向发展，这样，我们NLP平民才能搭上这班车，不至于掉队。

chatglm商用版特色

1.你可以与它展开更智能的对话，还可以通过它来为自己写代码，你只需要告诉他所有的前提条件；

2.当你无聊时也可以和他一起聊天，它将告诉你所有的一切，包括天文地理历史知识，有问必答。

3.你可以向他发出指令，你可以一步步帮助你完成手上写方案、写论文这些困难的工作。

4.这是一款真正意义上代替人类的人工智能产品，它可以完全为您替代一个人，以这个人的思维方式和你交流；

5.它可以和你一起聊天、写代码、分享自己的读后感，所有的一切都是那么的真实。

6.我们可以根据输入的特定条件让它来为你解忧！

chatglm商用版描述

1、包括但不限于看直播、心动派对、以及在线点歌等等的功能，功能选项丰富多样。

2、在chatgpt ai聊天软件社交app中，还有很多有趣的直播房间可以让用户在线的一起参与。

3、多种不同的主题房间可以带给用户不一样的体验，十分有趣。

chatglm商用版功能

1、chatglm可以回答关于各种话题的问题，例如历史、科学、文化等。它可以提供相关的信息和细节，并且能够根据上下文作出适当的回应。

2、chatglm可以参与自然对话，即能够与人类进行多轮交流，并作出相应的回应。它可以通过文本或语音与人类交流，并理解他们的意图，从而使对话更加流畅自然。

3、chatglm可以提供建议和帮助，例如在人类面临某些问题或困难时，它可以提供可行的解决方案。它可以理解人类的需求，并根据他们的问题提供适当的帮助。

chatglm商用版闪光点

1、chatglm可以作为学习工具，即人类可以通过与它交流来提高他们的语言能力和知识水平。它可以提供丰富的信息和知识，并且能够持续不断地学习和更新，从而为人类提供更多的学习机会。

2、chatglm可以作为客服或人工智能助手使用，即能够与人类进行交流，并帮助他们解决问题。它可以用于提供客户服务或帮助人们完成日常任务，从而提高工作效率和满意度。

chatglm商用版更新日志

2023/03/19

更新增加了量化后的INT4模型，官方直接针对性的量化模型后提供下载。对比原版自己设置量化效果好一些，而且模型大小只有4G，极大地加快了下载速度。对于只有CPU或者只有6G显存的同学，可以直接选择量化后的模型下载和部署，本文单独更新了ChatGLM-6B-int4版本的部署教程，在第四章，需要部署的可以直接跳转到第四章，忽略前面的内容。huggingface地址：https://huggingface.co/THUDM/chatglm-6b-int4

chatglm商用版测评

软件非常好用，超稀有资源随时下架，需要请点击下载。