国产开源ChatGLM单机部署,超越ChatGPT!

随着ChatGPT的快速普及,以及越来越多的平台接入,一个全新的AI时代呼啸而来。

在很多人焦虑国产同类产品不抗打的时候,清华团队正在默默的搞ChatGLM。

由清华技术成果转化的公司智谱AI推出了基于千亿基座模型的ChatGLM,初具问答和对话功能,进行了较大范围的内测后,进入了新一轮的开发阶段,据传闻,大约7月份,会拿出一个稳定的商业版本。

与此同时,ChatGLM推出了一个6B(b=billion,10亿)版本的开源版,虽然和ChatGPT的1750B不可同日而语,但这个开源版有两个ChatGPT无可比拟的优势。

第一,是开源。开源意味着无限可能,全国乃至全球无数专业的非专业的爱好者在这上面贡献自己的力量,短短一个月的时间,已经有爱好编程的医务工作者依托它搞了个自动问诊模型,非常好用。还有B站up主做了一个开源的虚拟主播,调用ChatGLM然后转化成语音和视频和直播间的网友进行交互。

第二,是消费级显卡单卡可进行推理。ChatGPT用了上万张算力卡,一个月的成本就接近500万美元,这是个人用户难以企及的。ChatGLM可以跑在13G的消费级显卡上,对于大部分用户来说,虽然有点高消费,但和专业深度计算服务器相比,这个门槛太太太低了。1、2万级的硬件配置,就可以很好的跑起ChatGLM了,还是单机版,这个想象空间就太大了。

一、ChatGLM能干什么

ChatGPT能干的,其实ChatGLM都能干。

表面上看,ChatGPT无所不能,风光无限。

但是对于绝大数企业用户来说,和自身盈利方向有关的垂直领域,才是最重要的。

在垂直领域,ChatGLM经过专项训练,可以做的非常好,甚至有网友想出了用ChatGPT训练好模型,再由ChatGLM加载使用的策略。

比如,智能客服。

没几个人会在打客服的时候咨询相对论,ChatGPT的博学在单一领域就失去了绝对优势,如果把企业所在行业的问题训练好,那么就会是一个很好的AI。

比如科大讯飞在语音方面的应用,依托于大模型就会很有想象力。讯飞已经能很好的进行中外语言的文本化转换了,和大模型一结合,分分钟生成专业的外文文档(论文党看哭了)。

比如同花顺在AI智能投顾方面造诣颇深,接入大模型后进行私有语料库的训练,可以把自然语言轻松地转化成同花顺的底层数据库所能理解的复杂公式,小学文化理解这些复杂的炒股指标不是梦。

再比如工业机器人领域,初看起来和ChatGPT、ChatGLM没什么关联,但是机器人的操作本质上是代码驱动的,如果利用AI让机器直接理解自然语言,那中间的调试过程大大减少,工业机器人的迭代速度很可能指数级上升。

二、如何从零开始搭建ChatGLM

前文我们使用一键安装包搭建了Stable Diffusion,好消息是,ChatGLM也有一键安装包。

截至目前(4月9日),ChatGLM共有三个图形界面部署包,一个是秋叶大神(B站ID:秋葉aaaki,Stable diffusion的中文一键部署包就是他的杰作)制作的,一个是大江户战士制作的,另一个是官方团队制作的。

略搞笑的是,其中做的体验最差的是官方团队那一版。

本文推荐秋叶大神的版本(为了鼓励作者,请到他的主页三连:笔芯)。

ChatGLM一键安装包下载地址:

免责说明

本站资源部分来自网友投稿,如有侵犯你的权益请联系管理员或给邮箱发送邮件PubwinSoft@foxmail.com 我们会第一时间进行审核删除。
站内资源为网友个人学习或测试研究使用,未经原版权作者许可,禁止用于任何商业途径!请在下载24小时内删除!


如果遇到评论下载的文章,评论后刷新页面点击对应的蓝字按钮即可跳转到下载页面
本站资源少部分采用7z压缩,为防止有人压缩软件不支持7z格式,7z解压,建议下载7-zip,zip、rar解压,建议下载WinRAR

给TA打赏
共{{data.count}}人
人已打赏
ChatGPTCode开源推荐Free资源

小型语言模型的新突破:MiniGPT-4 ,开源了!

2023-4-20 14:08:08

ChatGPTCode开源推荐Free资源

本地部署清华大学KEG的ChatGLM-6B模型,Windows版本的本地部署

2023-4-20 14:51:03

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
有新私信 私信列表
搜索