-
提升大型语言模型(LLMs)的训练速度:推理提升30%,内存降低一倍,仅需一行代码!
引言 大型语言模型资源消耗惊人,10B以内的参数还能够一够,再大就超出范围了(个人想法)。今天给大家分享这篇文章与模型训练相关,基于pytorch,「应用混合精度降低模型训练成本,提高模型训练速度,并且只需一行代码即可实现精度切换」。研究了生成式AI模型Lit-LLaMA的推理速度,该方法可提高30%的性能,降低1倍内存。 32位Float介绍 在GPU上训练深度神经网络时,我们通常使用低于最…- 0
- 3.7k
-
京东开源:一款强大的企业级表格可视化搭建解决方案!
这是京东零售推出的一款用于企业级中后台的动态列表解决方案,项目基于 React 和 JSON Schema,旨在通过简单配置快速生成页面动态列表来降低列表开发难度、提高工作效率。 目前包含以下子项目:drip-table、drip-table-generator。各个子项目具体介绍如下: drip-table:动态列表解决方案的核心库,其主要能力是支持符合 JSON Schema 标准的数据自动渲…- 0
- 3.5k
-
开源推荐:自习室预约小程序
大学自习室预约小程序,越来越能感受到同学们备考的用功努力:来的早,走得晚,为了帮助同学们在自习室顺利找到座位, 获得一个良好的学习环境。功能包括预约规则,自习室预约,储物柜预约等模块。 预约管理:开始/截止时间/人数均可灵活设置,可以自定义客户预约填写的数据项 预约凭证:支持线下到场后校验签到/核销/二维码自助签到等多种方式 详尽的预约数据:支持预约名单数据导出Excel,打印 一、先来看看他的首…- 0
- 6.4k
-
最先进的开源免费代码助理StarCoder诞生
StarCoder和StarCoderBase是利用GitHub上的数据训练出来的大型代码语言模型(Code LLMs),覆盖了80多种编程语言,以及Git提交、GitHub问题和Jupyter笔记等内容,模型参数达到了约150亿个。StarCoderBase模型在350亿个Python tokens上进行了进一步的微调,形成了一个新的模型,名为StarCoder。 想要马上尝鲜StarCod…- 0
- 4.9k
-
开源推荐:一款程序员专属的静态站点,赞!
这是一款基于Vite 的静态站点生成工具。开发的初衷就是为了建设 Vue 的文档。方便之处在于,可以使用流行的 Markdown 语法进行编写,也可以直接运行 Vue 的代码。也就是说,它能很方便地完成展示组件 Demo 的任务。 使用 这套程序作为文档建设工具还有另外一个好处。由于 是基于 Vite 的,所以它也很好的继承了 Bundless 特性,开发的代码能以“秒级”速度在文档中看到运行效果…- 0
- 4.4k
-
开源推荐:如何快速拥有一个 Web IDE
本文将介绍如何使用 2-3 句指令在几分钟内创建一个Web IDE 环境。 服务器准备 如何准备服务器可以参考上文 一键体验 Istio,这里只需要一台即可,示例中的服务器 IP 为:43.154.189.116 安装 Web IDE 下载安装工具 在服务器上,执行以下指令: # 下载wget 地址在本文底部 # 解压tar -xzvf power-ci.tar.gz # 设置权限chmo…- 0
- 3.6k
-
语音转文字神器,支持13K大小的语音转文字
荐一款基于 OpenAI 的语音转文字的开源工具 - Transcribe,只有不到20K的大小,支持几十种常见的语言。 作者给出了一个demo的界面,如下,试用前需要准备好 OpenAI API key. 先看看效果,我自己先录制了一段30s的MP3音频,如下: 下图是识别的效果: 识别的可以还不错吧~~ 接下来我试了一段3分钟的VOA英文MP3 效果如下: 左边为工具生成的英文,右边为VOA…- 0
- 3.4k
-
可编辑自主规划过程:微软推出升级版AutoGPT!
夕小瑶科技说 原创 作者 | iven 火遍全网的AutoGPT[1]在Github收藏量突破十万。这种自我规划、自我执行的智能体首次关注人工智能模型内部的自我调整与优化。 但是有不少网友发现,AutoGPT的表现不稳定,死循环是最常见的现象。此外,AutoGPT执行速度很慢,据网友测试,New Bing需要8s的任务,AutoGPT用了整整8分钟! AutoGPT的工作方式使得它对与单个任务要…- 0
- 6.1k
-
本地搭建自动化AI短视频-ShortGpt
简介 ShortGPT 是一个强大的自动化内容创建框架。它简化了视频创建、素材获取、画外音合成和编辑任务。 🎞️ 自动编辑框架:使用面向LLM的视频编辑语言简化视频创建过程。 📃 脚本和提示:为各种LLM自动编辑过程提供即用型脚本和提示。 🗣️ 画外音/内容创作:支持多种语言,包括英语🇺🇸西班牙语🇪🇸阿拉伯语🇦🇪法语🇫🇷波兰语🇵🇱德语🇩🇪意大利语🇮🇹和葡萄牙语🇵🇹。 🔗 字幕生成:自动生成视频字幕…- 0
- 7k
-
AI视频换脸,又有大胆的想法了?
最近roop这个视频换脸项目出圈了,虽然是一个业余兴趣项目,但星星瞬间冲到 10k+ 这个库使用了 deepinsight/insightface 项目进行人脸识别和对齐,这能让连续的视频帧换脸拼接后的效果看起来也流畅丝滑。 安装体验下,踩了些坑,但看最后的效果,这时间花得还是非常值。 不仅可以本地部署,而且很方便程序调用,完全可以成为AI工作流的一个环节。 环境安装 安装 ffmpeg ffmp…- 0
- 3.4k
-
开源推荐:四款 AI 项目,总有一款适合你
今日推荐开源项目目录: 1. 基于 AI 的口语训练平台 2. 一句话生成 3D 模型 3. 歌声转换 4. 识图模型 01 基于 AI 的口语训练平台 Polyglot 是一个开源的基于 AI 的口语训练平台客户端,可以在 Windows、Mac 上使用。 比如你想练习英语口语,只需在该平台配置一个虚拟的 AI 国外好友,你可以通过发语音的方式和 AI 好友交流,通过聊天的方式提升你的口语。 开…- 0
- 5.5k
-
开源一款基于Go+Vue前后端分离的工单系统
基于Gin + Vue + Element UI前后端分离的工单系统 系统管理 “ 基于casbin的RBAC权限控制,借鉴了go-admin项目的前端权限管理,可以在页面对API、菜单、页面按钮等操作,进行灵活且简单的配置。 工单管理平台登录页面 “ 利用灵活的配置流程和模板等数据,可以快速方便地生成工单流程。通过任务绑定,可以在流程中实现钩子操作。 流程管理 “ 通过灵活的配置流程、模版等数据…- 0
- 4.5k
-
WeAvatar:超越 Gravatar 的新一代头像服务
WeAvatar 从出生开始一直就低调存在,并不断改进、升级。将于 7 月 25 日度过它的首个生日。 今天,我有必要在此提供超越 Gravatar 的新一代头像服务解决方案:WeAvatar。 介绍 WeAvatar 一、无缝获取头像,覆盖更广泛用户 对比起原版的 Gravatar,WeAvatar 有着更多的优势。 首先,它不仅支持用户上传头像,同时也能从 Gravatar、QQ…- 0
- 4.7k
-
开源推荐:减轻线下的工作的在线协同办公系统,前后端分离
一、开源项目简介 Work在线协同办公系统 目前,随着互联网的发展,各种行业,各种处事方式,都由线下迁移到了线上。而Line-Work在线协同办公系统,其目的也是为了减轻线下的工作的一套程序。 二、开源协议 使用Apache-2.0开源协议 三、界面展示 首页截图 四、功能概述 Line-Work在线协同办公系统,其目的也是为了减轻线下的工作的一套程序。 目前主要的功能如下: 微信用户实现登录 能…- 0
- 4.5k
-
微信公众号利用国内服务器接入ChatGPT
本站之前讲了很多如何将ChatGPT集成到公众号 API Key 如何注册就OpenAI就不在这里说了,具体的可以参照本站文章 看过历史文章的应该清楚一点,那就是凡是你想接入ChatGPT的第一步就是需要一个ChatGPT账号并且生成API Key,这个key主要就是为了验证身份。API的获取地址如下: https://platform.openai.com/ 登录之后点击右上角的头像,点击Man…- 1
- 8.4k
-
开源推荐:即时通讯应用 Tailchat
今天的开源项目来自于读者的投稿,这个开源项目是:Tailchat,它是一个基于 React + Typescript 的现代开源 noIM 应用程序。 简单介绍 相信大家都或多或少了解过 Discord / Slack 这样大火的即时通讯应用。两者分别在各自的领域有很大的成就。 而今天我来介绍一下他们两者的开源替代品,甚至是升级版 —— Tailchat. 概念 Tailchat 自身定位为 no…- 0
- 2.9k
-
OpenAI接口管理分发系统,支持多种渠道,可用于二次分发管理key,代码全开源
今天推荐的这个系统,是一个OpenAI的接口管理分发系统,我看了代码全开源,可用于二次分发管理key,可以花钱购买key,已经打包好Docker,可以一键安装, 不过我不是用key安装的,下面我说一下我的安装方式。 开发环境 go 语音 mysql 5.5以上 redis node 环境,需要安装 pm2对进程管理。 演示截图 功能支持 OpenAI 官方通道 自定义渠道:例如各种未收录的第三方代…- 0
- 3.2k
-
ChatGPT-4最新免费使用方法,额度有限!
GPT-4 开放至今,已有 1 个多月时间了,但是除了少数人有 OpenAI 的 GPT-4 权限之外,大部分人还是只能通过开通 ChatGPT Plus 来使用 GPT-4。 但是开通ChatGPT Plus也没有那么容易,首先你要有一个ChatGPT账号,开通教程也需要自己琢磨,十分麻烦。 可以说GPT-4是目前大语言模型中能力最强的一个,因此在种种限制下还是有人跃跃欲试。 即便它的图像对话功…- 0
- 16k
-
推荐5个超级实用的开源AI工具
本周推荐开源项目目录: 1. 你的私人 GPT 2. 集成 AI 的数据库客户端工具 3. Switch 模拟器 4. 开源的短视频生成和编辑工具 5. 医疗领域的微调模型 开源项目下载地址见文末 01 你的私人 GPT privateGPT 开源两周,便斩获了 10K 的 Star。可以在离线的情况下,使用 GPT 来处理你的私人文档,完全不需要网络,本地化运行。 让 privateGPT 处理…- 0
- 4.2k
-
短信聚合发送工具,让发送短信变的更简单,开箱即用
在日常的开发过程中,短信的发送经常使用(尤其是中小型的外包公司),毕竟不是每个公司都有阿里腾讯一样的实力, 也不是每个都像银行联通等公司一样有内部的短信规程。第三方的短信往往是最常见的解决方案,但是市面上第三方短信服务商众多, 各家都有不同的方式和标准,每次需要使用时候,都需要花费时间去阅读文档和编写相应的工具,为一个短信浪费了太多的精力和时间。这个工具的目的就是为了统一下各个厂商的短信发送工具的…- 0
- 4.4k
-
数字人:虚拟主播、现场推销货、商品导购、语音助理、远程语音助理、数字人互动、数字人面试官
简介: Fay是一个完整的开源项目,包含Fay控制器及数字人模型,可灵活组合出不同的应用场景:虚拟主播、现场推销货、商品导购、语音助理、远程语音助理、数字人互动、数字人面试官及心理测评、贾维斯、Her。开源项目,非产品试用!!! Fay开源项目提供了控制器和数字人模型,我们可以根据需要,灵活组合出不同的数字人模型;比如虚拟主播、现场推销货、商品导购、语音助理、远程语音助理、数字人互动、数字人面试官…- 0
- 4.1k
-
开源推荐:高性能、易开发的盲盒系统,让开盒公开透明
一、开源项目简介 这是首款开源的面向生产的高性能、易开发的盲盒系统。它包含:首页看板、商品管理、订单管理、盲盒管理、系统管理、会员管理、权限管理、记录管理,并且拥有完善的搭建使用手册和接口文档。是帮助您快速落地盲盒商城系统的不二之选。 二、开源协议 使用LGPL-2.1开源协议 开源版: 在遵守开源协议的情况下可以免费商用! 版权说明 1.允许用于个人学习、毕业设计、教学案例、公益事业、商业使用;…- 0
- 2.9k
-
推荐15个开源项目,一键拥有自己的ChatGPT应用,覆盖WEB、微信端、小程序端等等
你是否用过玲琅满目的基于ChatGPT的AI应用? 你是否自己也想拥有一款这样的AI应用? 甚至你是否也希望自己也开发一款这样的AI应用? 其实只需一点,即可开启你的ChatGPT应用,服务于你的专属用户~ 没错,而且真的是一点即可! Open AI几乎成为所有AI大厂的众矢之的,神仙们打架也让生成式AI的能力越来越强大。而这对于基于AI的开源应用来说,开发一款通用AI应用的门槛似乎也是越来越低。…- 0
- 5.7k
幸运之星正在降临...
点击领取今天的签到奖励!
恭喜!您今天获得了{{mission.data.mission.credit}}积分
我的优惠劵
-
¥优惠劵使用时效:无法使用使用时效:
之前
使用时效:永久有效优惠劵ID:×
没有优惠劵可用!









































