微软宣布开源 DeepSpeedChat：人人都能拥有自己的 ChatGPT

生活网(zhongruitx.com)4月13日消息:微软近日宣布开源Deep Speed Chat，而(https://github.com/microsoft/DeepSpeed)可以帮助用户轻松训练ChatGPT等大型语言模型。
据介绍，Deep Speed Chat基于微软Deep Speed深度学习优化库开发，具有训练和强化推理功能。使用RLHF(人工反馈机制强化学习)技术，训练速度可以提高15倍以上，成本可以大大降低。比如一个类似ChatGPT的模型，有130亿个参数， 1.25小时就可以训练出来。
【微软宣布开源 DeepSpeedChat：人人都能拥有自己的 ChatGPT】深度速聊是一种可以解决训练ChatGPT模型的资源和算法问题的技术。它可以轻松高效地训练最先进的具有数千亿参数的ChatGPT模型。借助Deep Speed Chat，用户只需一个脚本就可以实现多个训练步骤，包括使用Huggingface预训练模型和使用DeepSpeed-RLHF系统运行InstructGPT训练的全部三个步骤，并生成自己的类ChatGPT模型。
此外，深速聊还提供了一个简单易用的推理API，用于测试模型训练后的对话表现。深度极速聊天有三个核心功能:强化推理、RLHF模块和RLHF系统。可以支持数千亿参数的模型训练，在多节点、多GPU系统上表现出优异的可扩展性。
Deep Speed Chat在成本、效率和可扩展性方面都非常出色。在Azure cloud上完成OPT-13B模型和OPT-30B模型的训练只需要不到300美元和600美元。
微软开源的深度极速聊天对ChatGPT的整个生态发展起到了至关重要的推动作用。简单来说，用户可以通过深度极速聊天，用最短的时间、最高效的成本训练出类似ChatGPT的大型语言模型，这预示着一人一个ChatGPT的时代即将到来。

微软宣布开源 DeepSpeedChat：人人都能拥有自己的 ChatGPT

推荐阅读

如何找寻自我

缝纫机调线器怎么安装平车方法如何

强组词强字组词

火笋鸡翅的做法（增肥食谱）

闺女生日快乐祝福语朋友圈

LV请来潮牌设计师做艺术总监，看中的是啥

老虎豆怎么做好吃老虎豆图片怎样弄来吃

暖气有流水声是什么原因

皮球是什么体

手机怎样开通QQ空间

男生发mua说明 mua是什么意思

手指盖凹陷怎么回事

对自己的生活失去掌控咋调整

小米10s怎么没有月亮模式

我想找个偏僻的地方搞养殖！有没有推荐的地方？

南京养老金认证上门服务怎么申请南京市养老金认证

如何评价猪场阉割猪？

最后一个字是豹的成语

泰山散酒怎么样

猫发情的声音(猫发情的叫声)