0°

国产ChatGPT又开源了!效果大幅升级,在手机上也可以跑

  【新智元导读】近日,元语智能团队又开源了一个ChatYuan系列大模型:ChatYuan-large-v2,支持在单张消费级显卡、PC甚至手机上进行推理使用。

  刚刚,「国产ChatGPT」ChatYuan又发新版本了。

  更新的ChatYuan-large-v2不仅支持中英双语,还支持输入输出总长度最长4k。

  而这也是继此前PromptCLUE-base、PromptCLUE- v1-5、ChatYuan-large-v1 模型之后,元语智能再次推出大模型方向的研究成果。

  开源项目地址:

  https://github.com/clue-ai/ChatYuan

  Huggingface:

  https://huggingface.co/ClueAI/ChatYuan-large-v2

  Modelscope:

  https://modelscope.cn/models/ClueAI/ChatYuan-large-v2/summary

  01 什么是ChatYuan-large-v2?

  ChatYuan-large-v2是一个支持中英双语的功能型对话语言大模型,ChatYuan-large-v2使用了和 v1版本相同的技术方案,在指令微调、人类反馈强化学习、思维链等方面进行了优化。

  ChatYuan-large-v2是ChatYuan系列中以轻量化实现高质量效果的代表模型,仅仅通过0.7B参数量可以实现业界10B模型的基础效果,并且大大降低了推理成本,提高了使用效率。用户可以在消费级显卡、 PC甚至手机上进行推理(INT4 最低只需 400M )。

  同时,为了更好的提升使用体验,团队已经封装了工具,Chatyuan-large-v2实现了本地可运行,下载后可以直接在本地使用h5版本,进行网页交互。

  02 v2有什么升级?

  在chatyuan-large-v1的原有功能的基础上,v2模型进行了如下优化:

  增强了基础能力:原有上下文问答、创意性写作能力明显提升。

  新增了拒答能力:对于一些危险、有害的问题,学会了拒答处理。

  新增了代码生成功能:对于基础代码生成进行了一定程度优化。

  新增了表格生成功能:优化了生成的表格内容和格式。

  增强了数学运算能力:对基础数学运算如加减法做了优化。

  扩展输入输出总长度:最大长度token数扩展到4096。

  增强了模拟情景能力:可以模拟多人对话或者具体场景,在情景下进行内容创作及上下文交互。

  新增了中英双语对话能力:新增了中英双语交互、英文创作、翻译等功能。

0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论