千帆大模型平台升级：模型最多，Prompt模板最全

港控/mmm° 2023-10-14 14:56 45阅读 0赞

### 目录 ###

*   *  一、千帆大模型平台升级了啥？
     *  二、千帆是国内拥有最多第三方大模型的平台，模型推理成本可降低50%
     *   *  1、千帆为什么接入第三方大模型平台？
         *  2、客户通过千帆大模型平台调用第三方模型的优势有什么？比不用平台直接调用有什么好处？
     *  三、千帆拥有国内最全预置Prompt模板，多达103个
     *  四、总结

大家好，我是哪吒。

8月2日千帆大模型平台发布升级，大模型时代来临。

激动的心 ，颤抖的手，必须试一下。

## 一、千帆大模型平台升级了啥？ ##

千帆大模型平台是百度智能云推出的全球首个一站式企业级大模型平台。它可以为企业提供大模型开发全流程工具链和整套环境。用户不但可以在千帆上直接调用文心一言服务，也可以在千帆上开发、部署和调用自己的大模型服务。值得一提的是，大模型平台不仅提供全套文心大模型服务，还支持各类第三方大模型，成为大模型生产和分发的集散地。

主要面向B端客户的千帆大模型平台不仅涵盖了文心一言的能力，还提供全套文心大模型以及第三方大模型的相应开发工具链。

准确地说，千帆大模型平台非常符合百度创始人李彦宏提出的愿景，“作为底层平台，让千行百业实现智能化变革”。

千帆大模型平台全面接入Llama 2全系列、ChatGLM2-6B、RWKV-4-World、MPT-7B-Instruct、Falcon-7B等33个大模型，成为国内拥有大模型最多的平台。同时支持性能+安全的双重增强，模型推理成本可降低50%。

## 二、千帆是国内拥有最多第三方大模型的平台，模型推理成本可降低50% ##

### 1、千帆为什么接入第三方大模型平台？ ###

千帆平台围绕企业的大模型应用需求设计，目标为企业用户提供全场景、一站式的大模型研发与服务工具链。

当前开源大模型生态发展迅速，大量优质第三方模型涌现，在不同任务场景、参数量级与算力环境下体现出了差异化优势。

千帆团队精选业界优质第三方模型，与平台无缝兼容集成，以便企业用户快速体验、测试、接入业务，从而更好满足不同细分场景的业务需求。

### 2、客户通过千帆大模型平台调用第三方模型的优势有什么？比不用平台直接调用有什么好处？ ###

（1）模型可靠

千帆大模型平台上纳管的第三方大模型均经过平台优选的优质模型，主要考核三大指标：可商用、模型效果、模型安全性。

![在这里插入图片描述][036744d002374d50b3b406d188f7ba9c.png_pic_center]

（2）安全性更强

为了保证企业和开发者使用模型的安全性，千帆对所有接入的第三方模型均做了模型安全增强，不仅保障文心大模型的内容安全，还保障了第三方大模型的安全输出。

（3）成本更低

千帆对每一个接入的大模型都做了二次性能增强。通过优化模型吞吐、降低模型尺寸，实现模型推理速度的大幅提升。据测算，调优后模型体积可压缩至25%-50%，推理成本可降低50%。这意味着，相较于直接调用，企业在千帆平台上使用这些模型可极大地节约成本，提升效果。

![在这里插入图片描述][606afcaac68441a185b88f919c24ac03.png_pic_center]

（4）支持全套工具链、多样化模型调优

千帆对接入的大模型均做了深度适配，并提供模型再训练的全套工具链，支持多种形式模型调优，包括SFT（全量参数微调、Prompt Tuning、Lora）及强化学习（奖励模型学习、强化学习训练）等。帮助企业和开发者快速基于基础大模型再训练，搭建企业专属大模型。

## 三、千帆拥有国内最全预置Prompt模板，多达103个 ##

千帆大模型平台服务体验申请地址：[https://cloud.baidu.com/survey/qianfan.html][https_cloud.baidu.com_survey_qianfan.html]。

千帆大模型平台发布了103款Prompt模板，包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。其中既有基于百度智能云在产业实践中积累的Prompt模板，也有来源于文心一言高频用户的Prompt模板。这些模版均可直接输出给大模型,让大模型快速理解我们的需求。好的Prompt可以大大提高模型的交互效率、输出质量。  
![在这里插入图片描述][b4b93b577ba044019e97b7045311c912.png_pic_center]  
怎么？试一下就知道了。

![在这里插入图片描述][0515d161ea954c86805d7977e4f301ac.png_pic_center]  
![在这里插入图片描述][98e9a4749ad745c1a713804fe37a30d6.png_pic_center]  
哈哈，原来是这个意思啊，还真是方便的很啊。

## 四、总结 ##

[千帆大模型平台][https_cloud.baidu.com_survey_qianfan.html]使用起来更方便，在通用大模型的基础能力上，客户根据自己的需求，注入少量的行业数据，就可以用很小的成本微调出一个自己专属的大模型。相当于搜索模板，用起来爽歪歪。

设计出来的通用大模型可以直接托管在百度智能云的云端。我们只管去使用大模型，百度智能云会确保大模型的高可用、高性能和高安全性，企业不用担心复杂的部署和管理问题。

大家可访问 [千帆大模型平台][https_cloud.baidu.com_survey_qianfan.html]申请测试，试用一下，你会爱上她的。

[036744d002374d50b3b406d188f7ba9c.png_pic_center]: https://img-blog.csdnimg.cn/036744d002374d50b3b406d188f7ba9c.png#pic_center
[606afcaac68441a185b88f919c24ac03.png_pic_center]: https://img-blog.csdnimg.cn/606afcaac68441a185b88f919c24ac03.png#pic_center
[https_cloud.baidu.com_survey_qianfan.html]: https://cloud.baidu.com/survey/qianfan.html
[b4b93b577ba044019e97b7045311c912.png_pic_center]: https://img-blog.csdnimg.cn/b4b93b577ba044019e97b7045311c912.png#pic_center
[0515d161ea954c86805d7977e4f301ac.png_pic_center]: https://img-blog.csdnimg.cn/0515d161ea954c86805d7977e4f301ac.png#pic_center
[98e9a4749ad745c1a713804fe37a30d6.png_pic_center]: https://img-blog.csdnimg.cn/98e9a4749ad745c1a713804fe37a30d6.png#pic_center