百度千帆大模型初体验，接入30+大模型、100+提示词模版、插件最丰富，国内最强

忘是亡心i 2023-10-14 23:04 41阅读 0赞

大家好，我是二哥呀。

作为国内的头部大厂，百度在大模型这块的投入力度可以说非常大，3 月 16 号发布的大模型——文心一言可以说在业界激起了巨浪。

有支持的，当然也有怀疑的，但无论如何，百度勇敢的迈出去了第一步。讲真，国内想要追赶上 OpenAI，需要这种决心和投入。

这不，百度又发布了千帆大模型平台，支持第三方大模型的定制开发和训练，可以说覆盖了智能问答、内容创作、代码编写等多种应用场景。

那文心一言和千帆之间的关系到底是什么，下面这张图可以说是一目了然。

![9b320d81fe07b15416f24dd73659246c.png][]

二哥一向对新鲜事物持有敏锐的嗅觉，这不，千帆出来的第一时间，我就体验了一波，下面就把我的使用体验分享出来，也是希望能给感兴趣的小伙伴踩踩坑、探探路，毕竟 AI 时代，我们不能掉队啊。

### 01、使用体验 ###

> 千帆大模型平台测试网址：https://cloud.baidu.com/survey/qianfan.html

申请时需要填写公司名称、联系人、联系电话等，提交申请后，很快就能收到通过的消息。

![d93ca84d4e0fa83674d0f3e206fd3f74.png][]

目前已经预制了非常多大模型，包括业内知名的⼤语⾔模型BLOOMZ-7B、由BigScience研发并开源，能够以46种语⾔和13种编程语⾔输出⽂本。

![ed1c0df4ba4920771fe868ea305f012c.png][]

还有 LLaMA2 全系列、ChatGLM2、RWKV、MPT、Dolly、OpenLLaMA、Falcon 等 33 个大模型，成为国内拥有大模型最多的平台。同时支持性能+安全的双重增强，模型推理成本可降低50%。

使用起来也非常方便，直接点击部署，然后点击下一步，选择后付费开通就可以了。

![4b9510aff5c69fb5f257708b0459753e.png][]

然后我们在应用接入这里创建一个“沉默王二狗腿子”的应用。

![c744c891d88d1669c0de2a3e2fd9b936.png][]

我们先用「在线测试」来体验一下。输入问题“请用 Java 帮我写一个冒泡排序”，选择服务“百度trubo 大模型”和应用“沉默王二狗腿子”。

![0a176c49788ce2af5f139f58fb96864b.png][]

我把代码复制到 Intellij IDEA 在本地检验了一下，并且把代码和 Copilot 生成的冒泡排序做了一个对比，一起来看一下。

public static void bubbleSortCopilot(int[] arr) {
        
        for (int i = 0; i < arr.length; i++) {
        
            boolean flag = false;
            for (int j = 0; j < arr.length - i - 1; j++) {
        
                int temp;
                if (arr[j] > arr[j + 1]) {
        
                    flag = true;
                    temp = arr[j + 1];
                    arr[j + 1] = arr[j];
                    arr[j] = temp;
                }
            }
            if (!flag) {
        
                break;
            }
        }
    }
    
    public static void bubbleSort(int[] arr) {
        
        int n = arr.length;
        for (int i = 0; i < n - 1; i++) {
        
            for (int j = 0; j < n - i - 1; j++) {
        
                if (arr[j] > arr[j + 1]) {
        
    // 交换元素位置
                    int temp = arr[j];
                    arr[j] = arr[j + 1];
                    arr[j + 1] = temp;
                }
            }
        }
    }

如果你想使用 API 调用的方式，可以通过下面这个文档查看。

> https://cloud.baidu.com/doc/WENXINWORKSHOP/s/flfmc9do2

![dbe24a4d9c19c34aa3634c84cae6336c.png][]

千帆是目前国内拥有最多第三方大模型的平台，模型推理成本可降低50%

### 02、Prompt 模板 ###

千帆大模型平台发布了 103 款 Prompt 模板，包含对话、编程、电商、医疗、游戏、翻译、演讲等十余个场景。

![a2b338fbb5524bf0329d07fb7455031b.png][]

Prompt 是什么？

可能有一些小伙伴第一次看到这个词会觉得比较陌生，Prompt 就是提示词的意思，Prompt 是通过自然语言向大模型提出命令或指令，引导大模型生成相应的内容。

优质的 Prompt 更能得到高质量的回答。

我这里收藏了四个编程方面的 Prompt 模板，分别是 SQL 终端、Linux 终端、JavaScript 控制台和编程专家。

点击在线测试，选择编程专家，我们来测试一下。

![4aee62c85cb250c142c5cd8c0d748bd6.png][]

我们来问一个 Stack Overflow 上非常高赞的 Java 问题：Java 是值传递还是引用传递。

![fc01f03780bb0c9532108858e0b924d4.png][]

进入在线测试，选择 BLOOMZ-7B 大模型（我们前面提到过），然后在键入 “/” 选择提示词。

![94b930347e2f6f3a57b0d71c649a8ae3.png][]

卧槽，回答的真不错！这个问题还是非常能考验大模型的，讲真，如果大模型比较傻瓜，那这个问题几乎都会答错。

![52c22d3aae1922f85e93488c4682d3c2.png][]

再来一个 Linux 终端，服务选择 RENIE-Bot-turbo。 结果真不错，完全符合真实的 Linux 场景。

![a54ae005176324f74333784d542283b7.png][]

### 03、插件功能 ###

6 月份的时候，千帆已经上线了插件功能，是国内首家提供插件服务的大模型平台。

插件功能非常强大，意味着我们可以把一些基础的数据导入到千帆大模型平台。

首先，我们需要一份 doc 文档，可以通过 typora 导出，比如说我们把面渣逆袭-分布式篇导出一份 word 文档。

![e9ae108d3aa929314ad3b04aae0e71c1.png][]

然后，进入千帆大模型的插件编排页面，配置模型，并且安装域内知识检索增强插件。

![3b595c21835f19b7a1f22b6b096dffa9.png][]

选择上面导出的 word 文档。

![5a1f345e9b4f880547030a949915a437.png][]

查看上传进度。

![52765e8c6788175cc2e1af70cc7bb829.png][]

然后我们来问他：说说CAP原则？为什么CAP不可兼得呢？等面渣逆袭上的内容，他都可以轻松应对。

![4acaa260b431c40fb803c04629f4dd88.png][]

也就意味着，企业或者个人完全可以定制一个属于自己的数字人，喂他的知识越多，他就回答的越专业。然后我们再调用千帆大模型平台，就可以为自己的应用服务了。

如果能把插件集成到办公场景中，就可以实现文档搜索、会议纪要、会议室预定、饭卡充值、休假申请等功能，可以以大大提升办公效率。

### ending ###

千帆大模型平台目前提供的功能可以说非常强大，覆盖了大模型研发的全生命周期，包括：数据管理、模型训练、评估&优化、预测服务和Prompt工程和插件服务，端到端地帮助用户高效地开发和部署大模型应用，极大地降低大模型的技术门槛。

![e142f9886e0b489d9663a316fc0fd5da.png][]

来看一下文心大模型的家族一览图吧，可以说非常的牛逼了。

![1e35e6fd262b481c946da327237df910.png][]

对于想做大模型的企业来说，也值得去参考和借鉴，以及深度合作。

对于我们个人开发者来说，如果想从事大模型相关的工作（高薪），也一定要多了解一下千帆大模型平台的业务和功能。

AI 时代，绝不能掉队！

[9b320d81fe07b15416f24dd73659246c.png]: https://img-blog.csdnimg.cn/img_convert/9b320d81fe07b15416f24dd73659246c.png
[d93ca84d4e0fa83674d0f3e206fd3f74.png]: https://img-blog.csdnimg.cn/img_convert/d93ca84d4e0fa83674d0f3e206fd3f74.png
[ed1c0df4ba4920771fe868ea305f012c.png]: https://img-blog.csdnimg.cn/img_convert/ed1c0df4ba4920771fe868ea305f012c.png
[4b9510aff5c69fb5f257708b0459753e.png]: https://img-blog.csdnimg.cn/img_convert/4b9510aff5c69fb5f257708b0459753e.png
[c744c891d88d1669c0de2a3e2fd9b936.png]: https://img-blog.csdnimg.cn/img_convert/c744c891d88d1669c0de2a3e2fd9b936.png
[0a176c49788ce2af5f139f58fb96864b.png]: https://img-blog.csdnimg.cn/img_convert/0a176c49788ce2af5f139f58fb96864b.png
[dbe24a4d9c19c34aa3634c84cae6336c.png]: https://img-blog.csdnimg.cn/img_convert/dbe24a4d9c19c34aa3634c84cae6336c.png
[a2b338fbb5524bf0329d07fb7455031b.png]: https://img-blog.csdnimg.cn/img_convert/a2b338fbb5524bf0329d07fb7455031b.png
[4aee62c85cb250c142c5cd8c0d748bd6.png]: https://img-blog.csdnimg.cn/img_convert/4aee62c85cb250c142c5cd8c0d748bd6.png
[fc01f03780bb0c9532108858e0b924d4.png]: https://img-blog.csdnimg.cn/img_convert/fc01f03780bb0c9532108858e0b924d4.png
[94b930347e2f6f3a57b0d71c649a8ae3.png]: https://img-blog.csdnimg.cn/img_convert/94b930347e2f6f3a57b0d71c649a8ae3.png
[52c22d3aae1922f85e93488c4682d3c2.png]: https://img-blog.csdnimg.cn/img_convert/52c22d3aae1922f85e93488c4682d3c2.png
[a54ae005176324f74333784d542283b7.png]: https://img-blog.csdnimg.cn/img_convert/a54ae005176324f74333784d542283b7.png
[e9ae108d3aa929314ad3b04aae0e71c1.png]: https://img-blog.csdnimg.cn/img_convert/e9ae108d3aa929314ad3b04aae0e71c1.png
[3b595c21835f19b7a1f22b6b096dffa9.png]: https://img-blog.csdnimg.cn/img_convert/3b595c21835f19b7a1f22b6b096dffa9.png
[5a1f345e9b4f880547030a949915a437.png]: https://img-blog.csdnimg.cn/img_convert/5a1f345e9b4f880547030a949915a437.png
[52765e8c6788175cc2e1af70cc7bb829.png]: https://img-blog.csdnimg.cn/img_convert/52765e8c6788175cc2e1af70cc7bb829.png
[4acaa260b431c40fb803c04629f4dd88.png]: https://img-blog.csdnimg.cn/img_convert/4acaa260b431c40fb803c04629f4dd88.png
[e142f9886e0b489d9663a316fc0fd5da.png]: https://img-blog.csdnimg.cn/e142f9886e0b489d9663a316fc0fd5da.png
[1e35e6fd262b481c946da327237df910.png]: https://img-blog.csdnimg.cn/1e35e6fd262b481c946da327237df910.png