面向Java开发者的ChatGPT提示词工程（5）

古城微笑少年丶 2023-10-11 23:32 16阅读 0赞

## GPT 的局限性 ##

当我们探讨开发大型语言模型应用程序时，必须认识到 GPT 存在一些局限性。这些限制对于我们保持清醒的头脑至关重要。

在 GPT 的训练过程中，虽然注入了大量知识，但它并不能完美地记住所有的信息，同时对这些知识的边界了解也有限。这意味着当面对复杂的问题时，GPT 可能会试图给出答案，但这些答案实际上是虚构的，听起来合理但却不正确。我们称这种虚构的思维为**幻觉**。

在本文中，我们将探讨开发大型语言模型应用程序的挑战，特别关注 GPT 系列模型的局限性。了解这些局限性对于我们在实际应用中保持清醒的头脑至关重要。

我们需要认识到 GPT 模型在训练过程中虽然吸收了大量知识，但它并不能完美地记住所有的信息，同时对这些知识的边界了解也有限。这意味着当 GPT 面对复杂的问题时，它可能会试图给出答案，但这些答案实际上是虚构的，听起来合理但却不正确。我们将这种虚构的思维称为“**幻觉**”。

![d02ac94866a649b7865a65b43cb9e282.png_pic_center][]  
深入了解 GPT 技术的局限性对于正确理解和应用该技术具有重要意义。在使用 GPT 时，我们应保持谨慎的态度，对其提供的信息进行适度的质疑，并时刻警惕其回答可能存在的误导性。通过这种方式，我们既能充分利用 GPT 技术的优势，同时在探索其潜力的过程中保持清醒的头脑。

比如，我们让 GPT 介绍一下百度：

public static void main(String[] args) {
        
        String prompt = "请介绍一下百度。";
        String response = getCompletion(prompt);
        System.out.println(response);
    }

输出内容如下：

> 百度是中国最大的互联网搜索引擎，成立于2000年。它提供了各种各样的服务，包括搜索、贴吧、知道、文库、百科、地图、音乐、视频、购物等等。百度的搜索引擎是其最著名的服务之一，它可以帮助用户在互联网上找到他们需要的信息。百度还开发了一些人工智能技术，如语音识别、自然语言处理和机器学习等，这些技术被应用于百度的各种产品和服务中。百度在中国互联网市场上占据着重要的地位，是中国互联网领域的领导者之一。

因为百度是真实存在并且广为人知的，所以我们可以看到正确的答案。

如果让 GPT 介绍一下像“万猫学社”这样它不清楚的东西会怎么样呢？

public static void main(String[] args) {
        
        String prompt = "请介绍一下万猫学社。";
        String response = getCompletion(prompt);
        System.out.println(response);
    }

输出内容如下：

> 万猫学社是一家在线教育平台，致力于为学生提供高质量的教育资源和服务。  
> 该平台提供了各种课程，包括语言、数学、科学、艺术等多个领域，适合不同年龄段的学生。  
> 万猫学社的课程由经验丰富的教师授课，采用互动式教学方式，让学生在轻松愉快的氛围中学习知识。  
> 此外，万猫学社还提供了个性化的学习计划和学习跟踪服务，帮助学生更好地掌握知识和提高学习效率。

可以看到 GPT 将会给我们一个相当逼真的描述，这就相当危险了，因为它听起来相当真实，如果不知道真实情况完全可以误导我们。

## 如何避免幻觉 ##

所以在构建自己的应用程序时，一定要使用我们在之前文章中介绍的一些技巧来避免这种情况。比如：

public static void main(String[] args) {
        
        String prompt = "请介绍一下万猫学社，如果你不清楚，就回答“不知道”。";
        String response = getCompletion(prompt);
        System.out.println(response);
    }

输出内容如下：

> 不知道。

但是，这并不是百分之百起作用的。 另一个减少幻觉的策略是：在让模型基于文本生成答案之前，先让提供文本中的相关信息，然后让它使用这些信息来回答问题。比如：

public static void main(String[] args) {
        
        String prompt = "根据三个引号之间的内容，介绍一下万猫学社。\n"
                + "```\n"
                + "技术博客，java，系统架构，微服务，数据库，云原生，系统架构设计师，CSDN博客专家，华为云‧云享专家，阿里云专家博主，51CTO博客TOP红人。\n"
                + "```";
        String response = getCompletion(prompt);
        System.out.println(response);
    }

我们就基本可以得到我们想要的回答：

> 万猫学社是一个技术博客，主要涉及Java编程、系统架构、微服务、数据库、云原生等方面的内容。  
> 其创始人是一位系统架构设计师，同时也是CSDN博客专家、华为云‧云享专家、阿里云专家博主、51CTO博客TOP红人。  
> 通过万猫学社，读者可以获取到来自专业人士的技术分享和经验总结，提高自己的技术水平。

## 总结 ##

我们这次了解了 GPT 的局限性：**幻觉**。当 GPT 面对晦涩主题的问题时，它可能会试图回答，但所提供的答案却是虚构的，听起来合理却实际不正确。

同时，我们也看到了克服**幻觉**的两个例子：

*  在提示词中明确写“如果你不清楚，就回答不知道。”。
 *  在让模型基于文本生成答案之前，先让提供文本中的相关信息，然后让它使用这些信息来回答问题。

开发大型语言模型应用程序是一项充满挑战的任务，我们需要充分了解 GPT 系列模型的局限性，并采取相应的措施来应对这些问题。通过不断地优化和改进，我们有望实现更加智能、可靠和实用的自然语言处理系统。

--------------------

## 《面向Java开发者的ChatGPT提示词工程》总目录 ##

*  [面向Java开发者的ChatGPT提示词工程（1）][Java_ChatGPT_1]
 *  [面向Java开发者的ChatGPT提示词工程（2）][Java_ChatGPT_2]
 *  [面向Java开发者的ChatGPT提示词工程（3）][Java_ChatGPT_3]
 *  [面向Java开发者的ChatGPT提示词工程（4）][Java_ChatGPT_4]
 *  [面向Java开发者的ChatGPT提示词工程（5）][Java_ChatGPT_5]
 *  [面向Java开发者的ChatGPT提示词工程（6）][Java_ChatGPT_6]
 *  [面向Java开发者的ChatGPT提示词工程（7）][Java_ChatGPT_7]

[d02ac94866a649b7865a65b43cb9e282.png_pic_center]: https://img-blog.csdnimg.cn/d02ac94866a649b7865a65b43cb9e282.png#pic_center
[Java_ChatGPT_1]: https://blog.csdn.net/heihaozi/article/details/130555515
[Java_ChatGPT_2]: https://blog.csdn.net/heihaozi/article/details/130593626
[Java_ChatGPT_3]: https://blog.csdn.net/heihaozi/article/details/130680512
[Java_ChatGPT_4]: https://blog.csdn.net/heihaozi/article/details/130678519
[Java_ChatGPT_5]: https://blog.csdn.net/heihaozi/article/details/130961167
[Java_ChatGPT_6]: https://blog.csdn.net/heihaozi/article/details/131333884
[Java_ChatGPT_7]: https://blog.csdn.net/heihaozi/article/details/131391565