以下是对上述内容的进一步整理和丰富： 一、基础理论与算法 1. PEAS 描述框架 ： Performance（性能） ：是衡量 AI Agent 表现优劣的指标，例如在自动驾驶场景下，可用车辆的行驶时间、安全到达目的地的比率等来具体评估。它明确了 Agent 的目标，引导其行为方向。 Environment（环境） ：即 Agent 运行的场景，包括物理环境、信息环境等。如自动驾驶中的动态交通流

1. 什么是 LangChain? LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口，可简化创建由大型语言模型 和聊天模型提供支持的应用程序的过程。LangChain 可以轻松管理与语言模型的交互，将多个组件链接在一起，并集成额外的资源，例如 API 和数据库。 2. LangChain 包含哪些 核心概念？ 2.1 LangCha

1. 什么是提示词工程？请举例说明。 答案： 提示词工程（Prompt Engineering） 是指通过设计、优化输入给大语言模型的文本提示，以引导模型生成更准确、有用、结构化的内容。 案例： ❌ 不好的提示： & x20; 写点关于 AI 的东西 ✅ 更好的提示： & x20; 用通俗易懂的语言解释人工智能的基本原理，并举一个生活中的应用场景。 2. 如何评估一个提示的效果？ 答案： 可以通过

一、LLMs 已经具备了较强能力了，存在哪些不足点? 在 LLM 已经具备了较强能力的基础上，仍然存在以下问题： 幻觉问题 ：LLM 文本生成的底层原理是基于概率的 token by token 的形式，因此会不可避免地产生 “一本正经的胡说八道” 的情况。 时效性问题 ：LLM 的规模越大，大模型训练的成本越高，周期也就越长。那么具有时效性的数据也就无法参与训练，所以也就无法直接回答时效性相关的

一、目前主流的开源模型体系有哪些？ 目前主流的开源模型体系分为三种： 第一种：prefix Decoder 系 介绍 ：输入双向注意力，输出单向注意力。 代表模型 ：ChatGLM、ChatGLM2、U PaLM。 第二种：causal Decoder 系 介绍 ：从左到右的单向注意力。 代表模型 ：LLaMA 7B、LLaMa 衍生物。 第三种：Encoder Decoder 介绍 ：输入双向注

显存相关问题 1. 如果想要在某个模型基础上做全参数微调，究竟需要多少显存？ 一般 nB 的模型，最低需要 16 20nG 的显存。以 vicuna 7B 为例，官方样例配置为 4A100 40G，测试能占满显存。训练时可用 FSDP、梯度累积、梯度检查点等方式来降低显存占用。 & x20; 2. 微调模型需要多大显存？ & x20; 不同模型版本所需显存如下： | 模型版本 | 7B | 13B

一、什么是生成式大模型？ 生成式大模型（简称大模型 LLMs）是指能用于创作新内容（如文本、图片、音频、视频等）的深度学习模型。其与普通深度学习模型的主要区别在于： 1. 模型参数量更大 ：通常在 Billion 级别。 2. 可通过条件或上下文引导生成内容 ：这也是 prompt engineer 产生的基础。 二、大模型是怎么让生成的文本丰富而不单调的呢？ 训练角度： 1. 基于 Transf