及时工程
即时工程是与生成式 AI 模型 (LLM) 对话的第一步。从本质上讲,这是为生成人工智能模型编写有意义的指令的过程,以便它们能够产生更好的结果和响应。提示可以包括相关上下文、显式约束或特定格式要求以获得所需结果。 RAG)是一个人工智能框架,用于从用于建立大型语言模型(LLM)的外部知识库最准确、最新的信息,让用户深入了解法学硕士的生成过程。它通过将模型建立在外部知识源的基础上来补充法学硕士的内部信息,从而提高了法学硕士生成的回答的质量。在基于 LLM 的问答系统中实施 RAG 有两个主要好处:它确保模型能够访问最新、可靠的事实,并且用户可以查看模型的来源,确保可以检查其声明的准确性和准确性。最终得到信任。在这个加速器中,我们将:
- 连接到 Elasticsearch 并加载一些输入数据。根据用户的要求,这可以来自 pdf 或 html 页面。
- 在 Elasticsearch 中拆分文档并建立索引,以便进行搜索和检索
- 部署一个 Python 函数,该函数针对给定输入提示执行 RAG 步骤并构建响应
- 最后,与已部署的功能进行基于问题/答案的交互,以加速端到端流程
提示工程最佳实践
提示工程的最佳实践包括了解模型的功能和局限性、制作清晰简洁的提示,以及根据模型的响应迭代测试和完善提示。
清晰度和特异性
通过具体说明、所需格式和输出长度明确您想要的结果。将其视为向您的孩子或兄弟提供详细的指示,而不仅仅是指出一般方向。
用词选择很重要
选择清晰、直接且不含糊的语言。避免使用俚语、隐喻或过于复杂的词汇。请记住,该模型是按字面解释的,因此请将其视为简单明了的表述,以确保理解。
迭代和实验
不要指望一次就能得到完美的结果。准备好修改提示、更改上下文提示并尝试不同的示例。将其视为微调食谱,直到获得完美的食品测试。
模型意识
了解您所使用的特定模型的功能和限制。
人工智能治理
LLM 模型的构建应以治理为中心,信任对于生成式 AI 项目至关重要。
如何使用不同的提示模型生成自动化代码、测试用例生成和代码转换。
- 生成 OpenAPI
- 从 OpenAPI 生成 NodeJS 微服务
- 从 MS Word 文件生成 Python 代码
- 测试用例生成
- Java/.NET 代码审查
- 从纯文本生成代码
IBM Watsonx 是面向开发人员的 GenAI 平台,提供不同的生成式 AI 用例作为示例,我们可以在其中实现模型并构建生成式 AI 用例。
上图显示了通过 RAG 框架和 ML 模型实现的不同提示用例。 IBM Watsonx 平台拥有最大的基础模型集合,开发人员可以利用这些模型来构建这些模型。
以下是在 IBM Watsonx 项目中使用 RAG 模型创建项目和构建用例的详细步骤。
一旦问答 RAG加速器100%完成,那么开发人员可以根据自己的需求使用这些模型创建自己的用例。
下面的快照显示了问答如何向您提出问题,以及 RAG 如何生成响应。