开源LLMS应该得到代码，而不是提示！ （DSPY，瞧！）

DSPY：将提示工程转变为提示编程的革命性框架

大型语言模型 (llm) 时代，新模型层出不穷。然而，充分发挥 llm 的潜力往往依赖于繁琐易错的提示工程。dspy 应运而生，它是一个开源框架，彻底改变了我们与 llm 交互的方式。dspy 将提示视为可训练、模块化的组件，而非静态文本，并通过编程方式进行优化。

为什么选择 DSPY？

传统的提示工程依赖于脆弱的手工编写的指令。例如，要求 LLM “写一首关于 DSPY 的诗” 可能会得到不一致的结果。开发者不得不反复调整提示，但这方法效率低下，存在以下问题：

• 难以扩展到多步推理等复杂任务。
• 跨模型或领域的泛化能力差。
• 需要大量手动尝试，浪费时间和资源。

DSPY 提供了解决方案：它将提示定义为类似代码的模块，并自动优化以获得最佳性能。它将 LLM 视为管道中的组件，使用远程编译器（优化器）迭代优化提示和权重。其核心理念包括：

• 代码优先的提示: 开发者专注于模型应该做什么，而非如何去做。
• 自我改进: DSPY 程序从数据中学习，优化自身的提示和逻辑。
• 模型无关: 可与任何 LLM 配合使用，例如 GPT-4、Llama 3 和 Claude 等。

DSPY 的核心组成部分：

• 模块: 可重复使用的、特定于任务的构建块，例如 dspy.predict（用于生成文本）、dspy.Chainofthought（用于逐步推理）和 dspy.retrieve（用于整合检索结果）。 一个简单的模块定义如下：

<code># 模块定义示例</code>

• 签名: 类似于合约，用于提示优化。它指定了任务中 LLM 的预期行为。例如，主题 -> 诗歌。

• 远程编译器（优化器）: 自动化提示优化的工具，例如 BootstrapFewShot、BayesianOptimizer 和 MIPRO（多目标指令提案优化器）。

• 指标: 指导优化的指标（例如，准确性、BLEU 分数）。DSPY 通过调整提示和示例来最大化这些指标。

DSPY 的工作流程：

代码小浣熊

代码小浣熊是基于商汤大语言模型的软件智能研发助手，覆盖软件需求分析、架构设计、代码编写、软件测试等环节

51

查看详情

1. 定义程序: 将模块组装成管道。
2. 初始化: 设置初始提示和模型权重。
3. 优化: 迭代测试并调整提示。
4. 评估: 使用指标评估新提示的性能。
5. 部署: 部署性能最佳的提示进行推理。

DSPY 与传统方法的对比：

(传统方法) vs. (DSPY 方法)

DSPY 的应用案例：

• 检索增强型生成 (RAG): DSPY 共同优化检索和生成提示，解决静态 RAG 管道经常检索到无关信息的问题。
• 微调协调: 使用 DSPY 生成微调样本，简化微调过程。

DSPY 架构：

• 程序层: 用户定义的管道。
• 优化层: 远程编译器和指标。
• 模型层: 集成 LLM、向量数据库和外部工具。

结论：

DSPY 将范式从 提示工程 转变为 提示编程，将 提示 转化为构建强大、自我改进的 LLM 应用程序的工具。通过将提示转换为可训练模块并自动化优化，DSPY 帮助我们大规模高效地使用开源 LLM。 无论是构建 RAG 系统、多模态代理还是自适应管道，DSPY 都是关键。

请访问 DSPY 官方文档了解更多信息。

以上就是开源LLMS应该得到代码，而不是提示！ （DSPY，瞧！）的详细内容，更多请关注php中文网其它相关文章！