LLM 在运筹学中的应用：方法、应用与挑战

大语言模型（LLM）在运筹学（OR）中的应用可以系统地划分为三大核心范式：自动建模（Automatic Modeling）、辅助优化求解（LLM-Assisted Optimization）和 LLM 主导的直接求解（LLM-Dominated Optimization Solving）。以下是对这三大范式、当前学术界/业界的聚焦点以及基准测试（Benchmarks）的总结。

一、LLM + OR 的三大核心范式深度解析

1. 自动建模范式（Automatic Modeling）

这是将自然语言问题转化为计算机可识别的数学模型的”桥梁”阶段。

基本逻辑与流程

核心在于翻译。LLM 接收自然语言描述的优化问题，将其转化为形式化的数学模型（如变量、目标函数、约束条件）或可执行代码（如 Python/Gurobi 代码）。流程通常包含五个步骤闭环：理解（解析目标与约束）→ 提取（识别决策变量等元素）→ 结构化（生成标准模型）→ 转译（生成求解器代码）→ 评估与反馈（运行代码并修正错误）。

主要子路径

• 基于提示词（Prompting）：通过多阶段或多智能体提示，引导 LLM 生成模型组件。
• 提示词与微调协同（Prompt-Fine-tuning Synergy）：结合 SFT 和提示工程，解决单一提示的不稳定性。
• 外部知识引导（Knowledge-Augmented）：引入 RAG 注入领域特定知识，处理复杂约束。

关键发表

• OptiMUS
• Chain-of-Experts
• LLaMoCo
• IndustryOR
• DROC 等

评估

具有工业应用价值，是实现”人人可用的运筹学”的关键，正从简单 MILP 向复杂图结构和非标准约束扩展。

2. 辅助优化求解范式（LLM-Assisted Optimization）

LLM 不直接给出最终解，而是充当算法设计师或搜索算子，辅助传统算法（如进化算法、强化学习）进行求解。

基本逻辑与流程

LLM 利用其代码生成能力和推理能力，生成启发式算法、搜索算子或奖励函数，与传统优化算法形成”感知-推理-反馈”闭环。

主要子路径

• 启发式结构进化（Heuristic Evolution）
• 多目标协同（Multi-Objective）
• 跨范式融合（Cross-Paradigm）

关键发表

• FunSearch
• EoH
• LMEA
• AEL
• ReEvo
• Hercules
• MEoH
• HSEvo
• PoH
• CALM
• EALG
• HeurAgenix
• GraphThought 等

评估

学术界最热门方向，结合了 LLM 的创造力与传统算法的严谨性，是通向”自动算法设计”的必经之路。

3. LLM 主导的直接求解范式（LLM-Dominated Optimization Solving）

LLM 被视为一个独立的”求解器”，直接输出最终解。

基本逻辑与流程

• 零建模：无需构建数学模型或编写算法代码，用户输入问题描述，LLM 直接输出解决方案。
• 通常利用 CoT 或 Meta-Prompt 技术，通过多轮对话引导 LLM 自我修正。

主要子路径

• 单模态：仅依赖文本交互。
• 多模态结构感知：结合视觉输入增强空间感知能力。

特点与局限

• 特点：通用性强，无需训练，交互灵活。
• 局限：容易产生幻觉，难以处理大规模问题或复杂约束，性能波动大。

二、学术界与业界当前的聚焦点

系统化与闭环

研究重心已从单点任务验证转向构建完整的智能优化系统，强调”生成-验证-修复”闭环。

核心聚焦范式

• 辅助优化（特别是启发式进化）是学术界的焦点：FunSearch 等工作证明了其发现新知识的潜力。
• 自动建模是工业界的应用热点：通过微调和 RAG 技术，该方向正变得越来越实用。
• 直接求解范式相对边缘化：目前更多用于简单问题或作为启发式初值生成器。

三、当前的基准测试总结

1. 针对"自动建模"能力的 Benchmark

• NL4OPT：早期基础基准。
• IndustryOR：工业覆盖面最广，含 16 个行业 1556 个问题。
• ComplexOR：高难度验证基准。
• MAMO、OptiBench / ReSocratic、EquivaMap 等。

2. 针对"求解与推理"能力的 Benchmark

• NLGraph、GraphArena、CO-Bench、FrontierCO、HeuriGym、ALE-Bench 等。

3. 针对"可解释性"的 Benchmark

• EOR：第一个工业级可解释性优化数据集。

更详细论文及应用见附录

1. 关键范式一：自动建模

1.1 基于提示词的路径

1.2 提示词与微调协同

1.3 外部知识引导机制

2. 关键范式二：辅助优化求解

2.1 启发式结构进化与策略优化

图：EoH（Evolution of Heuristics）方法框架

图：ReEvo（Reflective Evolution）方法框架

2.2 多目标优化协作

2.3 跨范式融合

3. 关键范式三：LLM 主导的直接求解

3.1 单模态生成优化

3.2 多模态结构感知

4. 综合基准测试

4.1 自动建模基准测试

4.2 优化求解基准测试