Jane Street (简街)

Jane Street(简街)是全球顶尖的量化交易与造市商机构,也是全球最大的 OCaml 函数式编程语言使用者。在 AI 时代,简街通过自研 AI 辅助研发架构与微调专属模型,将大语言模型(LLM)深度整合入其独特的专有技术栈。

1. 极其独特的 OCaml 软硬件生态

简街在内部使用 OCaml 语言编写了几乎全部的系统和软件,构建了一套与公网开源世界完全不同的“特异生存环境”:

  • Web 应用:由于 Web 应用必须运行在浏览器中,简街利用自研的 JS of OCaml(OCaml 字节码转 JavaScript 转译器)将 OCaml 代码编译为 JS 运行。
  • Vim 插件:基于 VCaml 转译器,用 OCaml 编写 Vim 插件并转译为 Vimscript。
  • 硬件开发:其 FPGA 工程师不直接编写 Verilog/VHDL,而是通过基于 OCaml 的 HardCaml 库生成硬件级描述。
  • 自研基建:自研了高度定制的分布式构建系统、单体大仓(Mono Repo)、专有代码评审系统 Iron,以及使用 Mercurial 代替 Git 作为版本控制。约 67% 的员工使用 Emacs 编辑器。

Source: 2026-06-21-xiaohongshu-xhslink-com-o-3cfKySny0V0(来源未公开)

2. 专有小众语言微调专有 LLM 的实践

由于 OCaml 极其小众,公网 LLM 的训练数据中 OCaml 占比微乎其微(简街内部拥有的 OCaml 代码总量可能多于外部世界的总和),直接使用市面上的通用模型编写 OCaml 效果极差。因此简街在微调自研代码模型时,探索出了一套独特的训练及对齐流程:

🎯 微调目标设定

简街最初尝试直接投喂代码的 Naive 模式但以失败告终。随后将其目标重构为:在编辑器中根据人类 Prompt 自动生成多文件 Diff(最高约 100 行)。这要求 Diff 应用后不仅没有格式错误,且必须以极高概率通过静态类型检查(Type Checking)。

🛠️ 训练数据收集:工作区快照法 (Workspace Snapshotting)

传统 PR 描述过于宏观,而 Commit Log 多为 Checkpoint 且缺乏有效说明,均不能直接用于微调。简街采用了工作区快照法:

  1. 快照抓取:每 20 秒对所有开发者的工作站及其实时编译状态(Build Status)进行快照。
  2. 错误修复模式提取:通过分析编译状态从 Green(通过) -> Red(报错) -> Green(修复) 的状态转换,提取出由 Red 状态的编译/类型错误到 Green 状态的 Diff。这部分数据被作为模型“如何修复错误”的黄金训练集。
  3. Prompt 自动生成:使用大模型对上述 Diff 先生成极其详尽的代码修改描述,然后通过多轮逐步过滤与压缩,将其精炼至符合人类工程师在编辑器中编写的简短 Prompt 尺度,最终合成“Context + Prompt + Diff”的微调样本。

Source: 2026-06-21-xiaohongshu-xhslink-com-o-3cfKySny0V0(来源未公开)

⚖️ 强化学习与 CES 评估服务

简街采用强化学习(RL)对齐模型能力,核心评判指标为代码能否在单体大仓中通过静态类型检查、编译并跑通测试。

  • CES (Code Evaluation Service,代码评估服务):为避免测试流程耗时过长,简街设计了预热机制。CES 预热了处于 Green 状态的编译分支,多台 Worker 机器全天候不断提取模型生成的 Diff,应用至分支中并极速评估编译与测试结果,实时反馈给强化学习系统,实现了代码可用性的端到端对齐。

Source: 2026-06-21-xiaohongshu-xhslink-com-o-3cfKySny0V0(来源未公开)

3. AID 边车架构与编辑器整合

简街支持 Emacs、VS Code 及 Neovim 三款编辑器。为避免编写多套重复的上下文构建与模型调用代码,其自研了 AID (AI Development Environment / AIDE) 架构:

  • Sidecar 模式:AID 作为一个“边车”服务后台运行在工程师本地机器上。所有的上下文收集、Prompt 拼接、模型调用、指标采纳率统计均在边车中完成。
  • 极薄集成层:三款编辑器的插件层极其轻量,仅需作为交互界面。例如 VS Code 提供直观的多文件 Diff 侧边栏,Emacs 则整合进原生的 Markdown 缓冲区。
  • 热升级优势:当模型、RAG 检索方式或 Prompt 策略更新时,系统团队无需迫使工程师重启编辑器,只需在后台重载 AID 边车服务,即可让全公司的开发者瞬间使用到最新版 AI 助手。
  • A/B 测试:AID 支持流量的分流与控制(如 50% 员工使用模型 A,50% 使用模型 B),通过监控接受率指标验证自研模型的迭代成效。

Source: 2026-06-21-xiaohongshu-xhslink-com-o-3cfKySny0V0(来源未公开)