Measure Zero


  • About

  • Quotes

  • Notes

  • Sitemap

  • Search

CAR Bench Challenge 技术方案

2026-08-09 | ~ 2026-08-09 | LLM

背景

CAR-bench:车载语音 Agent 基准。

  • CAR-bench 简介
  • Challenge 最终排行榜
  • 技术报告原文

  • 254 个任务、58 个工具、19 条车载策略
  • 用户、环境、工具调用:评测器控制
  • 每题独立运行 3 次;Pass³ 要求 3 次全过
  • 一次错误调用、一次漏读前置状态、一次不合规回复:该 trial 归零

三类任务:

类型 额外困难 正确行为
Base 多轮工具操作、策略级联 先读状态,再按顺序执行
Hallucination 工具、参数或返回字段被移除 承认能力缺失;不盲调、不编造、不承诺完成
Disambiguation 用户没有给全取值 能内部消解则内部消解;需要时读取偏好;不猜

这个基准测的不是“偶尔能不能做成”,而是“能不能每次都守住边界”。

Read more »

读论文 - BM25 Wins at Scale

2026-08-05 | ~ | LLM

做企业 RAG 时,最容易被默认接受的一套叙事是:语料大了要上 embedding,复杂问题要上 agent,结构复杂再上 graph RAG。

这篇论文把它们放到同一条、跨度约 450 倍的语料规模曲线上,结论很不客气:小语料时文件系统 Agent 略好;语料约过 1,000 万 token 后,BM25 反超并持续领先。

论文:

  • BM25 Wins at Scale: A Scaling Study of Retrieval-Augmented Generation Paradigms
Read more »

读 Agent 新趋势 - goal, loop 和 loop engineering

2026-06-19 | ~ | LLM

Written by Codex with GPT-5.5 high

最近 AI coding 圈又出了一个新词: loop engineering.

如果只看 high level, 我现在会把它理解成一句话:

prompt engineering 是你怎么提示 agent; harness engineering 是你怎么给 agent 搭工作环境; loop engineering 是你怎么让一个系统代替你去提示 agent、检查结果、记录状态、决定下一步.

这不是说 prompt 没用了. 恰恰相反, loop 里面仍然到处都是 prompt, 只是你的工作重心从“一条一条写 prompt”挪到了“设计一个会不断产生 prompt 的系统”.

这篇主要想讲清楚四件事: goal 和 loop 到底差在哪, Codex / Claude Code / Cursor 各自怎么实现, 为什么最近大家说的 loop engineering 已经不只是一个 /loop 命令, 以及真正有用的 loop 应该留下些什么东西.

Read more »

读论文 - EnterpriseRAG-Bench

2026-06-04 | ~ | LLM

之前遇到过类似场景, 看看人家怎么做的. 下面是 codex GPT-5.4 high 写的.

仓库:

  • onyx-dot-app/EnterpriseRAG-Bench

论文:

  • EnterpriseRAG-Bench: A RAG Benchmark for Company Internal Knowledge
Read more »

读 Codex 源码 - memory 机制

2026-06-04 | ~ | LLM

Written by Codex with GPT-5.4 high

这版 Codex 的 memory, 如果只看 high level, 可以理解成一句话:

它不是“边聊边顺手记一些长期记忆”, 而是“先把旧会话离线蒸馏成 memory 仓库, 再在新会话里按需检索这个仓库”.

这点和 Claude Code 那种“session memory / auto memory”观感不太一样.

Codex 这套东西, 我会拆成 4 个关键词:

  • 读: 当前对话开始时, 把一个很短的 memory_summary.md 注入 prompt, 让模型知道该去哪里找旧经验
  • 召回: 真需要时, 先查 MEMORY.md, 再按需深入 skills/ 和 rollout_summaries/
  • 写: 后台异步跑两阶段 pipeline, 从历史 rollout 提炼 raw_memory, 再 consolidate 成正式 memory
  • 遗忘/降权: 通过 usage、diff、polluted 标记, 把不可靠或过时的记忆慢慢挤出去

所以它更像一个小型知识蒸馏系统, 而不是单纯的“长期笔记本”.

Read more »

【机翻】语音智能体中的记忆问题比你想象的更难

2026-05-18 | ~ | LLM
  • Memory in Voice Agents Is a Harder Problem Than You Think
Read more »

【机翻】语音智能体基础 101:能够与人对答的 AI 背后的架构

2026-05-18 | ~ | LLM
  • Voice Agents 101: The Architecture Behind AI That Talks Back
Read more »

【机翻】大多数 AI 产品不应该推出记忆功能

2026-05-17 | ~ | LLM

读下来感觉尬吹 Hermes. 其实作者讲的 memory 的点 Claude Code 早就做到了. 作者对 CC memory 的逆向工程是去年做的, 不是基于泄露的代码.

关于 AI 产品是否需要推出记忆功能的决策点可以参考.

  • Reverse Engineering ChatGPT, Claude, OpenClaw, and Hermes Convinced Me Most AI Products Shouldn’t Ship Memory
Read more »

读 Claude Code 源码 - 若干小功能 (recap, suggestion, insights)

2026-05-17 | ~ | LLM

小功能 away recap, prompt suggestion, insights.

Read more »

去年遇到的一个正则的坑

2026-05-03 | ~ | Tech

去年排查过一个性能问题. 一个包含很多正则替换的函数, 在处理几十万字符长度的文本时, 跑了 10 秒才完成. 最后定位到问题正则形式如下:

\s*xyz blahblah

几年前排查过 灾难性回溯 问题, 但这个正则的结构其实完全没有相关特征. 如果真的是灾难性回溯, 处理几十万字符的字符串早就卡死了, 而不是只跑 10 秒.

最后解决方案是先用

xyz blahblah

找 match, 再处理 leading spaces. 时延是毫秒内.

Read more »
1 2 … 20
Shiina

Shiina

知乎 豆瓣 bangumi Instagram Weibo
Creative Commons
RSS
© 2019 - 2026   Shiina   CC BY-NC-ND 4.0
RSS  
Powered by Jekyll
 
Theme NexT.Mist