CATEGORY / ARCHIVE
论文笔记
26 篇记录，按时间排列。
Attention 阅读便笺：为什么要挡住未来位置
半页手写便笺：RNN 为什么难并行，解码器为什么要挡住未来位置。
读 SIA：同时改工作流程和模型权重
把改 harness 和改权重分开记：完整轨迹定位该改哪里，分数越好看越要回查。
打砖块卡在 387 分以后，代码改了哪里
Learning Beyond Gradients 的 Breakout 记录：先打破循环，再让扰动及时收手。
把日期解析错一次，究竟该记住什么
一次日期解析错误，读 From Storage to Experience：经验要写到不害下一份文件。
AFlow 搜出来的代码流程，修完以后还测了吗
沿 AFlow 搜出的 MBPP 工作流走一遍：修复稿直接返回，没有再测。
ADAS 生成的 Teacher、Student、Verifier 都做了什么
拆一份 ADAS 搜出的候选程序：Verifier 的结论，其实没人用。
Mem0：新记住一件事，要不要改掉旧的
板球和披萨两个例子看 Mem0 写入前怎么分新增、补充和冲突，以及它后来为什么只加不改。
助手替 Alice 选电影，哪些信息算记忆
用综述自带的电影推荐例子，分清这次取到的片单和以前留下的偏好。
τ-bench：四次成功三次，可靠性怎么算
同一份结果，问“至少成功一次”是 100%，问“每次都成功”只剩 50%；以及模拟用户本身有多不稳。
读 LATS 时，顺手追了一下 value
LATS 的 value 进选路公式前被多除了一次；这个写法在官方仓库没修，还被搬进了 LangGraph 教程。
LLMCompiler：四个查询，哪些可以一起跑
用官方海沟示例画出依赖：规划和调度各省掉哪一段等待。
Voyager 的技能库里，真的存着一把铁镐的做法
拆开 Voyager 技能库里的铁镐程序：存下代码之后，复用还差哪些前提。
MemGPT：找到一个值以后，为什么还要再查一次
从嵌套键值任务看 MemGPT：数据查得到，模型却可能停得太早。
MemoryBank 的遗忘曲线，论文和代码不太一样
同样叫记忆强度，论文公式里越强越难忘，代码里却越强忘得越快。
Smallville 的聚会为什么只来了五个人
12 人受邀、5 人到场：知道、想去和真去之间，差的是哪一环。
GraphRAG 的引用，怎样一路找到原文
从报告编号回查原文要走五步；再看 GraphRAG 的胜率口径、省下的 token 和提前付的索引账。
RAG 综述：一条报销规定是怎么被答错的
一条报销规定可能死在切块、重排或过期版本上：对照综述和后来的工具，逐步排查。
HyDE：假想文档可以用来找资料，不能顺手当资料
假想文档只管拿什么去查：HyDE 的完整成绩单、失败案例，以及后来的复测为什么不太乐观。
ReWOO：计划里的
跟着买鸟题看
Toolformer 怎样筛掉一次没用的工具调用
调用成功不够，返回得让后文更好预测：Toolformer 的筛选阈值、数据量和它后来的样子。
Tree of Thoughts：24 点算到一半，怎么留下另一条路
先定义中间状态，再生成、评价、选择，一棵搜索树要的就是这几步。
Self-Consistency：让同一道题多做几遍，再统计答案
采样、答案归一、多数票各管一段；票数多不等于答案对。
CoT 提示词怎么写，解题过程又该怎么看
从带步骤的示例开始，看收益在哪、在哪失效，论文里也有答案对、解释写反的题。
Reflexion 的反思记录里，也有反复诊断错的题
两条官方记录：看反思怎样进入代码，以及一条把错误解释坚持到底的反思。
ReAct：给语言模型接上一个能用的工具循环
Thought、Action、Observation 三步一轮，关键是搜索结果真的送回下一轮；附失败分类和后来者怎么改它。
Plan-and-Solve 的计划到底帮了哪一步
用原论文的百分比题对照 PS 提示，再看它主要减少了哪类错误。