四个算法怎么选
Tomov、Schulz、Gershman:Multi-Task Reinforcement Learning in Humans(2019)。不用先玩任务,直接拖动价格,看四种策略各自算了什么、选了哪间。
试玩任务
训练过程:如果在第 t 轮之后就来考试
训练共 100 轮,四种价格各 25 轮,顺序随机。拖动 t,上面四个模型只用前 t 轮的经验来答题。t = 100 就是论文里的第 101 轮测试。
房间里有什么(表 1)
只有 9 个终点房间(5–13)有资源,数量在整个实验里不变。走法固定:开始 → 房间 2/3/4 → 各自通向 3 个终点(2 → 5、6、7;3 → 8、9、10;4 → 11、12、13)。
这页怎么算的
论文的预测(各图 B)是让四个学习程序在任务里各跑 100 次得到的;完整实现在作者的补充材料和 github.com/tomov/MTRL。这一页用的是按正文描述的“学完以后”的理想版本,只为说清每种策略看什么、算什么:
- 基于模型:知道全部 9 个房间里有什么,用今天的价格逐个算 φ(s)·w,挑最大的。
- 无模型:不看今天的价格,只记每个房间在训练里平均挣多少(假设每间都试过足够多次),挑平均最高的。
- UVFA:学一个把价格也当输入的价值函数 Q(s, w)。这里用最简单的线性版:每个房间学一个系数向量 θ(s),让 θ(s)·w 拟合训练中的收益,取最小范数解。训练里第三种资源的价格一直是 0,所以 θ 的第三位学不到,只能是 0。
- SF&GPI:训练中每种价格都练出一条最优路线;每条路线记住它的后继特征 ψ(走到底能拿到多少①②③)。考试时只把这几条路线用新价格算 ψ·w,挑最大的。折扣 γ 对每条路线都一样(都是两步),比较时可以略去。