附录¶
第1部分¶
在Word/PowerPoint里使用公式¶
Latex/Unicode语法¶
LLM与AI Agent¶
第2部分¶
第3部分¶
基于模型(Model-based)与无模型(Model-free)¶
这组概念常用于强化学习与决策研究。
| 对比维度 | Model-free | Model-based |
|---|---|---|
| 核心机制 | 直接缓存动作价值(Q值) | 学习环境结构(转移+奖励)并前瞻规划 |
| 计算代价 | 低 | 高 |
| 适应变化 | 慢(需要重新试错) | 快(可利用模型推演) |
| 典型任务特征 | 重复习惯化、稳定环境 | 任务切换、结构变化环境 |
| 心理学对应 | 习惯系统 | 目标导向系统 |
实践中二者常混合存在,可用加权模型拟合:
\[Q^{mix} = w \cdot Q^{MB} + (1-w) \cdot Q^{MF}\]
其中 \(w\) 表示目标导向(model-based)权重。
嵌套模型与层次模型¶
这两个词在方法学中常被混用,但含义不同:
- 嵌套模型(Nested Models):一个模型是另一个模型的特例(可通过固定参数得到)
- 层次模型(Hierarchical Models):参数具有群体层和个体层结构(部分池化)
例1:嵌套关系
- 模型A:\(Q\) 学习有两个学习率 \(\alpha^+, \alpha^-\)
- 模型B:只有一个学习率 \(\alpha\)
- 当 \(\alpha^+ = \alpha^-\) 时,模型A退化为模型B
可用似然比检验或信息准则比较。
例2:层次建模
\[\alpha_i \sim \text{Beta}(a,b), \quad \beta_i \sim \text{LogNormal}(\mu_\beta, \sigma_\beta)\]
这里 \(i\) 是被试,\((a,b,\mu_\beta,\sigma_\beta)\) 是群体层参数。
层次模型优势:
- 个体参数估计更稳健(特别是试次数少时)
- 可直接检验群体差异
- 更符合心理学中“个体差异存在但共享机制”的研究场景
马尔科夫性、马尔科夫过程与部分可见马尔科夫¶
生成模型与反应模型¶
第4部分¶
4.1. 编程语言的基本元素¶
- 变量
- 数据类型
- 操作
- 赋值
- 循环
- 条件
- 类与对象
- 方法/函数
- 转义字符