附录

第1部分

在Word/PowerPoint里使用公式

Latex/Unicode语法

LLM与AI Agent

第2部分

第3部分

基于模型(Model-based)与无模型(Model-free)

这组概念常用于强化学习与决策研究。

对比维度 Model-free Model-based
核心机制 直接缓存动作价值(Q值) 学习环境结构(转移+奖励)并前瞻规划
计算代价
适应变化 慢(需要重新试错) 快(可利用模型推演)
典型任务特征 重复习惯化、稳定环境 任务切换、结构变化环境
心理学对应 习惯系统 目标导向系统

实践中二者常混合存在,可用加权模型拟合:

\[Q^{mix} = w \cdot Q^{MB} + (1-w) \cdot Q^{MF}\]

其中 \(w\) 表示目标导向(model-based)权重。

嵌套模型与层次模型

这两个词在方法学中常被混用,但含义不同:

  • 嵌套模型(Nested Models):一个模型是另一个模型的特例(可通过固定参数得到)
  • 层次模型(Hierarchical Models):参数具有群体层和个体层结构(部分池化)

例1:嵌套关系

  • 模型A:\(Q\) 学习有两个学习率 \(\alpha^+, \alpha^-\)
  • 模型B:只有一个学习率 \(\alpha\)
  • \(\alpha^+ = \alpha^-\) 时,模型A退化为模型B

可用似然比检验或信息准则比较。

例2:层次建模

\[\alpha_i \sim \text{Beta}(a,b), \quad \beta_i \sim \text{LogNormal}(\mu_\beta, \sigma_\beta)\]

这里 \(i\) 是被试,\((a,b,\mu_\beta,\sigma_\beta)\) 是群体层参数。

层次模型优势:

  1. 个体参数估计更稳健(特别是试次数少时)
  2. 可直接检验群体差异
  3. 更符合心理学中“个体差异存在但共享机制”的研究场景

马尔科夫性、马尔科夫过程与部分可见马尔科夫

生成模型与反应模型

第4部分

4.1. 编程语言的基本元素

  • 变量
  • 数据类型
  • 操作
  • 赋值
  • 循环
  • 条件
  • 类与对象
  • 方法/函数
  • 转义字符

4.2. Debug与调试的基本方法

嵌套式错误信息

断点与条件断点

查看变量

逐步、步入、步出

第5部分

第6部分

第7部分