## 17.5 进行重复性研究
在再现性危机爆发的几年里,有一个强有力的运动来开发工具来帮助保护科学研究的再现性。
### 17.5.1 预注册
获得最大吸引力的想法之一是 _ 预注册 _,其中一个将研究的详细描述(包括所有数据分析)提交给受信任的存储库(如[开放科学框架](http://osf.io)或[aspredected.org](http://aspredicted.org))。通过在分析数据之前详细说明一个人的计划,预注册提供了更大的信心,即分析不会受到 P-Hacking 或其他可疑的研究实践的影响。
预注册的效果已经在医学临床试验中看到。2000 年,国家心脏、肺和血液研究所(NHLBI)开始要求使用[clinical trials.gov](http://clinicaltrials.gov)上的系统对所有临床试验进行预注册。这为观察研究预注册的效果提供了一个自然的实验。当 Kaplan 和 Irvin(2015)研究了随着时间推移的临床试验结果时,他们发现 2000 年后临床试验的阳性结果数量比以前减少了。虽然有许多可能的原因,但似乎在研究注册之前,研究人员能够改变他们的方法,以找到一个积极的结果,这在注册后变得更加困难。
### 17.5.2 可复制实践
Simmons、Nelson 和 Simonsohn(2011)的论文提出了一套建议做法,以使研究更具可重复性,所有这些做法都应成为研究人员的标准:
> * 作者必须在数据收集开始之前决定终止数据收集的规则,并在文章中报告此规则。
> * 操作者必须为每个单元收集至少 20 个观察结果,否则将产生命令人信任服务的数据收集成成本。
> * 作者必须列出研究中收集的所有变量。
> * 操作者必须报告所有实验条件,包括失败的操作。
> * 如果消除了观察结果,则操作者还必须报告统计结果(如果包括这些观察结果)。
> * 如果分析包含协变量,则操作者必须报告分析的统计结果而不包含协变量。【htg12】【htg13】
### 17.5.3 复制
科学的一个标志就是复制(htg0)的思想,也就是说,其他研究人员应该能够进行相同的研究并获得相同的结果。不幸的是,正如我们在前面讨论的复制项目的结果中看到的,许多发现是不可复制的。确保研究的可复制性的最好方法是首先自己复制它;对于某些研究来说,这是不可能的,但只要有可能,就应该确保在新的样本中可以找到它。新的样本应该有足够的能量来找到感兴趣的效果大小;在许多情况下,这实际上需要比原始样本更大的样本。
在复制方面记住一些事情是很重要的。首先,复制尝试失败并不一定意味着原始发现是错误的;请记住,在 80%功率的标准水平下,仍然有五分之一的机会结果是无意义的,即使有真正的效果。出于这个原因,在我们开始相信任何重要发现之前,我们通常希望看到它的多重复制。不幸的是,包括心理学在内的许多领域在过去都未能遵循这一建议,导致“教科书”的发现很可能是错误的。关于 Daryl Bem 的 ESP 研究,涉及 7 项研究的大规模复制尝试未能复制他的发现(Galak 等人 2012 年)。
第二,记住,p 值并不能为我们提供一个发现复制可能性的度量。正如我们之前讨论过的,p 值是一个关于在特定的空假设下一个人的数据的可能性的陈述;它没有告诉我们关于发现实际上是真的概率的任何事情(正如我们在贝叶斯分析一章中所了解的)。为了知道复制的可能性,我们需要知道发现是真的概率,而我们通常不知道。
- 前言
- 0.1 本书为什么存在?
- 0.2 你不是统计学家-我们为什么要听你的?
- 0.3 为什么是 R?
- 0.4 数据的黄金时代
- 0.5 开源书籍
- 0.6 确认
- 1 引言
- 1.1 什么是统计思维?
- 1.2 统计数据能为我们做什么?
- 1.3 统计学的基本概念
- 1.4 因果关系与统计
- 1.5 阅读建议
- 2 处理数据
- 2.1 什么是数据?
- 2.2 测量尺度
- 2.3 什么是良好的测量?
- 2.4 阅读建议
- 3 概率
- 3.1 什么是概率?
- 3.2 我们如何确定概率?
- 3.3 概率分布
- 3.4 条件概率
- 3.5 根据数据计算条件概率
- 3.6 独立性
- 3.7 逆转条件概率:贝叶斯规则
- 3.8 数据学习
- 3.9 优势比
- 3.10 概率是什么意思?
- 3.11 阅读建议
- 4 汇总数据
- 4.1 为什么要总结数据?
- 4.2 使用表格汇总数据
- 4.3 分布的理想化表示
- 4.4 阅读建议
- 5 将模型拟合到数据
- 5.1 什么是模型?
- 5.2 统计建模:示例
- 5.3 什么使模型“良好”?
- 5.4 模型是否太好?
- 5.5 最简单的模型:平均值
- 5.6 模式
- 5.7 变异性:平均值与数据的拟合程度如何?
- 5.8 使用模拟了解统计数据
- 5.9 Z 分数
- 6 数据可视化
- 6.1 数据可视化如何拯救生命
- 6.2 绘图解剖
- 6.3 使用 ggplot 在 R 中绘制
- 6.4 良好可视化原则
- 6.5 最大化数据/墨水比
- 6.6 避免图表垃圾
- 6.7 避免数据失真
- 6.8 谎言因素
- 6.9 记住人的局限性
- 6.10 其他因素的修正
- 6.11 建议阅读和视频
- 7 取样
- 7.1 我们如何取样?
- 7.2 采样误差
- 7.3 平均值的标准误差
- 7.4 中心极限定理
- 7.5 置信区间
- 7.6 阅读建议
- 8 重新采样和模拟
- 8.1 蒙特卡罗模拟
- 8.2 统计的随机性
- 8.3 生成随机数
- 8.4 使用蒙特卡罗模拟
- 8.5 使用模拟统计:引导程序
- 8.6 阅读建议
- 9 假设检验
- 9.1 无效假设统计检验(NHST)
- 9.2 无效假设统计检验:一个例子
- 9.3 无效假设检验过程
- 9.4 现代环境下的 NHST:多重测试
- 9.5 阅读建议
- 10 置信区间、效应大小和统计功率
- 10.1 置信区间
- 10.2 效果大小
- 10.3 统计能力
- 10.4 阅读建议
- 11 贝叶斯统计
- 11.1 生成模型
- 11.2 贝叶斯定理与逆推理
- 11.3 进行贝叶斯估计
- 11.4 估计后验分布
- 11.5 选择优先权
- 11.6 贝叶斯假设检验
- 11.7 阅读建议
- 12 分类关系建模
- 12.1 示例:糖果颜色
- 12.2 皮尔逊卡方检验
- 12.3 应急表及双向试验
- 12.4 标准化残差
- 12.5 优势比
- 12.6 贝叶斯系数
- 12.7 超出 2 x 2 表的分类分析
- 12.8 注意辛普森悖论
- 13 建模持续关系
- 13.1 一个例子:仇恨犯罪和收入不平等
- 13.2 收入不平等是否与仇恨犯罪有关?
- 13.3 协方差和相关性
- 13.4 相关性和因果关系
- 13.5 阅读建议
- 14 一般线性模型
- 14.1 线性回归
- 14.2 安装更复杂的模型
- 14.3 变量之间的相互作用
- 14.4“预测”的真正含义是什么?
- 14.5 阅读建议
- 15 比较方法
- 15.1 学生 T 考试
- 15.2 t 检验作为线性模型
- 15.3 平均差的贝叶斯因子
- 15.4 配对 t 检验
- 15.5 比较两种以上的方法
- 16 统计建模过程:一个实例
- 16.1 统计建模过程
- 17 做重复性研究
- 17.1 我们认为科学应该如何运作
- 17.2 科学(有时)是如何工作的
- 17.3 科学中的再现性危机
- 17.4 有问题的研究实践
- 17.5 进行重复性研究
- 17.6 进行重复性数据分析
- 17.7 结论:提高科学水平
- 17.8 阅读建议
- References