我们身处一个被数据包裹的时代，个性化推送、健康监测、各类排名，数字无时无刻不在影响我们的判断。其实数据本身并无意义，是人类的解读赋予了它意义，而如今更需要我们具有统计思维以应对数据塑造的壁垒。本文简要介绍“回归分析”：它如何帮我们预测、解释变量间的关系，又如何警示我们警惕“均值回归”的陷阱。统计学提醒我们，所有模型都有错误，但它们有时很有用。
本文经授权节选自《统计的艺术》（中信出版社2026年2月版）第五章“回归分析：用统计模型阐释关系”，有删改。
撰文 | 戴维·施皮格尔霍尔特（David Spiegelhalter）
翻译 | 韩潇潇
审校 | 周静（中国人民大学统计学院教授）
数据本身就只是数据而已。它们所蕴含的意义全是人类赋予的。
——《信号与噪声》（The Signal and the Noise），纳特·西尔弗（Nate Silver）
图表和统计量可以帮助我们直观地总结一组数据的特征，以及各变量之间的相关性。虽然这些基本工具的确非常有用，但现代的数据分析经常复杂得多，我们常常会面对一大串可能相关的变量，但其中只有一个是我们特别想了解或是特别想预测的，比如个人的患癌风险、国家的未来人口。本章我会向大家介绍一个非常重要的概念——统计模型（statistical model），它不仅可以描述变量之间的关系，也可以对数据进行解释、预测。虽然这会不可避免地引入一些数学知识，但它们的基本理念都很好理解，不用代数知识也可以弄懂。
不过首先我们还是将目光移回到弗朗西斯·高尔顿（Francis Galton）身上。高尔顿是维多利亚时代典型的“绅士科学家”，平时痴迷于数据收集，曾亲自观察、预测天气，评估祈祷效果，甚至还对比过全国各地年轻女性的貌美程度。他还和表哥查尔斯·达尔文一样喜欢研究遗传现象，并研究过个体特征在代际之间的演变方式。尤其是，他对下面这个问题格外感兴趣：
我们如何根据父母的身高来推测后代成年以后的身高？
1886 年，高尔顿统计了一大批父母及其成年子女的身高，表1展示了其中的大部分数据及相应的统计量。高尔顿的样本身高其实与现代成人的身高差不多（数据显示，2010 年英国成年女性和成年男性的平均身高分别为 63 英寸≈1.6米、69 英寸≈1.75米），这表明高尔顿的研究对象伙食较好，社会经济地位较高。
图1 展现了父子身高的散点图。父亲身高和儿子身高之间显然存在相关性，其皮尔逊相关系数为 0.39。如果我们想根据父亲的身高预测儿子的身高，具体该怎么做呢？直觉上来说，我们可以根据某条直线进行预测，比如刚好在两个坐标轴“中间”穿过的那条对角线，这条直线意味着儿子的身高总是等于父亲的身高。但这显然不够精确。
指定一条直线之后，每个数据点和这条直线之间都会产生残差（residual），即图中的竖直虚线，它表示的是“我们根据父亲身高预测出来的儿子身高”与“真实的儿子身高”之间的差值。我们希望找到一条让残差尽可能小的直线，标准的方法就是最小二乘法（least-squares method），这种方法可以让残差的平方值之和最小化。理论上说，我们可以通过“让残差的绝对值之和最小化，而不是平方值之和最小化”的方式来确定最佳拟合直线，但这个计算过程太复杂了，没有计算机的帮助很难实现。
这条直线的公式非常简单，最早为法国数学家阿德里安-马里·勒让德和卡尔·弗里德里希·高斯于 18 世纪末所发现。该直线通常又被称为“最佳拟合曲线”。有了这条线之后，我们就可以根据父亲身高推测儿子身高了。
表1 高尔顿于 1886 年记录的 197 对父母及其成年子女身高的统计表。即便不绘图，我们看到中位数和平均数如此接近，也能猜到数据大体上呈对称分布。
图1 父子身高的散点图。高尔顿收集到的 465 对父子身高的散点图（很多父亲的数据出现了重复，因为这些人有好几个儿子）。为了避免重叠，有些数据点在绘制时会略微调整位置。从左下至右上的虚线表示父亲和儿子的身高完全相等。实线是最佳拟合直线，每个点和这条直线之间都存在“残差”（竖直虚线）。本例中的残差指的是“我们根据父亲身高预测出来的儿子身高”与“真实的儿子身高”之间的差。
图1 中，根据最小二乘法画出来的直线穿过了全部数据点的中心（父亲身高与儿子身高的平均值），但这条直线并非刚才提到的对角线。很明显，当父亲身高大于平均值时，这条直线位于对角线下方；当父亲身高小于平均值时，这条直线位于对角线上方。这意味着，高个父亲的儿子往往比父亲矮，矮个父亲的儿子往往比父亲高。
高尔顿将这种现象称为“趋向平庸的回归”，而现代统计学则将其简称为均值回归（regression to the mean）。类似的现象也发生在母女之间：高个母亲的女儿往往比母亲矮，矮个母亲的女儿往往比母亲高，这就是本文想说的“回归”现象。现代统计学中，所有对数据进行直线拟合或曲线拟合的过程都被称为“回归”。基本的回归分析中，因变量是我们想要预测或解释的变量，通常用 y 轴来表示，该变量有时又被称为响应变量或反应变量。自变量是我们用来预测或解释的依据，通常用 x 轴来表示，该变量有时又被称为解释变量。直线的斜率又被称为回归系数（regression coefficient）。
表2 展现了父母身高与子女身高之间的相关性以及线性回归系数。事实上，回归系数、皮尔逊相关系数、标准差之间存在简单的数学关系。如果自变量和因变量的标准差相同，那回归系数（直线斜率）就等于皮尔逊相关系数，这就是表 2 中两列数值较为相似的原因。对回归系数的具体理解，取决于我们对被研究变量之间的关系做出了何种假设。对于具有相关性的数据来说，回归系数表示的是当自变量变化 1 个单位时，我们预计因变量会发生多大变化（平均来说）。
表2 父子身高、母女身高之间的相关性
例如，如果爱丽丝比贝蒂高 1 英寸，那我们就可以根据模型预测，爱丽丝的女儿成年后会比贝蒂的女儿成年后高 0.33 英寸。当然，这只是我们根据现有数据做出的最佳预测，我们并不能期望这个预测会和现实严丝合缝。
不过，如果我们假定变量之间存在因果关系，那回归系数的含义就会产生很大变化—它表示的是我们对自变量进行干预、将其提高 1 个单位后，因变量的预期变化。身高肯定不属于这种情况，因为身高无法通过实验手段改变，至少成年人是这样的。即便杰出的统计学家奥斯汀·布拉德福德·希尔（Austin Bradford Hill）已经为大家列出了详细准则，统计学家们还是很不喜欢在未经实验的情况下将某种现象归纳为因果关系。不过在朱迪亚·珀尔（Judea Pearl）等计算机科学家的努力下，人们在“利用观察性数据构建因果回归模型”方面已经取得了巨大进步。
回归分析依赖于统计模型
“根据父子身高数据进行回归分析，然后画出最佳拟合曲线”只是统计模型的一个基本案例。美国联邦储备委员会将模型定义为“根据一些简化过的假设条件，对世界某些性质做出的表述”。很多现象都可以被构建成数学模型，然后输入计算机，用来模拟简化后的现实世界。
统计模型主要由两部分构成。第一部分就是数学公式，这部分具有确定性、可预测性。例如，最佳拟合直线能够帮助我们根据父亲身高去推测儿子身高。不过模型中的确定性并不能在现实世界中完美复现。正如我们在图 1 中所看到的，大多数数据点都散落在回归线附近，预测值与真实值之间的差距就是模型的第二部分，即残差（或误差）——需要强调的是，在统计模型当中，“误差”并不意味着错误，而是意味着模型无法完美再现我们实际观察到的情况。因此，总的来说，我们的假设可以归纳为
观测结果 = 确定性的模型 + 残差（或误差）
我们可以这样理解该等式：在统计世界中，我们观测到的周边事物可以被视为“数学化的、理想化的系统模型”加上“一些尚无法解释的随机影响”。这就是经典的信号与噪声（signal and the noise）思想。
测速摄像头能减少交通事故吗？
我们现在可以明白一个道理：我们的行动确实会影响到一些事物，但事情的结果并不一定是我们造成的。在大多数情况下，我们并不容易分辨出行动与结果之间的关系。假定你现在有些头疼，然后吃了一片阿司匹林，不久之后头就不疼了。问题在于，你怎么知道在不服药的情况下，头疼会不会自行消失呢？
我们有一种“将事物变化归因于自己的干预行为”的强烈心理倾向，这种心理很容易让我们在分析前因后果的时候犯下错误。测速摄像头就是一个典型的例子，它往往会被安装在最近事故频发的路段。如果安装之后事故发生率下降了，人们就会把这种变化归因于摄像头的存在。但你怎么知道在不安装摄像头的情况下，事故发生率会不会下降呢？
好运和霉运都不会永远持续下去，最终一切都会回归平常——这也是均值回归的一种表现，就像高个父亲的儿子往往会比他们矮一样。不过，如果我们认为好运或霉运都是永恒的，那我们就会错误地认为，均值回归也是我们进行干预的结果。虽然道理很明显，但它的影响却非常广泛，比如
足球球队的经理在球队连续溃败之后被解雇了，新经理来了之后球队开始转败为胜，这本来是一种均值回归现象，但人们往往会认为新经理功不可没。主动型基金经理连续好几年业绩优秀，被人交口称赞（甚至可能会得到一大笔奖金），但不久之后其业绩开始一落千丈。著名的“体育画报诅咒”：运动员在取得了一系列辉煌成就之后，登上了著名杂志的封面，但不久之后他们的表现开始迅速下滑。
在各种体育赛事中，运气一直都发挥着相当大的作用。均值回归意味着很多时候，表现出色的球队在下一年状态会开始下滑，而表现糟糕的球队在下一年状态会开始上升，尤其是在球队实力相差不大的情况下。这种情况下，我们一般可以清晰地意识到，这应该是均值回归现象，而不是训练方法发生改变之类的人为因素的结果。
这种现象不仅仅发生在体育领域。以国际学生评价项目（PISA）中的全球教育排名为例，该榜单会对不同国家的数学教育体系进行比较。2003—2012 年，榜单顺序和初始顺序之间的差异越来越大，即排名靠前的国家呈下滑趋势，排名靠后的国家呈上升趋势，其相关系数为 -0.60。不过有一些理论表明，如果排名完全是偶然因素造成的，且所有变化都是均值回归现象，那么相关系数约为 -0.71，跟实际观测值相差不大。这意味着，各国教育水平之间的差异远没有榜单中那么大，排名的变化也跟教育理念的变化没太大关系。
均值回归现象也会出现在临床试验当中。我们需要以随机试验的方式来正确评估新药药效，其中对照组也会产生一定的药效，这就是所谓的安慰剂效应。很多人认为，这意味着糖片（红色为佳）也会对人体的健康状况产生积极影响。但是，对照组没有接受实际治疗却产生疗效，或许只是一种均值回归现象，因为所有实验对象都是身体已经出现了症状才被纳入试验的，就算不吃安慰剂，很多患者的症状也会自行缓解。
如此一来，如果想知道在事故多发路段安装测速摄像头的真正效果，我们就应当仿照药效评估的方法，在各路段随机安装测速摄像头。相关研究表明，所有摄像头能降低事故发生率的案例中，大约有 2/3 实际上是均值回归现象。
存在多个解释变量时，我们该怎么做
自高尔顿之后，回归思想已经得到了极大拓展，这很大程度上要归功于计算机技术的进步。这些拓展内容包括以下几种：
存在多个解释变量的情况；解释变量是类别而不是数字的情况；非线性的情况，以及相关性会随着数据分布的变化而快速变化的情况；响应变量不连续的情况，比如比例、计数。
解释变量不唯一的情况有很多，比如我们可以继续以身高为例，看看儿子身高与父母双方身高、女儿身高与父母双方身高之间的关系。相关数据的散点图是三维的，很难在纸面上展现出来，但我们仍然可以沿用最小二乘法的思想，计算出能够预测后代身高的最佳拟合公式，这就是所谓的多元线性回归（multiple linear regression；线性”指的是该方程由多个解释变量的“加权和”构成，权重依回归系数而定。这就是“线性模型”名字的由来）。当解释变量只有一个的时候，回归系数就是拟合直线的斜率；当解释变量不止一个的时候，回归系数的含义虽然有些许变化，但其根本思想仍然不变。
高尔顿调查到的数据如表 3 所示。其中的系数该如何理解呢？首先，这些系数是公式的一部分，它们可以帮助我们根据父母身高去预测成年后代的身高。解释变量已经过标准化处理（减去了样本均值）。如果想要预测儿子的身高，我们可以使用这个公式：69.2+0.33×（母亲身高-所有母亲平均身高）+ 0.41 ×（父亲身高-所有父亲平均身高）。
其次，它也可以说明在明显存在其他相关性的情况下，我们可以引入第三个因素，即混杂因素，然后进行分层分析。
表3 成年后代身高与父母双方身高的多元线性回归分析结果。
例如，我们已经在表 2 中看到，女儿身高与母亲身高之间的回归系数为 0.33——重申一下，回归系数就是最佳拟合直线的斜率。在表 3 中，如果我们将父亲身高也考虑进去，那么该系数会从 0.33降至 0.30。在预测儿子的身高时，如果将母亲身高也考虑进去，那父亲的回归系数同样会从表 2 中的 0.45 降为表 3 中的 0.41。
由此可见，如果同时考虑到父母双方的影响，那二者的相关性都会略微降低。这或许是因为高个女性往往会嫁给高个男性，所以母亲身高和父亲身高都不是一个完全独立的影响因素。总而言之，数据表明，父亲身高相差 1 英寸对后代身高造成的影响，比母亲身高相差 1 英寸对后代身高造成的影响要大。当研究人员对某一特定的解释变量尤其感兴趣，且为了平衡需要对其他变量进行“分层”时，往往会采用多元回归分析方法。
我们回头再来看看瑞典脑瘤研究，并以此来说明媒体报道对因果关系的扭曲。相应的回归分析中，肿瘤发病率是因变量（或称响应变量），受教育程度是自变量或称解释变量。其他纳入回归分析的因素包括诊断时的年龄，年份（自然年），地区（瑞典国内），婚姻状况和收入，这些都被认为是潜在的混杂因素。对混杂因素进行分层分析的目的，是尽量找出受教育程度和脑瘤发病率之间的关系，当然这只能是理想情况，毕竟我们无法面面俱到。人们总是担心，是不是还有其他潜在因素在起作用，比如受教育程度越高，接受的医疗服务质量越高、就诊次数越多。
在随机试验中，我们一般无须对混杂因素进行分层分析，因为随机分配过程已经保证了除主要治疗手段，其他所有因素都是平衡的。虽然如此，研究人员通常还是会进行回归分析，以防某些非平衡因素对试验产生影响。
各种不同类型的响应变量
并非所有数据都是连续的观测量，比如身高。在各种统计分析中，因变量既可以是事件发生与否的比例（比如术后存活率），也可以是计数（比如某年内某地区出现了多少例癌症）、事件发生前的时间长度（例如术后存活年数）等。每种因变量都有自己的多元回归形式，回归系数的含义也各有不同。
儿童心脏手术数据，图 2展现了 1991—1995 年布里斯托尔市儿童心脏手术的数据，包括每家医院的手术量和术后存活率。图 2 为这些数据的散点图，图中的回归线在计算时已经排除了布里斯托尔皇家儿童医院的极端值。
图2 儿童心脏手术数据的逻辑回归结果。1991—1995 年，每家医院的手术量和术后存活率的逻辑回归模型。手术量越大的医院，其患者的存活率越高。虽然这张图只是曲线的一部分，但它预测出来的存活率永远不会达到 100%。曲线在拟合时剔除了布里斯托尔皇家儿童医院这个离群值。
虽然我们可以利用这些数据点拟合出一条回归直线，但我们不能盲目地根据直线得出“手术量如果足够多，存活率可以超过100%”这种荒谬结论。因此在面对比例时，我们可以使用逻辑回归（logistic regression；又译逻辑斯谛回归、对数概率回归——译者注）模型，从而确保曲线的最大值不高于 100%，最小值不低于 0。
即便已经排除掉了布里斯托尔皇家儿童医院的数据，我们也能发现，医院手术量越高，其术后存活率就越高。逻辑回归系数（0.001）意味着在 4 年时间里，医院每多进行 100 例 1 岁以下儿童手术，死亡率就会降低 10% 左右。当然，我们已经强调很多遍，相关性不等于因果性，我们不能由此认为手术量大就是存活率高的原因：之前我们曾提到，这甚至可能是反向因果关系，即存活率越高的医院声誉就越好，前来就诊的患者也就越多。2001 年，这一结果刚刚公布时曾引发了广泛争议，人们一直在讨论英国到底有多少家医院适合开展此类手术，然而直到今天也没讨论出个结果。
各种不同的回归模型
一个多世纪以来，本文介绍过的这些统计工具一直都在各个领域中发挥着重要作用。不过随着大数据的普及、计算能力的提升，各种模型正变得越来越复杂。各研究群体所使用的建模策略大致可以归为以下四类：
用相对简单一些的数学形式去表示相关性，比如线性回归分析，这种思想往往受到统计学家的青睐；根据物理原理构建的、复杂的确定性模型，比如天气预报模型。这类模型旨在真实地反映内在机理，通常由应用数学家开发；用于决策或预测的复杂算法，通常是根据大量过往实例分析出来的，例如在线零售商会向你推荐你可能感兴趣的书籍。这些算法一般来自计算机科学和机器学习（machine learning）领域的“黑盒子”：虽然可以做出很不错的预测，但内部结构通常模糊不清；用来总结因果关系的回归模型，也是经济学家们最喜欢的模型。
由于内容比较专业，我们很难详细展开来讲。不过幸运的是，这种专业壁垒正在被打破，人们正在努力构建一种更普适的模型。不过，无论我们采用哪种策略，在建立、使用模型时都会遇到一些共同问题。
如果把现实比作地域，那模型就相当于地图。有些地图明显比其他地图好一些：在城市里面开车，一幅简化的地图可能就够了，但在乡村行走时，我们就需要一幅更详尽的地图。英国统计学家乔治·博克斯（George Box）曾说过这样一句名言：“所有模型都是错的，不过也有一些是有用的。”乔治·博克斯之所以能够总结出如此精辟的观点，是因为他一生都在为工业领域提供专业的统计知识，这段经历让他既认识到了模型的力量，也看到了过于相信模型所暗藏的危险。
这种至理名言总是很容易被人们遗忘。一旦某个模型被人们广泛接受，尤其是在它脱离了创造它们、清楚其局限性的人的管控之后，它就会逐渐被人捧上神坛。2007—2008 年席卷全球的金融危机，很大程度上要归咎于人们对那些用来确定金融工具（比如抵押贷款包）风险的复杂模型的过度信任，这些模型通常会假定抵押贷款违约事件之间的相关性并不大。虽然在房地产市场非常繁荣时，这类模型可以正常运作，但当情况发生变化、违约事件开始大规模出现时，这类模型就会出现巨大问题：真实的相关性远大于模型假定的相关性，这意味着模型严重低估了违约风险。那些高级经理完全忘记了这些模型的理论基础十分脆弱，忘记了模型只是真实世界的简化版——模型只是地图，而非实际土地。由此导致的结果就是严重程度数一数二的全球性经济危机。
作者&译者简介
作者简介
戴维·施皮格尔霍尔特（David Spiegelhalter）：英国皇家学会院士，剑桥大学统计学荣休教授，英国皇家统计学会前会长，当代最具影响力的统计学家与风险交流专家之一。曾长期任教于剑桥大学统计实验室，并于 2016—2023 年出任剑桥大学温顿风险与证据交流中心主任，致力于提升公众对定量证据的理解、呈现与使用能力。他长期为政府机构、国际组织及主流媒体解读统计数据，参与英国国家统计体系治理，并以卓越的科学传播能力闻名，善于将复杂的统计思想转化为清晰、可信的公共语言，深受公众推崇。
译者简介
韩潇潇：毕业于四川大学物理系，长期深耕于新闻、科普领域。曾担任《薛定饿了么》系列科普视频主编，译著有《贝叶斯定理》《宇宙小史》《万物本源》《数学的力量》等。
特 别 提 示
『返朴』提供按月检索功能。关注公众号，回复四位数组成的年份+月份，如“1903”，可获取2019年3月的内容目录，以此类推。