非参数回归指的是一类回归分析，其中的预测子不是预先确定的，而根据从数据中获得的信息。也就是说，预测子与因变量之间的关系不会假定为参数形式。非参数回归需要更大的样本量，因为数据必须提供参数模型结构和模型估计值。 非参数回归中，有随机变量 X {\displaystyle X} 、 Y {\displaystyle...

统计学中，半参数回归包括结合了参数模型和非参数模型的回归模型。它们通常用于完全非参数模型可能表现不佳的情况，或者研究人员希望使用参数模型，但与回归子集有关的函数形式或误差密度不为人知的情况。半参数回归模型是半参数建模的一种特殊类型。半参数模型包含参数成分，依赖于参数假设，可能会出现规范误差与不一致的情况。...

关系（在自变量和因变量的条件均值之间）。这与非参数回归的目标类似，非参数回归旨在捕获非线性回归关系。因此，诸如平滑的非参数回归方法可以是多项式回归的有效替代方案。这些方法中的一些利用了经典多项式回归的局部形式。 传统多项式回归的一个优点是可以使用多元回归的推理框架（当使用其他基函数族，如样条函数时也是如此）。...

在统计学中，线性回归（英語：linear regression）是利用称为线性回归方程的最小平方函數对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量的情况称为简单回归，大于一个自变量情况的叫做多元回归（multivariable...

邏輯斯諦迴歸（英語：Logistic regression，又譯作邏輯斯迴歸、羅吉斯迴歸、邏輯迴歸、对数几率迴归），在统计学中是一種对数几率模型（英語：Logit model，又译作逻辑斯谛模型、评定模型、分类评定模型），是离散选择法模型之一，属于多元变量分析范畴，是社会学、生物统计学、临床、数量心...

核回归（又称局部加权线性回归）是统计学中用于估计随机变量的条件期望的非参数方法。目的是找到一对随机变量X和Y之间的非线性关系。 在任何非参数回归中 ，变量的条件期望 Y {\displaystyle Y} 相对于变量 X {\displaystyle X} 可以写成： E ⁡ ( Y | X ) =...

横截面回归 曲线拟合 经验贝叶斯方法 逻辑斯蒂回归 M估计 非参数回归 多元自适应回归样条 Lack-of-fit sum of squares 截断回归模型 删失回归模型 简单线性回归 分段线性回归 非线性最小二乘法 曲线拟合 广义线性模型 局部回归 RJOosterbaan，1994，频率和回归...

{I_{p+1}} } 方差分析 安斯库姆四重奏 横截面回归 曲线拟合 经验贝叶斯方法 邏輯斯諦迴歸 M估计 非线性回归 非参数回归 多元自适应回归样条 Lack-of-fit sum of squares 截断回归模型 删失回归模型 简单线性回归 分段线性回归 Theil, Henri. Best Linear...

回归中的多重共线性问题特别有用，这种问题通常出现在具有大量参数的模型中。一般来说，该方法提高了参数估计问题的效率，以换取可容忍的偏差量（参见偏差-方差权衡）。 该理论最初由Hoerl和Kennard于1970年在他们发表在《Technometrics》上的论文《RIDGE回归：非正交问题的偏差估计》（英語：RIDGE...

在统计学上，泊松回归（英語：Poisson regression）是用来为计数资料（英语：Count data）和列联表建模的一种回归分析。泊松回归假设因变量（英语：response variable）Y是泊松分布，并假设它期望值的对数可由一组未知参数进行线性表达。当其用于列联表分析时，泊松回归模型也被称作对数-线性模型。...

Estimation；MLE） 回归模型主要包括以下变量： 未知参数，记为 β {\displaystyle \beta } ，可以代表一个标量或一个向量。 自变量， X {\displaystyle \mathbf {X} } 。 因变量， Y {\displaystyle Y} 。 回归模型将 Y {\displaystyle...

相互独立性——機率論名詞 非参数回归 非参数统计 非抽样误差 正态分布——常见的描述连续性数据的概率分布 正态概率图 零假设——統計檢定的一類假說 民意调查——對公眾意見的社會調查 最优决策 最优设计 异常值——統計時，與其他數據有顯著差異的值 p值——統計學名詞 成对独立 统计参数——統計學名詞 粒子滤波器...

四组数据的具体取值如下所示。其中前三组数据的x值都相同。 方差分析 横截面回归 曲线拟合 经验贝叶斯方法 逻辑斯蒂回归 M估计 非线性回归 非参数回归 多元自适应回归样条 Lack-of-fit sum of squares 截断回归模型 删失回归模型 简单线性回归 分段线性回归 F.J. Anscombe, "Graphs...

在统计学与计量经济学所使用的时间序列分析中，自回归单整移动平均模型（ARIMA）和季节性ARIMA模型（SARIMA）分别是自回归移动平均模型（ARMA）向非平稳序列和周期性变化情形的推广。所有这些模型都是为了更好地理解时间序列并预测未来值而拟合的。这种推广的目的是使模型尽可能贴合数据。具体而言，A...

在稳健统计中，稳健回归试图克服传统回归分析的一些局限性。回归分析对自变量与因变量的关系进行建模。普通最小二乘法等标准类型的回归，在基本假设为真时有有利的特性，但其他情形下可能产生误导（即对违背假设的情形不稳健）。稳健回归法旨在限制底数据生成中违反假设的情形对回归估计的影响。 例如，最小二乘估计的回归...

檢定整條迴歸模型是否具有解釋力，此即Overall F檢定 (Overall F test) 。 檢定迴歸模型中特定自變數是否具有解釋力，即偏迴歸係數是否為零，此即偏F檢定（Partial F test) 。 F检验对于数据的非...

回归中的多重共线性问题特别有用，这常见于有大量参数的模型中。总的来说，这种方法提高了参数估计的效率，但也有可容忍的偏差（见偏差-方差权衡）。 该理论于 1970 年由 Hoerl 与 Kennard 发表在《技术计量学》上的文章《岭回归：非正交问题的偏估计》及《岭回归：非...

square error），這個分母是样本大小减去模型要估计的参数的量。這個回归模型当中有两个未知的参数（ β 0 {\displaystyle \beta _{0}} 與 β 1 {\displaystyle \beta _{1}} ）。 而這些参数估计的标准误差（standard error）為： σ...

误差和残差 線性回歸 線性模型（英语：Linear model） 一般线性模型 廣義線性模型 簡單線性迴歸 普通最小二乘法 贝叶斯回归（英语：Bayesian linear regression） 方差分析 协方差分析（英语：Analysis of covariance） 非线性回归 非参数回归模型（英语：Nonparametric...

统计学中，主成分回归（PCR）是一种基于主成分分析（PCA）的回归分析方法。更确切地说，PCR用于估计标准线性回归模型中的未知参数。 PCR不是直接将因变量与解释变量进行回归，而是将解释变量的主成分作为回归量。一般只使用所有主成分的一个子集用于回归，因此PCR是一种正则化过程，也是一种收缩估计量。...

统计学中，贝叶斯多元线性回归是一种多元线性回归（预测结果为相关随机变量向量，而非标量随机变量的线性回归）的贝叶斯推断方法。这种方法的更一般论述见最小均方误差。 考虑一回归问题，其中需要预测的自变量不是实标量而是相关实数组成的m维向量。与标准回归设置一样，有n个观测值，其中每个观测i包含k−1个解释变量，归为k维向量...

在統計學中，簡單線性迴歸是指僅具有單一的自變數的線性迴歸，其中「簡單」係單一自變數之意。此迴歸可用於估計有限的截距與斜率以推論應變數在特定自變數為條件下的均值。 普通最小二乘法是常見用於尋求簡單線性迴歸式的方法，目的是得到能使殘差平方和最小的迴歸式。其它方法，諸如最小絕對偏差（英语：Least absolute...

随机区组设计（Block randomization）又称配伍设计、配伍组设计，通常是将受试对象（样本）按性质（如病人的年龄、性别、血压、体重等非实验因素）相同或相近者分成若干组（配伍组），每个组中的受试对象（样本）分别随机分配到不同的处理组中去。 随机区组设计这种设计方法利用区组方法分离出由...

非线性最小二乘法是非线性形式的最小二乘法，用包含n个未知参数的非线性模型拟合m个观测值（ m ≥ n {\displaystyle m\geq n} ），可用于某些形式的非线性回归。该方法的基础是使用线性模型近似并通过连续迭代来优化参数。它与线性最小二乘法既有相同之处、也有一些显著差异。 考虑一组 (...

以根据这个函数预测结果。监督学习的训练集要求是包括输入和输出，也可以说是特征和目标。训练集中的目标是由人标注的。常见的监督学习算法包括回归分析和统计分类。监督学习和非监督学习的差别就是训练集目标是否有人为标注。他们都有训练集 且都有输入和输出 无监督学习：与监督学习相比，训练集没有人为标注的结果。常...

人中，每人血红蛋白量的测定值；等等。另有一些现象并不直接表现为数量，例如人口的男女性别、试验结果的阳性或阴性等，但我们可以规定男性为1，女性为0，则非数量标志也可以用数量来表示。这些例子中所提到的量，尽管它们的具体内容是各式各样的，但从数学观点来看，它们表现了同一种情况，这就是每个变量都可以随机地...

林希虹，北京人，美籍华裔统计学家，哈佛大学生物统计学系教授。她的研究领域包括混合模型、非参数和半参数回归、统计遗传学与基因组学等。 林希虹于1984年考入清华大学应用数学系，1989年获学士学位。此后前往美国留学，先后就读于爱荷华大学、华盛顿大学。她曾师从著名生物统计学家诺曼·布雷斯洛（Norman...

误差和残差 線性回歸 線性模型（英语：Linear model） 一般线性模型 廣義線性模型 簡單線性迴歸 普通最小二乘法 贝叶斯回归（英语：Bayesian linear regression） 方差分析 协方差分析（英语：Analysis of covariance） 非线性回归 非参数回归模型（英语：Nonparametric...

operator，又译最小绝对值收敛和选择算子、套索算法）是一种同时进行特征选择和正则化（数学）的回归分析方法，旨在增强统计模型的预测准确性和可解释性，最初由斯坦福大学统计学教授罗伯特·蒂布希拉尼于1996年基于Leo Breiman的非负参数推断（Nonnegative Garrote,...

在确定模型复杂度时，简单地计算各模型中参数的数量是不可靠的，还需要考虑参数的表达方式。举例来说，直接比较带有 m 个参数的神经网络（它能够跟踪非线性关系）和带有 n 个参数的回归模型是非平凡的。 过拟合尤其容易在训练迭代次数相对有限训练样本过多的时候。此时，模型会拟合训练数...

参数，对分子生理活性进行回归分析，建立化学结构与生理活性相关性模型的一种药物设计方法，常见的二维定量构效关系方法有Hansch方法、Free-wilson方法、分子连接性方法等，最为著名和应用最广泛的是Hansch方法 活性参数是构成二维定量构效关系的要素之一，人们根据研究的体系选择不同的活性参数...