Model linier

Dina statistik modél linier bisa ditembongkeun ku nyebutkeun

• $Y=X\beta +\epsilon$

di mana Y mangrupa nx1 vektor kolom variabel random, X mangrupa matrik kuantitas nxp "dipikanyaho" (contona, bisa di-observasi sarta non-random), vektor baris pakait jeung statistical unit, β mangrupa px1 vektor paraméter (teu ka-observasi), sarta ε mangrupa nx1 vektor "error", nu teu pakait ka variabel random nu mibanda nilai ekspektasi 0 sarta varian σ². Salawasna komponen vektor kasalahan nu dicokot bakal independent sarta kasebar normal. Anggap nilai X sarta Y ka observasi, statistikawan kudu nga-estimate β sarta σ². Sacara tipikal paraméter β di-estimasi maké métodeu least squares.

Tinimbang nyokot varian ε jadi σ²I, nu mana I mangrupa nxn matrik identitas, anggap varian mangrupa σ²M, nu mana M mangrupa matrik séjén nu dipikanyaho salian ti matrik identitas, mangka estimate β maké métodeu "generalized least squares", nu mana, ku ngaminimalkeun kuadrat residu, minimalkeun bentuk béda kuadrat dina residu—bentuk kuadrat dibérékeun ku matrik M⁻¹. Lamun sakabéh diagonal dina matrik M sarua jeung 0, mangka estimasi normal β ku métodeu "weighted least squares", nu mibanda beurat sarua jeung diagonal asupan.

Linear regression ordiner mangrupa topik nu raket pakait.

Generalisasi

Generalisasi model linier

Generalized linear models, tinimbang

• E(Y)=Xβ,

leuwih ilahar

• f(E(Y))=Xβ,

di mana f mangrupa "fungsi pakait". Contona "model regresi Poisson", ku nuliskeun

• Y_i mibanda sebaran Poisson nu mibanda nilai ekspektasi e^γ+δx_i.

Fungsi pakait mangrupa fungsi logaritma natural. Observasi nu dipiboga x_i sarta Y_i keur i=1,...,n, bisa nga-estimasi γ and δ ku métodeu maximum likelihood.

Model linier general

General linear model (atawa multivariate regression model) mangrupa modél linier nu mibanda sababara ukuran dina unggal obyek. Unggal obyek diwakilan dina bentuk vektor.