残差

残差　　residual　【イラスト図解】

英語：residual　　　　　　　　　　　　　中国語：残差

残差とは

｢応答変数における観測値と予測値との差.｣(Z 8101-3)

前者をｙ，後者をｆとしたとき，通常　ｙ－ｆで定義される．

ｙを予測するため想定したモデルに依存して定まる．→残差分析，回帰診断

引用先：クォリティーマネジメント用語辞典　日本規格協会

回帰分析の場合の残差

残差は推定したモデルによって説明できずに残った差ですので、目的変数は説明変数と直線的な関係にあると考える回帰分析においては、回帰直線と各観測データとの垂直方向のズレが残差となります。

残差分析とは

英語：residual　analysis　　　　　　　中国語：残差分析

回帰診断において，仮定したモデルの妥当性を調べるために，測定値からその予測値を引いた残差を分析すること．

例えば線形モデルにおいては,(しばしば暗黙のうちに)誤差項の独立性,不偏性，等分散性，正規性が仮定されている．

残差は誤差項の推定値であり，もしモデルが正しければ残差もこれらの性質を近似的に満たすはずである．

これを確認する簡便で強力な方法は，さまざまな横軸に対して残差をプロットし，そのパターンのランダム性からのずれを検出することである．

以下に横軸と，それによって検出できるずれの方向を例示する.

①観測時点(系列相関の存在)．

②予測値，説明変数(非線形性，分散の非均質性，外れ値)．

③正規スコア(外れ値，誤差分布のすその重さ).残差そのものでなく，標準誤差で除した基準化した残差を用いることもある．

ただし，Ｓは残差の標準偏差，hiはi番目の観測値のレベレッジである．

誤差項間の時系列的な相関，すなわち系列相関の存在を検定するにはタービン・ワトソン比を用いるが，これでは高次の相関や周期性は検出できないことに注意すべきである．

現在では，線形モデルに限らず，一般化線形モデルなど，多くのモデルの下で　「残差分析」の方法が考えられている.

引用先：クォリティーマネジメント用語辞典　日本規格協会

 

残差と誤差 違い

「誤差」は、母集団の真の回帰式から算出される値（真値）と実際に測定された値（実測値）との差を表す。

一方、「残差」は標本集団のデータを用いて推計された回帰式から得られた値（予測値）と実際に測定された値（実測値）との差を表す。 従って、誤差は計算で求められないが、残差は計算で求められる。

つまり、「誤差」は求めようとする真の回帰式から算出される値と実際のデータとの差を表します。真の回帰式はあくまでも理論的なものであるため、誤差を計算で求めることはできません。

一方の「残差」は実際のデータを用いて推定された回帰式から算出される値と実際のデータとの差を表します。誤差とは異なり残差は計算で求められます。