Designmatrix - Versionsgeschichte

JonskiC: JonskiC verschob die Seite Benutzer:JonskiC/Designmatrix nach Designmatrix: +WL

2019-11-04T23:21:50Z

JonskiC verschob die Seite Benutzer:JonskiC/Designmatrix nach Designmatrix: +WL

← Nächstältere Version	Version vom 5. November 2019, 01:21 Uhr
(kein Unterschied)

JonskiC: +WL

2019-11-04T23:21:40Z

+WL

← Nächstältere Version		Version vom 5. November 2019, 01:21 Uhr
Zeile 1:		Zeile 1:
			#WEITERLEITUNG [[Datenmatrix]]
	{{Importartikel}}
	{{Baustelle}}
	Der Begriff Designmatrix (engl. design matrix) auch Datenmatrix kommt aus dem Teilgebiet Experimental Design, das sich mit dem statistisch optimalen Entwurf von Experimenten beschäftigt. In diesem Fall umfasst die Designmatrix alle Werte der unabhängigen Variablen. Da die Gesamtheit dieser Werte das experimentelle Design bestimmen, wird diese Matrix verwendet um ein bestimmtes Design zu charakterisieren.

	Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:

	== In der einfachen linearen Regression ==
	Im Folgenden wird die einfache lineare Regression anhand eines Beispiels dargestellt.

	Eine renommierte Sektkellerei möchte einen hochwertigen Rieslingsekt auf den Markt bringen. Für die Festlegung des [[Abgabepreis]]es soll zunächst eine [[Preis-Absatz-Funktion]] ermittelt werden. Dazu wird in <math>n = 6</math> Geschäften ein Testverkauf durchgeführt und man erhält sechs Wertepaare mit dem jeweiligen Ladenpreis einer Flasche <math>x</math> (in Euro) sowie der Zahl der jeweils verkauften Flaschen <math>y</math>:

	{\| class="wikitable zebra" style="text-align:right"
	\|-
	\| align="left" \| '''Geschäft''' <math>i</math>
	\| 1
	\| 2
	\| 3
	\| 4
	\| 5
	\| 6
	\|-
	\| align="left" \| '''Flaschenpreis''' <math>x_i</math>
	\| 20
	\| 16
	\| 15
	\| 16
	\| 13
	\| 10
	\|-
	\| align="left" \| '''verkaufte Menge''' <math>y_i</math>
	\| 0
	\| 3
	\| 7
	\| 4
	\| 6
	\| 10
	\|}

	In [[Matrix (Mathematik)\|Matrixform]] kann das Beispiel verallgemeinert wie folgt dargestellt werden:
	:<math>
	\begin{pmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \end{pmatrix}
	=
	\begin{pmatrix}1 & x_1 \\1 & x_2 \\1 & x_3 \\1 & x_4 \\1 & x_5 \\1 & x_6 \end{pmatrix}
	\begin{pmatrix} \beta_1 \\ \beta_2 \end{pmatrix}
	+
	\begin{pmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \end{pmatrix}
	</math>

	== In der multiplen linearen Regression ==

	:<math>\mathbf{X}=
	\begin{pmatrix}
	x_{11} & x_{12} & \cdots & x_{1k} & \cdots & x_{1K}\\
	x_{21} & x_{22} & \cdots & x_{2k} & \cdots & x_{2K}\\
	\vdots & \vdots & \ddots & \vdots & \ddots & \vdots\\
	x_{t1} & x_{t2} & \cdots & x_{tk} & \cdots & x_{tK}\\
	\vdots & \vdots & \ddots & \vdots & \ddots & \vdots\\
	x_{T1} & x_{T2} & \cdots & x_{Tk} & \cdots & x_{TK}
	\end{pmatrix}
	</math>

JonskiC: +

2017-12-10T22:06:34Z

← Nächstältere Version		Version vom 11. Dezember 2017, 00:06 Uhr
Zeile 4:		Zeile 4:

	Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:		Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:

			== In der einfachen linearen Regression ==
			Im Folgenden wird die einfache lineare Regression anhand eines Beispiels dargestellt.

			Eine renommierte Sektkellerei möchte einen hochwertigen Rieslingsekt auf den Markt bringen. Für die Festlegung des [[Abgabepreis]]es soll zunächst eine [[Preis-Absatz-Funktion]] ermittelt werden. Dazu wird in <math>n = 6</math> Geschäften ein Testverkauf durchgeführt und man erhält sechs Wertepaare mit dem jeweiligen Ladenpreis einer Flasche <math>x</math> (in Euro) sowie der Zahl der jeweils verkauften Flaschen <math>y</math>:

			{\| class="wikitable zebra" style="text-align:right"
			\|-
			\| align="left" \| '''Geschäft''' <math>i</math>
			\| 1
			\| 2
			\| 3
			\| 4
			\| 5
			\| 6
			\|-
			\| align="left" \| '''Flaschenpreis''' <math>x_i</math>
			\| 20
			\| 16
			\| 15
			\| 16
			\| 13
			\| 10
			\|-
			\| align="left" \| '''verkaufte Menge''' <math>y_i</math>
			\| 0
			\| 3
			\| 7
			\| 4
			\| 6
			\| 10
			\|}

			In [[Matrix (Mathematik)\|Matrixform]] kann das Beispiel verallgemeinert wie folgt dargestellt werden:
			:<math>
			\begin{pmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \end{pmatrix}
			=
			\begin{pmatrix}1 & x_1 \\1 & x_2 \\1 & x_3 \\1 & x_4 \\1 & x_5 \\1 & x_6 \end{pmatrix}
			\begin{pmatrix} \beta_1 \\ \beta_2 \end{pmatrix}
			+
			\begin{pmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \end{pmatrix}
			</math>

	== In der multiplen linearen Regression ==		== In der multiplen linearen Regression ==

Elendur: {{Importartikel}}

2017-06-07T20:59:43Z

← Nächstältere Version		Version vom 7. Juni 2017, 22:59 Uhr
Zeile 1:		Zeile 1:
			{{Importartikel}}
	{{Baustelle}}		{{Baustelle}}
	Der Begriff Designmatrix (engl. design matrix) auch Datenmatrix kommt aus dem Teilgebiet Experimental Design, das sich mit dem statistisch optimalen Entwurf von Experimenten beschäftigt. In diesem Fall umfasst die Designmatrix alle Werte der unabhängigen Variablen. Da die Gesamtheit dieser Werte das experimentelle Design bestimmen, wird diese Matrix verwendet um ein bestimmtes Design zu charakterisieren.		Der Begriff Designmatrix (engl. design matrix) auch Datenmatrix kommt aus dem Teilgebiet Experimental Design, das sich mit dem statistisch optimalen Entwurf von Experimenten beschäftigt. In diesem Fall umfasst die Designmatrix alle Werte der unabhängigen Variablen. Da die Gesamtheit dieser Werte das experimentelle Design bestimmen, wird diese Matrix verwendet um ein bestimmtes Design zu charakterisieren.

Elendur: Zurück auf .de-Version nach Import

2017-06-07T20:58:56Z

Zurück auf .de-Version nach Import

← Nächstältere Version		Version vom 7. Juni 2017, 22:58 Uhr
Zeile 1:		Zeile 1:
	{{~~Importartikel~~}}		{{Baustelle}}
			Der Begriff Designmatrix (engl. design matrix) auch Datenmatrix kommt aus dem Teilgebiet Experimental Design, das sich mit dem statistisch optimalen Entwurf von Experimenten beschäftigt. In diesem Fall umfasst die Designmatrix alle Werte der unabhängigen Variablen. Da die Gesamtheit dieser Werte das experimentelle Design bestimmen, wird diese Matrix verwendet um ein bestimmtes Design zu charakterisieren.
	{{merge from\|Data matrix (multivariate statistics)\|date=April 2016}}

			Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:
	In [[statistics]], a '''design matrix''' (also known as ''regressor matrix'' or ''model matrix'') is a [[matrix (mathematics)\|matrix]] of values of [[explanatory variable]]s of a set of objects, often denoted by '''X'''. Each row represents an individual object, with the successive columns corresponding to the variables and their specific values for that object. The design matrix is used in certain [[statistical model]]s, e.g., the [[general linear model]].<ref>{{cite book \|last=Everitt \|first=B. S. \|year=2002 \|title=Cambridge Dictionary of Statistics \|edition=2nd \|location=Cambridge, UK \|publisher=Cambridge University Press \|isbn=0-521-81099-X }}</ref><ref>{{cite book \|last=Box \|first=G. E. P. \|authorlink=George E. P. Box \|last2=Tiao \|first2=G. C. \|year=1992 \|origyear=1973 \|title=Bayesian Inference in Statistical Analysis \|location=New York \|publisher=John Wiley and Sons \|isbn=0-471-57428-7 }} (Section 8.1.1)</ref><ref>{{cite book \|last=Timm \|first=Neil H. \|title=Applied Multivariate Analysis \|location= \|publisher=Springer Science & Business Media \|year=2007 \|isbn= \|page=107 \|url=https://books.google.com/books?id=vtiyg6fnnskC&pg=PA107 }}</ref> It can contain [[indicator variable]]s (ones and zeros) that indicate group membership in an [[ANOVA]], or it can contain values of [[continuous variable]]s.

			== In der multiplen linearen Regression ==
	The design matrix contains data on the [[independent variable]]s (also called explanatory variables) in statistical models which attempt to explain observed data on a response variable (often called a [[dependent variable]]) in terms of the explanatory variables. The theory relating to such models makes substantial use of matrix manipulations involving the design matrix: see for example [[linear regression]]. A notable feature of the concept of a design matrix is that it is able to represent a number of different [[experimental design]]s and statistical models, e.g., [[ANOVA]], [[ANCOVA]], and [[linear regression]].{{citation needed\|date=April 2013}}

			:<math>\mathbf{X}=
	==Definition==
			\begin{pmatrix}
	The design matrix is defined to be a matrix X such that the j<sup>th</sup> column of the i<sup>th</sup> row of X represents the value of the j<sup>th</sup> variable associated with the i<sup>th</sup> object.
			x_{11} & x_{12} & \cdots & x_{1k} & \cdots & x_{1K}\\

			x_{21} & x_{22} & \cdots & x_{2k} & \cdots & x_{2K}\\
	A regression model which is a [[linear combination]] of the explanatory variables may therefore be represented via matrix multiplication as
			\vdots & \vdots & \ddots & \vdots & \ddots & \vdots\\
	:<math>y=X\beta,</math>
			x_{t1} & x_{t2} & \cdots & x_{tk} & \cdots & x_{tK}\\
	where ''X'' is the design matrix, <math>\beta</math> is a vector of the model's coefficients (one for each variable), and ''y'' is the vector of predicted outputs for each object.
			\vdots & \vdots & \ddots & \vdots & \ddots & \vdots\\

			x_{T1} & x_{T2} & \cdots & x_{Tk} & \cdots & x_{TK}
	==Examples==
			\end{pmatrix}

	===Simple Regression===
	This section gives an example of [[simple linear regression]]—that is, regression with only a single explanatory variable—with seven observations.
	The seven data points are {''y''<sub>''i''</sub>, ''x''<sub>''i''</sub>}, for ''i'' = 1, 2, …, 7. The simple linear regression model is
	: <math> y_i = \beta_0 + \beta_1 x_i +\epsilon_i, \,</math>
	where <math> \beta_0 </math> is the y-intercept and <math>\beta_1</math> is the slope of the regression line. This model can be represented in matrix form as
	:<math>
	\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix}
	=
	\begin{bmatrix}1 & x_1 \\1 & x_2 \\1 & x_3 \\1 & x_4 \\1 & x_5 \\1 & x_6 \\ 1 & x_7 \end{bmatrix}
	\begin{bmatrix} \beta_0 \\ \beta_1 \end{bmatrix}
	+
	\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \\ \epsilon_7 \end{bmatrix}
	</math>		</math>
	where the first column of ones in the design matrix allows estimation of the ''y''-intercept while the second column contains the ''x''-values associated with the corresponding ''y''-values.

	===Multiple Regression===
	This section contains an example of [[Linear Regression\|multiple regression]] with two covariates (explanatory variables): ''w'' and ''x''.
	Again suppose that the data consist of seven observations, and that for each observed value to be predicted (<math>y_i</math>), values ''w''<sub>''i''</sub> and ''x''<sub>''i''</sub> of the two covariates are also observed. The model to be considered is
	:<math> y_i = \beta_0 + \beta_1 w_i + \beta_2 x_i + \epsilon_i </math>
	This model can be written in matrix terms as
	:<math>
	\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix} =
	\begin{bmatrix} 1 & w_1 & x_1 \\1 & w_2 & x_2 \\1 & w_3 & x_3 \\1 & w_4 & x_4 \\1 & w_5 & x_5 \\1 & w_6 & x_6 \\ 1& w_7 & x_7 \end{bmatrix}
	\begin{bmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \end{bmatrix}
	+
	\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \\ \epsilon_7 \end{bmatrix}
	</math>

	Here the 7×3 matrix on the right side is the design matrix.

	===One-way ANOVA (Cell Means Model)===
	This section contains an example with a one-way analysis of variance ([[ANOVA]]) with three groups and seven observations. The given data set has the first three observations belonging to the first group, the following two observations belonging to the second group and the final two observations belonging to the third group.
	If the model to be fit is just the mean of each group, then the model is
	:<math> y_{ij} = \mu_i + \epsilon_{ij}</math>
	which can be written
	:<math>
	\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix} =
	\begin{bmatrix}1 & 0 & 0 \\1 &0 &0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 1\end{bmatrix}
	\begin{bmatrix}\mu_1 \\ \mu_2 \\ \mu_3 \end{bmatrix}
	+
	\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \\ \epsilon_7 \end{bmatrix}
	</math>
	It should be emphasized that in this model <math>\mu_i</math> represents the mean of the <math>i</math>th group.

	===One-way ANOVA (offset from reference group)===
	The ANOVA model could be equivalently written as each group parameter <math>\tau_i</math> being an offset from some overall reference. Typically this reference point is taken to be one of the groups under consideration. This makes sense in the context of comparing multiple treatment groups to a control group and the control group is considered the "reference". In this example, group 1 was chosen to be the reference group. As such the model to be fit is
	:<math> y_{ij} = \mu + \tau_i + \epsilon_{ij} </math>
	with the constraint that <math>\tau_1</math> is zero.
	:<math>
	\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix} =
	\begin{bmatrix}1 &0 &0 \\1 &0 &0 \\ 1 & 0 & 0 \\ 1 & 1 & 0 \\ 1 & 1 & 0 \\ 1 & 0 & 1 \\ 1 & 0 & 1\end{bmatrix}
	\begin{bmatrix}\mu \\ \tau_2 \\ \tau_3 \end{bmatrix}
	+
	\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \\ \epsilon_7 \end{bmatrix}
	</math>
	In this model <math>\mu</math> is the mean of the reference group and <math>\tau_i</math> is the difference from group <math>i</math> to the reference group. <math>\tau_1</math> is not included in the matrix because its difference from the reference group (itself) is necessarily zero.

	==See also==
	* [[Data matrix (multivariate statistics)\|Data matrix]]
	* [[Moment matrix]]
	* [[Projection matrix]]
	* [[Jacobian matrix and determinant]]

	==References==
	{{Reflist}}

	{{Matrix classes}}

	<nowiki>[[Category:Matrices]]
	[[Category:Regression analysis]]
	[[Category:Design of experiments]]</>nowiki

Elendur: {{Importartikel}} +nowiki

2017-06-07T20:57:00Z

{{Importartikel}} +nowiki

← Nächstältere Version		Version vom 7. Juni 2017, 22:57 Uhr
Zeile 1:		Zeile 1:
			{{Importartikel}}
	{{merge from\|Data matrix (multivariate statistics)\|date=April 2016}}		{{merge from\|Data matrix (multivariate statistics)\|date=April 2016}}

Zeile 82:		Zeile 83:
	{{Matrix classes}}		{{Matrix classes}}

	[[Category:Matrices]]		<nowiki>[[Category:Matrices]]
	[[Category:Regression analysis]]		[[Category:Regression analysis]]
	[[Category:Design of experiments]]		[[Category:Design of experiments]]</>nowiki

Elendur: Elendur verschob die Seite Benutzer:JonskiC/Design matrix nach Benutzer:JonskiC/Designmatrix, ohne dabei eine Weiterleitung anzulegen: nach Import

2017-06-07T20:55:32Z

Elendur verschob die Seite Benutzer:JonskiC/Design matrix nach Benutzer:JonskiC/Designmatrix, ohne dabei eine Weiterleitung anzulegen: nach Import

← Nächstältere Version	Version vom 7. Juni 2017, 22:55 Uhr
(kein Unterschied)

Elendur: 84 Versionen von :en:Design_matrix importiert: WP:IMP * Special:Diff/166177497 * user:JonskiC

2017-06-07T20:53:53Z

84 Versionen von en:Design_matrix importiert: WP:IMP * Special:Diff/166177497 * user:JonskiC

← Nächstältere Version		Version vom 7. Juni 2017, 22:53 Uhr
Zeile 1:		Zeile 1:
			{{merge from\|Data matrix (multivariate statistics)\|date=April 2016}}
	{{Baustelle}}
	Der Begriff Designmatrix (engl. design matrix) auch Datenmatrix kommt aus dem Teilgebiet Experimental Design, das sich mit dem statistisch optimalen Entwurf von Experimenten beschäftigt. In diesem Fall umfasst die Designmatrix alle Werte der unabhängigen Variablen. Da die Gesamtheit dieser Werte das experimentelle Design bestimmen, wird diese Matrix verwendet um ein bestimmtes Design zu charakterisieren.

			In [[statistics]], a '''design matrix''' (also known as ''regressor matrix'' or ''model matrix'') is a [[matrix (mathematics)\|matrix]] of values of [[explanatory variable]]s of a set of objects, often denoted by '''X'''. Each row represents an individual object, with the successive columns corresponding to the variables and their specific values for that object. The design matrix is used in certain [[statistical model]]s, e.g., the [[general linear model]].<ref>{{cite book \|last=Everitt \|first=B. S. \|year=2002 \|title=Cambridge Dictionary of Statistics \|edition=2nd \|location=Cambridge, UK \|publisher=Cambridge University Press \|isbn=0-521-81099-X }}</ref><ref>{{cite book \|last=Box \|first=G. E. P. \|authorlink=George E. P. Box \|last2=Tiao \|first2=G. C. \|year=1992 \|origyear=1973 \|title=Bayesian Inference in Statistical Analysis \|location=New York \|publisher=John Wiley and Sons \|isbn=0-471-57428-7 }} (Section 8.1.1)</ref><ref>{{cite book \|last=Timm \|first=Neil H. \|title=Applied Multivariate Analysis \|location= \|publisher=Springer Science & Business Media \|year=2007 \|isbn= \|page=107 \|url=https://books.google.com/books?id=vtiyg6fnnskC&pg=PA107 }}</ref> It can contain [[indicator variable]]s (ones and zeros) that indicate group membership in an [[ANOVA]], or it can contain values of [[continuous variable]]s.
	Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:

			The design matrix contains data on the [[independent variable]]s (also called explanatory variables) in statistical models which attempt to explain observed data on a response variable (often called a [[dependent variable]]) in terms of the explanatory variables. The theory relating to such models makes substantial use of matrix manipulations involving the design matrix: see for example [[linear regression]]. A notable feature of the concept of a design matrix is that it is able to represent a number of different [[experimental design]]s and statistical models, e.g., [[ANOVA]], [[ANCOVA]], and [[linear regression]].{{citation needed\|date=April 2013}}
	== In der multiplen linearen Regression ==

			==Definition==
	:<math>\mathbf{X}=
			The design matrix is defined to be a matrix X such that the j<sup>th</sup> column of the i<sup>th</sup> row of X represents the value of the j<sup>th</sup> variable associated with the i<sup>th</sup> object.
	\begin{pmatrix}

	x_{11} & x_{12} & \cdots & x_{1k} & \cdots & x_{1K}\\
			A regression model which is a [[linear combination]] of the explanatory variables may therefore be represented via matrix multiplication as
	x_{21} & x_{22} & \cdots & x_{2k} & \cdots & x_{2K}\\
			:<math>y=X\beta,</math>
	\vdots & \vdots & \ddots & \vdots & \ddots & \vdots\\
			where ''X'' is the design matrix, <math>\beta</math> is a vector of the model's coefficients (one for each variable), and ''y'' is the vector of predicted outputs for each object.
	x_{t1} & x_{t2} & \cdots & x_{tk} & \cdots & x_{tK}\\

	\vdots & \vdots & \ddots & \vdots & \ddots & \vdots\\
			==Examples==
	x_{T1} & x_{T2} & \cdots & x_{Tk} & \cdots & x_{TK}

	\end{pmatrix}
			===Simple Regression===
			This section gives an example of [[simple linear regression]]—that is, regression with only a single explanatory variable—with seven observations.
			The seven data points are {''y''<sub>''i''</sub>, ''x''<sub>''i''</sub>}, for ''i'' = 1, 2, …, 7. The simple linear regression model is
			: <math> y_i = \beta_0 + \beta_1 x_i +\epsilon_i, \,</math>
			where <math> \beta_0 </math> is the y-intercept and <math>\beta_1</math> is the slope of the regression line. This model can be represented in matrix form as
			:<math>
			\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix}
			=
			\begin{bmatrix}1 & x_1 \\1 & x_2 \\1 & x_3 \\1 & x_4 \\1 & x_5 \\1 & x_6 \\ 1 & x_7 \end{bmatrix}
			\begin{bmatrix} \beta_0 \\ \beta_1 \end{bmatrix}
			+
			\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \\ \epsilon_7 \end{bmatrix}
	</math>		</math>
			where the first column of ones in the design matrix allows estimation of the ''y''-intercept while the second column contains the ''x''-values associated with the corresponding ''y''-values.

			===Multiple Regression===
			This section contains an example of [[Linear Regression\|multiple regression]] with two covariates (explanatory variables): ''w'' and ''x''.
			Again suppose that the data consist of seven observations, and that for each observed value to be predicted (<math>y_i</math>), values ''w''<sub>''i''</sub> and ''x''<sub>''i''</sub> of the two covariates are also observed. The model to be considered is
			:<math> y_i = \beta_0 + \beta_1 w_i + \beta_2 x_i + \epsilon_i </math>
			This model can be written in matrix terms as
			:<math>
			\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix} =
			\begin{bmatrix} 1 & w_1 & x_1 \\1 & w_2 & x_2 \\1 & w_3 & x_3 \\1 & w_4 & x_4 \\1 & w_5 & x_5 \\1 & w_6 & x_6 \\ 1& w_7 & x_7 \end{bmatrix}
			\begin{bmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \end{bmatrix}
			+
			\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \\ \epsilon_7 \end{bmatrix}
			</math>

			Here the 7×3 matrix on the right side is the design matrix.

			===One-way ANOVA (Cell Means Model)===
			This section contains an example with a one-way analysis of variance ([[ANOVA]]) with three groups and seven observations. The given data set has the first three observations belonging to the first group, the following two observations belonging to the second group and the final two observations belonging to the third group.
			If the model to be fit is just the mean of each group, then the model is
			:<math> y_{ij} = \mu_i + \epsilon_{ij}</math>
			which can be written
			:<math>
			\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix} =
			\begin{bmatrix}1 & 0 & 0 \\1 &0 &0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ 0 & 0 & 1\end{bmatrix}
			\begin{bmatrix}\mu_1 \\ \mu_2 \\ \mu_3 \end{bmatrix}
			+
			\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \\ \epsilon_7 \end{bmatrix}
			</math>
			It should be emphasized that in this model <math>\mu_i</math> represents the mean of the <math>i</math>th group.

			===One-way ANOVA (offset from reference group)===
			The ANOVA model could be equivalently written as each group parameter <math>\tau_i</math> being an offset from some overall reference. Typically this reference point is taken to be one of the groups under consideration. This makes sense in the context of comparing multiple treatment groups to a control group and the control group is considered the "reference". In this example, group 1 was chosen to be the reference group. As such the model to be fit is
			:<math> y_{ij} = \mu + \tau_i + \epsilon_{ij} </math>
			with the constraint that <math>\tau_1</math> is zero.
			:<math>
			\begin{bmatrix}y_1 \\ y_2 \\ y_3 \\ y_4 \\ y_5 \\ y_6 \\ y_7 \end{bmatrix} =
			\begin{bmatrix}1 &0 &0 \\1 &0 &0 \\ 1 & 0 & 0 \\ 1 & 1 & 0 \\ 1 & 1 & 0 \\ 1 & 0 & 1 \\ 1 & 0 & 1\end{bmatrix}
			\begin{bmatrix}\mu \\ \tau_2 \\ \tau_3 \end{bmatrix}
			+
			\begin{bmatrix} \epsilon_1 \\ \epsilon_2 \\ \epsilon_3 \\ \epsilon_4 \\ \epsilon_5 \\ \epsilon_6 \\ \epsilon_7 \end{bmatrix}
			</math>
			In this model <math>\mu</math> is the mean of the reference group and <math>\tau_i</math> is the difference from group <math>i</math> to the reference group. <math>\tau_1</math> is not included in the matrix because its difference from the reference group (itself) is necessarily zero.

			==See also==
			* [[Data matrix (multivariate statistics)\|Data matrix]]
			* [[Moment matrix]]
			* [[Projection matrix]]
			* [[Jacobian matrix and determinant]]

			==References==
			{{Reflist}}

			{{Matrix classes}}

			[[Category:Matrices]]
			[[Category:Regression analysis]]
			[[Category:Design of experiments]]

JonskiC: /* In der multiple linearen Regression */

2017-05-23T17:36:45Z

In der multiple linearen Regression

← Nächstältere Version		Version vom 23. Mai 2017, 19:36 Uhr
Zeile 4:		Zeile 4:
	Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:		Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:

	== In der ~~multiple~~ linearen Regression ==		== In der multiplen linearen Regression ==

	:<math>\mathbf{X}=		:<math>\mathbf{X}=

JonskiC am 23. Mai 2017 um 17:36 Uhr

2017-05-23T17:36:35Z

← Nächstältere Version		Version vom 23. Mai 2017, 19:36 Uhr
Zeile 4:		Zeile 4:
	Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:		Gleichzeitig kann man die Designmatrix aber auch als Basis für die Berechnung von Modellen benützen, da ja in der Designmatrix alle unabhängigen Variablen gespeichert sind. Auf das einfachste multiple lineare Modellierungsverfahren (die multiple lineare Regression) bezogen bedeutet dies, dass die Designmatrix die Matrix der Deskriptoren xj,i darstellt. Das für ein MLR-Modell aufzustellende Gleichungssystem lautet:

	= In der multiple linearen Regression =		== In der multiple linearen Regression ==

	:<math>\mathbf{X}=		:<math>\mathbf{X}=