Sea un conjunto de valores \( \{\left(x_i,y_i\right)\}^{i=n}_{i=1} \) se define
la recta de regresion constante como \( y=a_0 \) en donde \( a_0 \) minimiza el la
funcion de error \( \epsilon_0=\sum_{i=1}^n\left(y-y_i\right)^2 \) , en el
momento de derivar e igualar a cero (solo podemos encontrar un minimo ya
que el error no tiene cota superior)
\( 2\sum_{i=1}^n(y-y_i)=0,a_0\sum_{i=1}^n1-\sum_{i=1}^ny_i=0,a_0=\overline{y} \)
Luego definimos una nueva recta de regresi\a'on definida como
\( y=\overline{y}+a_1x \) luego optimizamos la funcion
\( \epsilon_1=\sum_{i=1}^n\left(y-y_i\right)^2=\sum_{i=1}^n\left(%
\overline{y}+a_1x_i-y_i\right)^2 \)
Optimizamos para luego obtener:
\( 2\sum_{i=1}^n\left(\overline{y}+a_1x_i-y_i\right)x_i=0 \)
\( \overline{y}n+a_1\overline{x^2}n-\overline{xy}n=0,\overline{y}+a_1%
\overline{x^2}-\overline{xy}=0,a_1=\frac{\overline{xy}-\overline{y}}{%
\overline{x^2}}=\frac{\overline{xy}-a_0}{\overline{x^2}} \)
Luego podemos generar otra recta de regresi\a'on de la forma
\( y=a_0+a_1x+a_2x^2 \), en el cual el error se define como
\( \epsilon_2=\sum_{i=1}^n\left(a_0+a_1x+a_2x^2-y_i\right)^2 \), derivamos con
respecto \( a_2 \) e igualamos a cero
\( \sum_{i=1}^n\left(a_0+a_1x+a_2x^2-y_i\right)x^2=0 \)
\( a_0\overline{x^2}+a_1\overline{x^3}+a_2\overline{x^4}-\overline{x^2y}=0 \)
\( a_2=\frac{\overline{x^2y}-a_0\overline{x^2}-a_1\overline{x^3}}{%
\overline{x^4}} \)
Luego finalmente para hacernos una idea hacemos la ultima funcion de
aproximacion:
\( y=a_0+a_1x+a_2x^2+a_3x^3 \) que genera una funci\a'on de error
\( \epsilon_2=\sum_{i=1}^n\left(a_0+a_1x+a_2x^2+a_3x^3-y_i\right)^2 \), que al
derivarla a igualarla a cero se obtiene
\( \sum_{i=1}^n\left(a_0x^3+a_1x^4+a_2x^5+a_3x^6-y_ix^3\right)=0 \)
\( a_0\overline{x^3}+a_1\overline{x^4}+a_2\overline{x^5}+a_3\overline{x^6}-%
\overline{x^3y}=0 \)
\( a_3=\frac{\overline{x^3y}-a_0\overline{x^3}-a_1\overline{x^4}-a_2%
\overline{x^5}}{\overline{x^6}} \)
Con lo cual podemos inferir que
\( a_n=\frac{\overline{x^ny}-\sum_{k=0}^{n-1}a_k\overline{x^{k+n}}}{%
\overline{x^{2n}}} \), con la condici\a'on inicial que \( a_0=\overline{y} \)
Funcion recursiva, encontrar la funcion de recurrencia es la proxima
etapa y para donde converge la serie, y ademas encontrar
\( \lim_{h\rightarrow\infty}\epsilon_h \)
Por favor dar su opinión, cualquier duda o error de mi parte me la plantean o informas respectivamente.
regresion regresión
