Minimierungsproblem < math. Statistik < Stochastik < Hochschule < Mathe < Vorhilfe
|
Hallo,
wenn ich eine Kovarianzmatrix [mm]K[/mm] und die geschätze Kovarianzmatrix [mm] $\widehat{K}$ [/mm] (der Dimension $n [mm] \times [/mm] n$ habe und ich möchte das Minimierungsproblem
[mm] $\sum_{i \neq j}(\widehat{k_{ij}} [/mm] - [mm] k_{ij})^2 \to [/mm] min $ lösen -- summiere ich hier also über alle nicht-diagonal-Elemente auf und bilde die partiellen Ableitungen, setze diese = 0 und löse das entsprechende Gleichungssystem ?
Danke für Eure Hilfe.
LG Peter
|
|
| |
|
| Status: |
(Antwort) fertig  | | Datum: | 10:15 So 12.03.2017 | | Autor: | Infinit |
Hallo Peter,
ja, genau das ist die Vorgehensweise. Das Ganze sieht erst mal bombastisch aus, aber durch die partiellen Ableitungen bleibt jeweils genau ein Term übrig, den man dann zu Null setzt.
Viele Grüße,
Infinit
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 10:50 So 12.03.2017 | | Autor: | fred97 |
> Hallo,
>
> wenn ich eine Kovarianzmatrix [mm]K[/mm] und die geschätze
> Kovarianzmatrix [mm]\widehat{K}[/mm] (der Dimension [mm]n \times n[/mm] habe
> und ich möchte das Minimierungsproblem
>
> [mm]\sum_{i \neq j}(\widehat{k_{ij}} - k_{ij})^2 \to min[/mm] lösen
> -- summiere ich hier also über alle
> nicht-diagonal-Elemente auf und bilde die partiellen
> Ableitungen, setze diese = 0 und löse das entsprechende
> Gleichungssystem ?
Das geht doch einfacher: eine Summe von Quadraten ist immer [mm] \ge [/mm] 0:
[mm] \summe_{i=1}^{n}a_i^2 \ge [/mm] 0. Weiter:
[mm] \summe_{i=1}^{n}a_i^2= [/mm] 0 [mm] \gdw a_1=...=a_n=0
[/mm]
>
> Danke für Eure Hilfe.
>
> LG Peter
|
|
|
| |
|
Hallo,
vielen Dank für eure Beiträge.
Also eigentlich kommt die Frage daher, dass ich mit der Methode der kleinsten Quadrate eine Kovarianzmatrix schätzen möchte -- also genauer möchte ich eben die quadrierte Differenz aus der Beobachteten und der reproudzierten Kovarianzmatrix minimieren... das seltsame ist allerdings, dass ich mit obigem Verfahren genau die exakten Werte herausbringe... wo liegt denn da der Fehler?
LG
|
|
|
| |
|
| Status: |
(Antwort) fertig | | Datum: | 23:03 Mo 13.03.2017 | | Autor: | leduart |
Hallo
das ist kein Fehler, denn das Min ist ja eben, wenn die Gleich sind.
d,h, dieses Verfahren ist hier sinnlos.
du kannst nur mit dem Verfahren z, B, eine Faktor, den du ansetzt bestimmen wie bei Messungen wo du etwa die beste Geradem die durch deine Werte geht suchst .
da hast du aber eine Funktionsvorschrift, mit der du vergleichst.
Gruß leduart
|
|
|
| |
|
Ich weiß nicht, ob du für dein Problem das folgende Verfahren gebrauchen kannst:
Du hast eine Messreihe mit 2 Variablen [mm] x_i [/mm] und [mm] y_i [/mm] , [mm] 1\le [/mm] i [mm] \le [/mm] n, und suchst für ein bekanntes Gesetzt zwischen diesen Größen die Parameter, z.B.
y = [mm] a*e^{kx} [/mm] , a und k unbekannt.
Zuerst linearisierst du das Problem, in meinem Beispiel durch Logarithmieren:
ln(y) = ln(a)+kx
und substituierst
t=ln(y), A=ln(a) [mm] \Rightarrow [/mm] t = A + k x, A und k gesucht.
Nun erhältst du ein lineares Gleichungssystem
[mm] t_i [/mm] = A + k [mm] x_i [/mm] , [mm] 1\le [/mm] i [mm] \le [/mm] n, wobei die [mm] t_i [/mm] = [mm] ln(y_i) [/mm] sind.
Du erhältst eine Matrix M für das Gleichungssystem [mm] M*\vec{p}=\vec{t}, [/mm] wobei [mm] \vec{p} [/mm] die Parameter und [mm] \vec{t} [/mm] die [mm] t_i [/mm] enthält, hier
[mm] M*\vektor{A \\ k\\evtl. weitere Parameter}=\vektor{t_1 \\ t_2\\...\\t_n}, [/mm] wobei M aus den [mm] x_i [/mm] hervorgeht. In unserem Beispiel wäre [mm] M=\pmat{ 1 & x_1 \\ 1 & x_2\\...\\1 & x_n }.
[/mm]
Wenn du genau so viele Gleichungen (Messungen) wie Parameter hättest, wäre i.a. das System eindeutig lösbar. Normaler Weise hat man aber mehr Messungen als Parameter, und wenn es Messfehler gibt bzw. die Messwerte nicht exakt mit der Theorie übereinstimmen, ist das Gleichungssystem nicht eindeutig lösbar, sondern mathematisch widersprüchlich und damit unlösbar.
Nun verlangt man: Wenn man links beliebige Parameterwerte einsetzt, erhält man für [mm] M*\vec{p}= \vec{z} [/mm] einen Spaltenvektor [mm] \vec{z}, [/mm] der von [mm] \vec{t} [/mm] abweicht. Gesucht ist jetzt derjenige Parametervektor [mm] \vec{p}, [/mm] bei dem die Summe der Quadrate der Abweichungen in den einzelnen Komponenten von [mm] \vec{z} [/mm] und [mm] \vec{t} [/mm] minimal wird (dann hat auch der Differenzvektor [mm] \vec{t}-\vec{z} [/mm] minimale Länge). Dieses Problem lässt sich nun elegant auf folgende Art lösen:
Man multipliziert das Gleichungssystem von links mit der transponierten Matris [mm] M^T [/mm] von M:
[mm] (M^T*M)*\vec{p}=M^T*\vec{t}. [/mm] Das ergibt links eine quadratische Matrix und rechts einen neuen (kürzeren) Spaltenvektor und damit ein "neues" Gleichungssystem, das i.a. eindeutig lösbar ist.
[mm] \vec{p} [/mm] enthält dann die Lösung für diejenigen Parameter, bei denen die Summe der o.a. Abweichungsquadrate minimal wird.
Damit hast du diejenigen Parameter gefunden, die am besten an deine Messreihe angepasst sind.
|
|
|
| |
|
Hallo,
danke für all eure Antworten -- ich hätte da noch eine Frage.
Bei der Faktorenanalyse kann man die Kovarianzmatrix
darstellen (falls das Modell stimmt).
Es bezeichne die empirische Kovarianzmatrix, welche sich von der tatsächlichen nur durch die Diagonalelemente unterscheidet.
bezeichne die geschätzte aus dem Modell.
Wenn wir annehmen, dass wir beim schätzen von L einen Fehler machen, so wäre also
Ich bin nun an der Verteilung des Minimierungsproblems
interessiert. Und es sollte sich eine verallgemeinerung der Chi-Quadrat-Verteilung ergeben (die Summe über die quadrate beliebiger normalverteilter Zufallsgrößen ist so verteilt) .. dazu müsste aber :
normalverteilt sein.. könnte man das irgendwie einsehen ?
VIelen Dank und LG
habe diese Frage auch (leider erfolgslos) beim Matheplanet gestellt.
|
|
|
| |
|
Eventuell indem man die Kovarianzmatrizen speziell zerlegt , oder transformiert?
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig  | | Datum: | 10:20 Mi 05.04.2017 | | Autor: | matux |
$MATUXTEXT(ueberfaellige_frage)
|
|
|
| |
|
| Status: |
(Mitteilung) Reaktion unnötig | | Datum: | 11:20 Di 04.04.2017 | | Autor: | matux |
$MATUXTEXT(ueberfaellige_frage)
|
|
|
|
