Mathematik online lernen im Mathe-Forum. Nachhilfe online

Startseite » Forum » Ableitung von x^T A x nach x

Ableitung von x^T A x nach x

Universität / Fachhochschule

Matrizenrechnung

Tags: Matrizenrechnung

freiheit85 aktiv_icon

09:44 Uhr, 31.05.2011

Hi Leute,

eine kurze Frage:

ich habe

y = x^{T} A x

mit A als Matrix, x als Vektor
jetz will ich y nach x ableiten, also

\frac{δ}{δ x} x^{T} A x

.
Dann muss ich doch die Kettenregel anwenden:

\frac{δ x^{T} A}{δ x} x + x^{T} \frac{δ A x}{δ x} = A x + x^{T} A^{T}

das geht aber gar nicht, weil x + x^T ein Zeilenvektor + ein Spaltenvektor ist... und außerdem kommt raus:

(A + A^{T}) x

Wie gehe ich denn hier mit der Kettenregel um? (Möglichst einfach und schnell, dass man es nicht komponentenweise aufschreiben muss...)

Danke

Für alle, die mir helfen möchten (automatisch von OnlineMathe generiert):
"Ich bräuchte bitte einen kompletten Lösungsweg." (setzt voraus, dass der Fragesteller alle seine Lösungsversuche zur Frage hinzufügt und sich aktiv an der Problemlösung beteiligt.)

Hierzu passend bei OnlineMathe:
Ableitung (Mathematischer Grundbegriff)
Differenzenquotient (Mathematischer Grundbegriff)
Differenzierbarkeit (Mathematischer Grundbegriff)
Ableitung einer Funktion an einer Stelle (Mathematischer Grundbegriff)
Ableitungsfunktion (Mathematischer Grundbegriff)
Ableitungsregeln (Mathematischer Grundbegriff)

ericsatie76 aktiv_icon

17:22 Uhr, 01.06.2011

Hallo,

es muss lauten:

\frac{δ (x^{T} A x)}{δ x} = \frac{δ x^{T} A}{δ} x x + x^{T} \frac{δ A x}{δ} x = A x + x^{T} A = A x + A^{T} x = (A + A^{T}) x

Lg Jan

freiheit85 aktiv_icon

06:09 Uhr, 02.06.2011

Dann wäre

x^{T} A = A^{T} x

? Ich kenne nur die Regel

x^{T} A = (A^{T} x)^{T}

Gerd30.1 aktiv_icon

09:56 Uhr, 02.06.2011

ich bekomme:

\frac{\partial ({\vec{x}}^{T} \cdot A \cdot \vec{x})}{\partial x_{i}} = \frac{\partial {\vec{x}}^{T}}{\partial x_{i}} \cdot A \cdot \vec{x} + {\vec{x}}^{T} \cdot \frac{\partial A}{\partial x_{i}} \cdot \vec{x} + {\vec{x}}^{T} \cdot A \cdot \frac{\partial \vec{x}}{\partial x_{i}} =

\frac{\partial {\vec{x}}^{T}}{\partial x_{i}} \cdot A \cdot \vec{x} + {\vec{x}}^{T} \cdot A \cdot \frac{\partial \vec{x}}{\partial x_{i}} = 2 {\vec{x}}^{T} \cdot A \cdot \frac{\partial \vec{x}}{\partial x_{i}}

ericsatie76 aktiv_icon

11:26 Uhr, 02.06.2011

Hm...

{(A x)}_{i} = \sum_{j = 1}^{n} a_{i j} x_{j}

f (x) = x^{T} (A x) = \sum_{i = 1}^{n} x_{i} {(A x)}_{i} = \sum_{i = 1}^{n} x_{i} \sum_{j = 1}^{n} a_{i j} x_{j}

\frac{δ f (x)}{δ x_{k}} = \frac{δ \sum_{i = 1}^{n} x_{i} (a_{i k} x_{k} + \sum_{j = 1, j \neq k}^{n} a_{i j} x_{j})}{δ x_{i}}

= \frac{δ (x_{k} \cdot (a_{k k} x_{k} + \sum_{j = 1, j \neq k}^{n} a_{k j} x_{j}) + \sum_{i = 1, i \neq k}^{n} x_{i} (a_{i k} x_{k} + \sum_{j = 1, j \neq k}^{n} a_{i j} x_{j}))}{δ x_{k}}

= \frac{δ (a_{k k} x_{k}^{2} + x_{k} \cdot \sum_{j = 1, j \neq k}^{n} a_{k j} x_{j} + \sum_{i = 1, i \neq k}^{n} x_{i} (a_{i k} x_{k} + \sum_{j = 1, j \neq k}^{n} a_{i j} x_{j}))}{δ x_{k}}

\frac{δ a_{k k} x_{k}^{2}}{δ x_{k}} = 2 a_{k k} x_{k}

\frac{δ x_{k} \cdot \sum_{j = 1, j \neq k}^{n} a_{k j} x_{j}}{δ x_{k}} = \sum_{j = 1, j \neq k}^{n} a_{k j} x_{j}

\frac{δ \sum_{i = 1, i \neq k}^{n} x_{i} (a_{i k} x_{k} + \sum_{j = 1, j \neq k}^{n} a_{i j} x_{j})}{δ x_{k}} = \frac{δ \sum_{i = 1, i \neq k}^{n} x_{i} a_{i k} x_{k}}{δ x_{k}} + \frac{δ \sum_{i = 1, i \neq k}^{n} x_{i} \sum_{j = 1, j \neq k}^{n} a_{i j} x_{j}}{δ x_{k}}

= \sum_{i = 1, i \neq k}^{n} x_{i} a_{i k}

Der zweite Term ist in der Ableitung

= 0,

da in ihm kein

x_{k}

vorkommt.

\Rightarrow \frac{δ f (x)}{δ x_{k}} = 2 a_{k k} x_{k} + \sum_{j = 1, j \neq k}^{n} a_{k j} x_{j} + \sum_{i = 1, i \neq k}^{n} x_{i} a_{i k}

= a_{k k} x_{k} + \sum_{j = 1, j \neq k}^{n} a_{k j} x_{j} + a_{k k} x_{k} + \sum_{i = 1, i \neq k}^{n} x_{i} a_{i k} = \sum_{j = 1}^{n} a_{k j} x_{j} + \sum_{i = 1}^{n} x_{i} a_{i k}

mit

j \to i

\Rightarrow \sum_{i = 1}^{n} a_{k i} x_{i} + \sum_{i = 1}^{n} x_{i} a_{i k} = \sum_{i = 1}^{n} (a_{k i} + a_{i k}) x_{i}

Bei

a_{k i} + a_{i k}

handelt es sich um

{(A)}_{k i} + {(A)}_{i k} = {(A)}_{k i} + {(A^{T})}_{k i}

\Rightarrow \frac{δ f (x)}{δ x_{k}} = {((A + A^{T}) x)}_{k}

LG Jan

ericsatie76 aktiv_icon

11:32 Uhr, 02.06.2011

x^{T} \cdot A = A^{T} \cdot x

lässt sich so erklären, dass bei

x^{T} \cdot A

die Spalten von A mit der Zeile von

x^{T}

multipliziert wird. Daher muss beim vertauschen beider, die Zeilen von der Matrix mit der Spalte von

x

mutlipliziert werden. Damit beide dasselbe ergeben muss A transponiert werden. Oder, hier der Beweis:

{(x^{T} A)}_{i} = \sum {(j = 1)}^{n} x_{j} {(A)}_{j i}

{(A)}_{j i} = {(A^{T})}_{i j} \Rightarrow x^{T} A = \sum_{j = 1}^{n} x_{j} {(A)}_{j i} = \sum_{j = 1}^{n} x_{j} {(A^{T})}_{i j} = A^{T} x

Lg Jan

ericsatie76 aktiv_icon

11:37 Uhr, 02.06.2011

Noch etwas

x^{T} A \neq {(A^{T} x)}^{T},

weil sei

b = x^{T} A

ein Spaltenvektor und

c = A^{T} x

auch ein Spaltenvektor. Dann ist aber

{(A^{T} x)}^{T} = c^{T}

ein Zeilenvektor

\neq b

Lg Jan

freiheit85 aktiv_icon

11:46 Uhr, 02.06.2011

b = x^T A

ist doch ein Zeilenvektor, da

x^T

ein Zeilenvektor ist. Genau das ist ja das Problem...

ericsatie76 aktiv_icon

12:03 Uhr, 02.06.2011

@gerdware: Kleiner Fehler im letzten Schritt:

{(\frac{δ x^{T}}{δ x_{i}})}_{j} = 1

für

j = i,

sonst

0,

gleiches gilt für

{(\frac{δ x}{δ x_{i}})}_{i}

\Rightarrow \frac{δ x^{T}}{δ x_{i}} A \cdot x + x^{T} A \frac{δ x}{δ x_{i}} = \sum_{j = 1}^{n} {(A)}_{i j} x_{j} + \sum_{j = 1}^{n} x_{j} {(A)}_{j i} = \sum_{j = 1}^{n} {(A)}_{i j} x_{j} + \sum_{j = 1}^{n} {(A^{T})}_{i j} x_{j} = \sum_{j = 1}^{n} {(A + A^{T})}_{i j} x_{j}

\Rightarrow \frac{δ x^{T} A x}{δ x} = (A + A^{T}) \cdot x

Lg Jan

ericsatie76 aktiv_icon

12:05 Uhr, 02.06.2011

Aber

x^{T} \cdot A

ergibt einen Spaltenvektor und

B \cdot x

auch. Damit

x^{T} \cdot A = B \cdot x \Rightarrow B = A^{T}

ericsatie76 aktiv_icon

12:11 Uhr, 02.06.2011

Ein Beispiel:

Sei

A = (\begin{matrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{matrix})

und

x^{T} = (x_{1}, x_{2})

Sei

B = (\begin{matrix} b_{11} & b_{12} \\ b_{21} & b_{22} \end{matrix})

\Rightarrow x^{T} \cdot A = {(x_{1} \cdot a_{11} + x_{2} \cdot a_{21}, x_{1} \cdot a_{12} + x_{2} \cdot a_{22})}^{T}

und

B \cdot x = {(x_{1} \cdot b_{11} + x_{2} \cdot b_{12}, x_{1} \cdot b_{21} + x_{2} \cdot b_{22})}^{T}

Damit

x^{T} A = B x \Rightarrow {(x_{1} \cdot a_{11} + x_{2} \cdot a_{21}, x_{1} \cdot a_{12} + x_{2} \cdot a_{22})}^{T}

= {(x_{1} \cdot b_{11} + x_{2} \cdot b_{12}, x_{1} \cdot b_{21} + x_{2} \cdot b_{22})}^{T}

\Rightarrow a_{11} = b_{11}, a_{21} = b_{12}, a_{12} = b_{21}

und

a_{22} = b_{22}

\Rightarrow B = (\begin{matrix} a_{11} & a_{21} \\ a_{12} & a_{22} \end{matrix}) = A^{T}

freiheit85 aktiv_icon

12:15 Uhr, 02.06.2011

Wir reden an einander vorbei... Ich bin der Meinung, dass x ein Spaltenvektor ist und

x^T

ein Zeilenvektor. Zeilenvektor multipliziert mit Matrix nxn, ergibt Zeilenvektor!

Matlab-Bsp.:
>> A

A =

1 3 5
3 4 2
5 2 9

>> x

x =

2
9
4

>> transpose(x)*A

ans =

49 50 64

>>

ericsatie76 aktiv_icon

16:07 Uhr, 02.06.2011

Ja, das stimmt. Da muss ich mich korrigieren. Schon zu lange her. Jetzt verstehe ich auch Dein Problem.

Wie dem auch sei

x^{T} A x

ergibt ein Skalar. Daher muss

x^{T} A x

partiell abgeleitet werden, was letztendlich den Gradienten von

x^{T} A x

ergibt.

Und nach der etwas langen Beweisführung ist anscheinend

\frac{d x^{T} A x}{d x} = (A + A^{T}) x

Ich denke aber über eine Ableitungsregel nach...

ericsatie76 aktiv_icon

16:33 Uhr, 02.06.2011

Mann oh Mann, ich habe es gefunden.

\frac{d}{d x} = (\begin{matrix} \frac{δ}{δ x_{1}} \\ \frac{δ}{δ x_{2}} \\ \frac{δ}{δ x_{3}} \\ ... \end{matrix}), d . h

\frac{d (x^{T} A x)}{d x} = (\begin{matrix} \frac{δ x^{T} A x}{δ x_{1}} \\ \frac{δ x^{T} A x}{δ x_{2}} \\ \frac{δ x^{T} A x}{δ x_{3}} \\ ... \end{matrix})

und

\frac{δ x^{T} A x}{δ x_{i}} = \frac{δ x^{T} A}{δ x_{i}} x + x^{T} \frac{δ A x}{δ x_{i}} = (0, ..., 1_{i}, ..., 0) A x + x^{T} A (\begin{matrix} 0 \\ ... \\ 1_{i} \\ ... \\ 0 \end{matrix})

Wobei

1_{i}, 1

an der i-ten Stelle bedeutet. Sei

1_{i}

nun der Vektor mit 1 an der i-ten Stelle

\Rightarrow \frac{δ x^{T} A x}{δ x_{i}} = 1_{i}^{T} A x + x^{T} A 1_{i}

x^{T} A 1_{i} = x^{T} {(1_{i}^{T} A^{T})}^{T} = {({({(1_{i}^{T} A^{T})}^{T})}^{T} x)}^{T} = {(1_{i}^{T} A^{T} x)}^{T}

Da aber

1_{i}^{T} A^{T} x

ein Skalar ist

\Rightarrow {(1_{i}^{T} A^{T} x)}^{T} = 1_{i}^{T} A^{T} x

\Rightarrow 1_{i}^{T} A x + x^{T} A 1_{i} = 1_{i}^{T} \cdot A x + 1_{i}^{T} A^{T} x = 1_{i}^{T} (A + A^{T}) x

und das führt zu

\frac{d x^{T} A x}{d x} = (A + A^{T}) x

Lg Jan

Diese Frage wurde automatisch geschlossen, da der Fragesteller kein Interesse mehr an der Frage gezeigt hat.

893947

893234

	Status: nicht eingeloggt	Noch nicht registriert?