Mathematik online lernen im Mathe-Forum. Nachhilfe online

Startseite » Forum » Bernstein Ungleichung

Bernstein Ungleichung

Universität / Fachhochschule

Zufallsvariablen

Tags: Bernstein, Taylorentwicklung, Ungleichung, Zufallsvariablen

anonymous

11:10 Uhr, 19.05.2023

Hallo zusammen,

Ich arbeite im Buch

Concentration Inequalities: A Nonasymptotic Theory of Independence
von Stéphane Boucheron, Gábor Lugosi and Pascal Massart

die Bernstein-Ungleichung (Theorem 2.10 und 2.11) durch und frage ich, wozu man dort zu Beginn des Beweises für

u \leq 0

Φ (u) \leq \frac{u^{2}}{2}

zeigt.

Kann mir das jemand beantworten?

Für alle, die mir helfen möchten (automatisch von OnlineMathe generiert):
"Ich bräuchte bitte einen kompletten Lösungsweg." (setzt voraus, dass der Fragesteller alle seine Lösungsversuche zur Frage hinzufügt und sich aktiv an der Problemlösung beteiligt.)

HAL9000

11:21 Uhr, 19.05.2023

Du erwartest doch nicht, dass hier jemand das Buch direkt vorliegen hast? Wenn du fragst, WOZU diese Ungleichung im Beweis gebraucht wird, müsste man zuerst mal den Beweis dort kennen.

Zudem ist überhaupt unklar, was du mit Funktion

Φ

meinst - gewiss nicht (wie sonst in der Stochastik) die Verteilungsfunktion der Standardnormalverteilung.

anonymous

12:18 Uhr, 19.05.2023

Oh entschuldige bitte. Ich dachte das Dokument wäre frei zugänglich, aber da habe ich mich geirrt. Hier der Satz:

Sei

X_{1}, . . ., X_{n}

eine Folge von unabhängigen reellwertigen Zufallsvariablen. Weiter nehmen wir an, es existieren positive Zahlen

v

und

c

, sodass

\sum_{i = 1}^{n} E [X_{i}^{2}] \leq v

und

\sum_{i = 1}^{n} E [(X_{i})_{+}^{q}] \leq \frac{q!}{2} v c^{q - 2}

für alle ganzen Zahlen

q \geq 3

wobei

x_{+} = max (x, 0)

.
Sei

S = \sum_{i = 1}^{n} (X_{i} - E X_{i})

, dann gilt für alle

λ \in (0, 1 / c)

und

t > 0

Ψ_{S} (λ) \leq \frac{v λ^{2}}{2 (1 - c λ)}

und

Ψ_{S}^{*} (t) \geq \frac{v}{c^{2}} h_{1} (\frac{c t}{v}),

wobei

h_{1} (u) = 1 + u - \sqrt{1 + 2 u}

für

u > 0

. Insbesondere gilt für alle

t > 0

ℙ (S \geq \sqrt{2 v t} + c t) \leq e^{- t} .

anonymous

12:24 Uhr, 19.05.2023

Und hier der Anfang des Beweises wie er im Buch steht:
Sei

Φ (u) = e^{u} - u - 1

. Wir zeigen zuerst, dass für

u \leq 0

Φ (u) \leq \frac{u^{2}}{2}

Damit gilt für alle

λ > 0

und alle

i \leq n

Φ (λ X_{i}) \leq \frac{λ^{2} X_{i}^{2}}{2} + \sum_{q = 3}^{\infty} \frac{λ^{q} (X_{i})_{+}^{q}}{q!}

....
hier gehts natürlich weiter,

d.h. es wird der Erwartungswert angewandt und anschließend mit den Voraussetzungen die beiden Schranken berechnet (für

Ψ_{S}^{*}

wird eine sogenannte Fenchel-Legendre Transformation verwendet).
Die letzte Ungleichung folgt dann mit der Chernoff Ungleichung.

Ich hoffe, diese Informationen reichen aus. Ich verstehe eben nicht genau, warum man das überhaupt zeigt. Reicht es nicht einfach, die Taylorentwicklung von

e^{u}

zu verwenden?

HAL9000

13:24 Uhr, 19.05.2023

Laut Taylorreihe gilt

Φ (λ X_{i}) = \frac{λ^{2} X_{i}^{2}}{2} + \sum_{q = 3}^{\infty} \frac{λ^{q} X_{i}^{q}}{q!}

, aber diese Reihe rechts enthält im Fall

X_{i} < 0

sowie ungeraden Indizes

q

negative Glieder, und das stört womöglich im weiteren Beweisverlauf (vielleicht bei irgendwelchen Abschätzungen) ?

anonymous

17:36 Uhr, 19.05.2023

Vielen Dank schonmal. Auf der rechten Seite stehen in dem Buch dann immer

X_{+}

in der Summe. Ich denke, ich weiß jetzt wie es gemeint ist und zwar so:

Φ (λ X_{i}) = Φ (λ ((X_{i})_{+} - (X_{i})_{-})) = Φ (λ ((X_{i})_{+}) + Φ (- λ (X_{i})_{-}) \leq \sum_{q = 2}^{\infty} \frac{λ^{q} (X_{i})_{+}^{q}}{q!} + \frac{λ^{2} (X_{i})_{-}^{2}}{2}

= \frac{λ^{2} X_{i}^{2}}{2} + \sum_{q = 3}^{\infty} \frac{λ^{q} (X_{i})_{+}^{q}}{q!}

Ganz sicher bin ich mir allerdings immer noch nicht, warum man das so kompliziert machen muss und nicht einfach die Taylorreihe verwenden kann und dann einfach mit

X_{+}

statt

X

nach oben abschätzen kann.

HAL9000

18:01 Uhr, 19.05.2023

> und nicht einfach die Taylorreihe verwenden kann und dann einfach mit X+ statt X nach oben abschätzen kann.

Versteh ich nicht. Erkläre mal bitte GENAU, wie du Abschätzung

e^{u} \leq 1 + u + \frac{u^{2}}{2}

für

u \leq 0

mit Hilfe der Taylorreihe hinkriegst?

anonymous

10:47 Uhr, 20.05.2023

Diese Abschätzung bekommt man natürlich nicht mit der Taylorreihe hin. Um diese Ungleichung zu zeigen muss man zweimal ableiten und zeigen, dass der ganze Ausdruck monoton fallend ist.

Ich verstehe jetzt auch, dass ich einen Denkfehler hatte. Es funktioniert tatsächlich nur so, wie ich vor beschrieben habe, da mit

X_{+}

einige der Summenglieder 0 werden könnten und die Ungleichung dann nicht mehr funktionieren würde.

HAL9000

10:52 Uhr, 20.05.2023

Alternativ kann man die Taylorformel mit Lagrange-Restglied bemühen: Laut der existiert für jedes reelle

u

ein (von

u

abhängiger) Wert

0 < θ < 1

mit

e^{u} = 1 + u + e^{θ u} \cdot \frac{u^{2}}{2}

.

Speziell für

u \leq 0

ist dabei

0 < e^{θ u} \leq e^{0} = 1

und somit

e^{u} \leq 1 + u + \frac{u^{2}}{2}

anonymous

11:46 Uhr, 20.05.2023

Das ist ja sehr elegant. Vielen Dank!

1571485

1571426

	Status: nicht eingeloggt	Noch nicht registriert?