8.2 Lei Forte dos Grandes Números

Considere uma sequência (Xn)n(X_{n})_{n} de variáveis aleatórias, todas com média μ\mu. A Lei Fraca dos Grandes Números diz que, se tomamos um valor de nn grande o suficiente, então, como alta probabilidade, Snn\frac{S_{n}}{n} estará bem próximo de μ\mu. Observe que essa a afirmação diz respeito ao comportamento estatístico de SnS_{n} para qualquer valor de nn previamente selecionado, desde que seja grande. Mas nada impede que Snn\frac{S_{n}}{n} esteja longe de μ\mu para infinitos de valores de nn posteriores àquele previamente selecionado. Em contraste, a Lei Forte dos Grandes Números, que definimos abaixo, se refere ao comportamento da sequência aleatória (Snn)n∈ℕ(\frac{S_{n}}{n})_{n\in\mathbb{N}} como um todo. Ela diz que, quase certamente, a média observada Snn\frac{S_{n}}{n} se aproxima de μ\mu quando nn cresce, não deixando aberta a possibilidade de que ela siga oscilando indefinidamente.

A Lei Forte dos Grandes Números diz que, sob certas hipóteses,

Sn−𝔼⁢Snn⁢→q.c.⁢0.\frac{S_{n}-\mathbb{E}S_{n}}{n}\overset{\mathrm{q.c.}}{\rightarrow}0.

Na Seção 7.3, vimos que convergência quase certa implica convergência em probabilidade. Portanto, a Lei Forte implica a Lei Fraca.

Teorema 8.4 (Lei dos Grandes Números de Borel).

Considere uma sequência de ensaios independentes tendo a mesma probabilidade pp de sucesso em cada ensaio. Se SnS_{n} é o número de sucessos nos primeiros n ensaios, então

Snn⁢→q.c.⁢p.\frac{S_{n}}{n}\overset{\mathrm{q.c.}}{\rightarrow}p.

Não veremos a demonstração original de Borel. A seguir, enunciaremos e provaremos a Lei dos Grandes Números de Cantelli, que é mais geral que a de Borel.

Teorema 8.5 (Lei dos Grandes Números de Cantelli).

Sejam X1,X2,…X_{1},X_{2},\dots variáveis aleatórias independentes com quarto momento limitado. Então

Sn−𝔼⁢Snn⁢→q.c.⁢0.\frac{S_{n}-\mathbb{E}S_{n}}{n}\overset{\mathrm{q.c.}}{\rightarrow}0.
Demonstração.

Podemos supor que 𝔼⁢Xn=0\mathbb{E}X_{n}=0 (senão consideramos Xn−𝔼⁢XnX_{n}-\mathbb{E}X_{n} e usamos as desigualdades |x|⩽1+x4|x|\leqslant 1+x^{4} e (x−c)4⩽16⁢x4+16⁢c4(x-c)^{4}\leqslant 16x^{4}+16c^{4} para mostrar que essa sequência também tem quarto momento limitado). Observe que

Sn4=(X1+⋯+Xn)4=∑r,j,k,lXr⁢Xj⁢Xk⁢Xl=∑rXr4+4!2!⁢2!⁢∑r<jXr2⁢Xj2++4!3!⁢∑r≠kXr3⁢Xk+4!2!⁢∑r≠j,kj<kXr2⁢Xj⁢Xk+4!⁢∑r<j<k<lXr⁢Xj⁢Xk⁢Xl.S_{n}^{4}=(X_{1}+\cdots+X_{n})^{4}=\sum_{r,j,k,l}X_{r}X_{j}X_{k}X_{l}=\sum_{r}% X_{r}^{4}+\frac{4!}{2!2!}\sum_{r<j}X_{r}^{2}X_{j}^{2}+\\ +\frac{4!}{3!}\sum_{r\neq k}X_{r}^{3}X_{k}+\frac{4!}{2!}\sum_{\stackrel{{% \scriptstyle j<k}}{{r\neq j,k}}}X_{r}^{2}X_{j}X_{k}+4!\sum_{\mathclap{\ \quad r% <j<k<l}}X_{r}X_{j}X_{k}X_{l}.

Por independência,

𝔼⁢Sn4=∑r𝔼⁢Xr4+6⁢∑r<j𝔼⁢[Xr2⁢Xj2]++∑k𝔼⁢[⁢4⁢∑Xr3+12⁢∑Xr2⁢Xj+24⁢∑Xr⁢Xj⁢Xl]⁢𝔼⁢Xk.\mathbb{E}S_{n}^{4}=\sum_{r}\mathbb{E}X_{r}^{4}+6\sum_{r<j}\mathbb{E}[X_{r}^{2% }X_{j}^{2}]+\\ +\sum_{k}\mathbb{E}\left[\mathclap{\phantom{\Big{|}}}4\sum X_{r}^{3}+12\sum X_% {r}^{2}X_{j}+24\sum X_{r}X_{j}X_{l}\right]\mathbb{E}X_{k}.

Como assumimos que 𝔼⁢Xk=0\mathbb{E}X_{k}=0, a segunda linha é igual a zero. Tome MM tal que 𝔼⁢Xk4⩽M\mathbb{E}X_{k}^{4}\leqslant M para todo kk. Para o segundo termo, observamos que, como x2⁢z2⩽x4+z4x^{2}z^{2}\leqslant x^{4}+z^{4}, temos 𝔼⁢[Xr2⁢Xj2]⩽2⁢M\mathbb{E}[X_{r}^{2}X_{j}^{2}]\leqslant 2M. Assim,

𝔼⁢Sn4⩽n⁢M+12⁢(n2)⁢M=(6⁢n2−5⁢n)⁢M⩽6⁢n2⁢M.\displaystyle\mathbb{E}S_{n}^{4}\leqslant nM+12\tbinom{n}{2}M=(6n^{2}-5n)M% \leqslant 6n^{2}M.

Pela Desigualdade de Markov,

ℙ⁢(|Snn|⩾ε)⩽𝔼⁢Sn4ε4⁢n4⩽6⁢Mε4⁢n2,\mathbb{P}\left(\left|\frac{S_{n}}{n}\right|\geqslant\varepsilon\right)% \leqslant\frac{\mathbb{E}S_{n}^{4}}{\varepsilon^{4}n^{4}}\leqslant\frac{6M}{% \varepsilon^{4}n^{2}},

e pelo Lema de Borel-Cantelli segue que Snn⁢→q.c.⁢0\frac{S_{n}}{n}\overset{\mathrm{q.c.}}{\rightarrow}0. ∎

Teorema 8.6 (Lei dos Grandes Números de Kolmogorov).

Sejam X1,X2,…X_{1},X_{2},\dots variáveis aleatórias independentes duas a duas, identicamente distribuídas e integráveis. Então

Snn⁢→q.c.⁢𝔼⁢X1.\frac{S_{n}}{n}\overset{\mathrm{q.c.}}{\rightarrow}\mathbb{E}X_{1}.

O teorema como enunciado acima é um caso particular do Teorema 8.11, visto na Seção 8.3, ou do Teorema Ergódico de Birkhoff, visto na Seção 14.3.

Enfatizamos que a hipótese de X1X_{1} ser integrável é a mais fraca possível para que valha a Lei Forte dos Grandes Números quando a sequência (Xn)n(X_{n})_{n} for i.i.d. Isto é, X1X_{1} ser integrável é equivalente a X1+⋯+Xnn⁢→q.c.⁢μ\frac{X_{1}+\dots+X_{n}}{n}\overset{\mathrm{q.c.}}{\rightarrow}\mu para algum μ∈ℝ\mu\in\mathbb{R}, conforme mostramos na seguinte proposição.

Proposição 8.7.

Seja (Xn)n(X_{n})_{n} uma sequência de variáveis aleatórias i.i.d. tal que X1+⋯+Xnn⁢→q.c.⁢μ\frac{X_{1}+\dots+X_{n}}{n}\overset{\mathrm{q.c.}}{\rightarrow}\mu, onde μ\mu é um número real. Então 𝔼⁢|X1|<∞\mathbb{E}|X_{1}|<\infty e μ=𝔼⁢X1\mu=\mathbb{E}X_{1}.

Demonstração.

Observe que, por hipótese,

Xnn=X1+⋯+Xnn−n−1n⋅X1+⋯+Xn−1n−1⁢→q.c.⁢0.\frac{X_{n}}{n}=\frac{X_{1}+\dots+X_{n}}{n}-\frac{n-1}{n}\cdot\frac{X_{1}+% \dots+X_{n-1}}{n-1}\overset{\mathrm{q.c.}}{\rightarrow}0.

Pela Proposição 7.16, ℙ⁢({|Xn|⩾n⁢i.v.})=0\mathbb{P}\left(\{|X_{n}|\geqslant n\ \textit{i.v.}\}\right)=0. Como a sequência (Xn)n(X_{n})_{n} é independente, segue do Lema de Borel-Cantelli que ∑nℙ⁢(|Xn|⩾n)<∞\sum_{n}\mathbb{P}(|X_{n}|\geqslant n)<\infty Como (Xn)n(X_{n})_{n} é identicamente distribuída, ∑nℙ⁢(|X1|⩾n)<∞\sum_{n}\mathbb{P}(|X_{1}|\geqslant n)<\infty. Isso que garante a integrabilidade de X1X_{1} pela Proposição 5.35. ∎