6.1 Momentos e variância

Sejam $X$ e $Y$ variáveis aleatórias com distribuições uniformes em $[-1,+1]$ e $\{-1,+1\}$ , respectivamente. Está claro que $X$ tem uma dispersão de seus valores em torno de sua média menor que a de $Y$ . Um dos objetivos desta seção é quantificar o quanto uma variável aleatória se espalha em torno de determinado valor e, em particular, o quanto ela se espalha em torno de sua média.

Definição 6.1.

Dada uma variável aleatória $X$ e $k=1,2,3,\dots$ , definimos o $k$ -ésimo momento de $X$ como $\mathbb{E}X^{k}$ , caso $X^{k}$ seja integrável. Neste caso, dizemos que $X$ tem $k$ -ésimo momento finito, e definimos o $k$ -ésimo momento central de $X$ como $\mathbb{E}(X-\mathbb{E}X)^{k}$ .

Observamos que, se $X$ tem $k$ -ésimo momento finito, então $X$ tem $j$ -ésimo momento finito para $j=1,\dots,k$ (pois $|X|^{j}\leqslant 1+|X|^{k}$ ) e, em particular, o $k$ -ésimo momento central está bem definido.

Exemplo 6.2.

Se $X\sim\mathcal{U}[0,1]$ , então

\mathbb{E}X=\int_{0}^{1}x\,\mathrm{d}x=\frac{1}{2},\quad\mathbb{E}X^{2}=\int_{% 0}^{1}x^{2}\,\mathrm{d}x=\frac{1}{3},\quad\mathbb{E}X^{k}=\int_{0}^{1}x^{k}\,% \mathrm{d}x=\frac{1}{k+1},

e o segundo momento central é dado por

\mathbb{E}\big{(}X-\textstyle\frac{1}{2}\big{)}^{2}=\int_{0}^{1}\big{(}x-% \textstyle\frac{1}{2}\big{)}^{2}\,\mathrm{d}x=\frac{1}{12}.\qed

Como veremos a seguir, o segundo momento central é um excelente quantificador da dispersão de variável aleatória $X$ em torno de sua média, com propriedades muito especiais.

Definição 6.3 (Variância).

Seja $X$ uma variável aleatória integrável. Define-se a variância da variável aleatória $X$ , denotada por $\mathbb{V}X$ , como

\mathbb{V}X=\mathbb{E}(X-\mathbb{E}X)^{2}.

Exemplo 6.4.

Se $X\sim\mathcal{U}[0,1]$ , então $\mathbb{E}X=\frac{1}{2}$ e $\mathbb{V}X=\frac{1}{12}$ , como calculado no Exemplo 6.2. ∎

Proposição 6.5 (Propriedades da variância).

Seja $X$ uma variável aleatória com segundo momento finito. Então:

(1)

$\mathbb{V}X=\mathbb{E}X^{2}-(\mathbb{E}X)^{2}$ . Em particular, $\mathbb{V}X\leqslant\mathbb{E}X^{2}$ .
(2)

$\mathbb{V}X\geqslant 0$ . Além disso, $\mathbb{V}X=0$ se, e somente se, $X=\mathbb{E}X$ q.c.
(3)

$\mathbb{V}[aX+b]=a^{2}\,\mathbb{V}X$ .

Demonstração.

Para o item (1), basta expandir $\mathbb{V}X=\mathbb{E}(X-\mathbb{E}X)^{2}=\mathbb{E}[X^{2}-2X\mathbb{E}X+(% \mathbb{E}X)^{2}]=\mathbb{E}X^{2}-(\mathbb{E}X)^{2}$ .

Para o item (2), $\mathbb{V}X\geqslant 0$ pois $(X-\mathbb{E}X)^{2}\geqslant 0$ . Pelo item (4) da Proposição 5.31, $\mathbb{V}X=0$ implica que $X=\mathbb{E}X$ quase certamente; a recíproca é imediata.

Para provar o item (3), expandimos $\mathbb{V}[aX+b]=\mathbb{E}(aX+b-\mathbb{E}[aX+b])^{2}=a^{2}\,\mathbb{E}(X-% \mathbb{E}X)^{2}=a^{2}\,\mathbb{V}X$ . ∎

Exemplo 6.6.

Se $X\sim\mathop{\mathrm{Bernoulli}}\nolimits(p)$ , então

\mathbb{E}X=p,\quad\mathbb{E}X^{2}=p,\quad\mathbb{V}X=\mathbb{E}X^{2}-(\mathbb% {E}X)^{2}=p-p^{2}=p(1-p).\qed

Observe que a variância é máxima no caso simétrico $p=\frac{1}{2}$ .

Exemplo 6.7.

Seja $X\sim\mathcal{N}(\mu,\sigma^{2})$ . Sabemos que $X=\sigma Z+\mu$ com $Z\sim\mathcal{N}(0,1)$ (Exercício 3.28) e que $\mathbb{E}Z^{2}=1$ (Exemplo 5.41). Usando proposição acima, obtemos $\mathbb{V}X=\sigma^{2}$ . ∎

Exemplo 6.8.

Se $X\sim\mathcal{U}[a,b]$ então $X\sim a+(b-a)U$ , onde $U$ é uma uniforme no intervalo $[0,1]$ , cuja variância foi calculada no Exemplo 6.4. Logo, segue do item (3) da proposição anterior que $\mathbb{V}X=\frac{(b-a)^{2}}{12}$ . ∎

Podemos observar que $\mathbb{V}X$ é uma medida da dispersão de $X$ em torno de sua média, mas que dimensionalmente não é expressa nas mesmas unidades de $X$ . Por exemplo, se $X$ for medida em $\mathrm{kg}$ então $\mathbb{V}X$ é medida em $\mathrm{kg}^{2}$ . Para que tenhamos uma medida de dispersão na mesma escala da variável aleatória $X$ , somos motivados a introduzir a próxima definição.

Definição 6.9 (Desvio-padrão).

O desvio-padrão $\sigma(X)$ da variável aleatória $X$ é dado pela raiz quadrada da variância ¹¹¹¹ 11 O significado de $\sigma(X)$ neste capítulo, bem como no Capítulo 9, é completamente diferente daquele nas seções mais avançadas dos Capítulos 3 e 5, bem como nos Capítulos 11, 12 e 13. Essa reutilização da letra $\sigma$ não deve causar confusão.

\sigma(X)=\sqrt{\mathbb{V}X}.

Exemplo 6.10.

Se $X\sim\mathop{\mathrm{Bernoulli}}\nolimits(\frac{1}{2})$ , então

\sigma(X)=\sqrt{\mathbb{V}X}=\sqrt{\tfrac{1}{4}}=\tfrac{1}{2}.\qed

Exemplo 6.11.

Se $X\sim\mathcal{N}(\mu,\sigma^{2})$ , do Exemplo 6.7, segue que $\sigma(X)=\sigma$ . ∎

Gostaríamos de estudar a variância da soma de duas ou mais variáveis aleatórias e, se possível, relacioná-la com a variância das variáveis envolvidas. Expandindo a fórmula da variância, obtemos

\displaystyle\mathbb{V}[X+Y]

\displaystyle=\ \mathbb{V}X+\mathbb{V}Y+2\,\mathbb{E}[(X-\mathbb{E}X)\cdot(Y-% \mathbb{E}Y)].

Ou seja, a variância de $X+Y$ é igual à soma das variâncias de $X$ e de $Y$ , mais um termo cruzado que envolve ambas as variáveis. Isto nos motiva a introduzir o seguinte conceito.

Definição 6.12 (Covariância).

Dadas duas variáveis aleatórias $X$ e $Y$ com segundo momento finito, definimos a covariância de $X$ e $Y$ como

\mathop{\mathbf{Cov}}\nolimits(X,Y)=\mathbb{E}\left[(X-\mathbb{E}X)(Y-\mathbb{% E}Y)\right].

A expressão acima está definida e é finita, pois $|xy|\leqslant x^{2}+y^{2}$ .

Observe que $\mathop{\mathbf{Cov}}\nolimits(X,X)=\mathbb{V}X$ , $\mathop{\mathbf{Cov}}\nolimits(X,Y)=\mathop{\mathbf{Cov}}\nolimits(Y,X)$ (a covariância é simétrica), e

\mathop{\mathbf{Cov}}\nolimits(X,Y)=\mathbb{E}[XY]-\mathbb{E}X\cdot\mathbb{E}Y.

Se $\mathop{\mathbf{Cov}}\nolimits(X,Y)=0$ , dizemos que $X$ e $Y$ são não-correlacionadas, e isso vale se, e somente se, $\mathbb{V}[X+Y]=\mathbb{V}X+\mathbb{V}Y$ . Se as variáveis aleatórias $X$ e $Y$ são independentes e têm segundo momento finito então $X$ e $Y$ são não-correlacionadas e $\mathbb{V}[X+Y]=\mathbb{V}X+\mathbb{V}Y$ . Entretanto, nem sempre vale a recíproca, pois $\mathbb{E}[XY]=\mathbb{E}X\cdot\mathbb{E}Y$ não implica $X$ e $Y$ independentes.

Exemplo 6.13.

Sejam $X$ e $Y$ variáveis aleatórias tomando valores $-1,0,1$ com distribuição conjunta dada por $p(-1,-1)=p(-1,1)=p(1,-1)=p(1,1)=p(0,0)=\frac{1}{5}$ . Então $\mathop{\mathbf{Cov}}\nolimits(X,Y)=0$ , mas $X$ e $Y$ não são independentes. ∎

Outras propriedades importantes da covariância são dadas na proposição abaixo.

Proposição 6.14 (Propriedades da Covariância).

Sejam $X,X_{1},\dots,X_{n}$ e $Y,Y_{1},\dots,Y_{m}$ variáveis aleatórias com segundo momento finito e $a_{1},\dots,a_{n},$ e $b_{1},\dots,b_{m},c$ números reais. Então:

(1)

$\mathop{\mathbf{Cov}}\nolimits(X,c)=0$ para todo $c\in\mathbb{R}$ ;
(2)

$\mathop{\mathbf{Cov}}\nolimits(\sum_{k}a_{k}X_{k},\sum_{j}b_{j}Y_{j})=\sum_{k}% \sum_{j}a_{k}b_{j}\mathop{\mathbf{Cov}}\nolimits(X_{k},Y_{j});$
(3)

$\mathbb{V}\big{[}\sum_{k=1}^{n}X_{k}\big{]}=\sum_{k=1}^{n}\mathbb{V}X_{k}+2% \sum_{1\leqslant k<j\leqslant n}\mathop{\mathbf{Cov}}\nolimits(X_{k},X_{j}).$

Demonstração.

Expandindo $\mathop{\mathbf{Cov}}\nolimits(X,c)=\mathbb{E}[cX]-\mathbb{E}X\cdot\mathbb{E}[% c]=c\,\mathbb{E}X-c\,\mathbb{E}X=0$ , mostramos o item (1). O item (2) segue da expansão

	$\displaystyle\mathbb{E}\big{[}\big{(}\sum_{k}a_{k}X_{k}\big{)}\big{(}\sum_{j}b% _{j}Y_{j}\big{)}\big{]}-\mathbb{E}\big{[}\sum_{k}a_{k}X_{k}\big{]}\mathbb{E}% \big{[}\sum_{j}b_{j}Y_{j}\big{]}$
	$\displaystyle=\mathbb{E}\big{[}\sum_{k,j}a_{k}b_{j}X_{k}Y_{j}\big{]}-\big{(}% \sum_{k}a_{k}\mathbb{E}X_{k}\big{)}\big{(}\sum_{j}b_{j}\mathbb{E}Y_{j}\big{)}$
	$\displaystyle=\sum_{k,j}a_{k}b_{j}\mathbb{E}[X_{k}Y_{j}]-\big{(}\sum_{k,j}a_{k% }b_{j}\mathbb{E}X_{k}\cdot\mathbb{E}Y_{j}\big{)}$
	$\displaystyle=\sum_{k}\sum_{j}a_{k}b_{j}\mathop{\mathbf{Cov}}\nolimits(X_{k},Y% _{j}).$

Para provar o item (3), expandimos

	$\displaystyle\mathbb{V}\big{[}\sum_{k=1}^{n}X_{k}\big{]}$	$\displaystyle=\mathop{\mathbf{Cov}}\nolimits\Big{(}\sum_{k=1}^{n}X_{k},\sum_{j% =1}^{n}X_{j}\Big{)}=\sum_{k=1}^{n}\sum_{j=1}^{n}\mathop{\mathbf{Cov}}\nolimits% (X_{k},X_{j})$
		$\displaystyle=\sum_{k=1}^{n}\mathop{\mathbf{Cov}}\nolimits(X_{k},X_{k})+\sum_{% k=1}^{n}\sum_{j=1}^{n}\mathds{1}_{k\neq j}\mathop{\mathbf{Cov}}\nolimits(X_{k}% ,X_{j})$

e observamos que todo par de $k$ e $j$ distintos aparece duas vezes na última soma acima. ∎

Pelo último item acima, se as variáveis aleatórias são não-correlacionadas, então a variância da soma é a soma das variâncias.