Γνώσεις Θεωρίας Πιθανοτήτων & Στατιστικής II

2014-01-08 13:31

Συνεχίζω εδώ τη σειρά των posts για τη θεωρία πιθανοτήτων και τη Στατιστική ,εμβαθύνοντας στη θεωρία πιθανοτήτων,για να δούμε κάποιες βασικές έννοιες και μερικά σημαντικά θεωρήματα.Και πρώτα από όλα με την έννοια της συνάρτησης πυκνότητας πιθανότητας για συνεχείς τυχαίες μεταβλητές.
Αν είναι μια συνεχής τυχαία μεταβήτή η πιθανότητα να πάρει η μια ορισμένη τιμή είναι γενικά .Αντιθέτως έχει νόημα να μιλούμε μόνο για την πιθανότητα να πάρει η τιμές εντός κάποιου εύρους λ.χ. μεταξύ και .Έτσι ορίζουμε τη συνάρτηση πυκνότητας πιθανότητας που θα πρέπει να έχει τις ιδιότητες:

1) $\displaystyle f(x)\geq 0$

2) $\displaystyle \int_{-\infty}^{\infty} f(x) dx =1$

και με χρήση αυτής μπορούμε να υπολογίζουμε την πιθανότητα P(a<X<b) ως εξής:

$\displaystyle P(a<X<b)=\int_{a}^{b} f(x) dx$

Με χρήση τώρα της συνάρτησης πυκνότητας πιθανότητας μπορούμε να ορίσουμε διάφορες παραμέτρους που γνωρίζουμε από διακριτές κατανομές.Η αναμενόμενη τιμή ή μέση τιμή για μια συνεχή τυχαία μεταβλητή με συνάρτηση πυκνότητας f(x) είναι:

$\displaystyle \mu=E(X)=\int_{-\infty}^{\infty} x f(x) dx$

Μια άλλη παράμετρος που δείχνει πόσο απλωμένη είναι η κατανομή της τυχαίας μεταβλητής γύρω από τη μέση τιμή είναι η διασπορά ή διακύμανση:

$\displaystyle Var(X)=\sigma^2=E\[(X-\mu)^2\]=\displaystyle \int_{-\infty}^{\infty} (x-\mu)^2 f(x) dx$

Η δε τυπική απόκλιση είναι η θετική τετραγωνική ρίζα της παραπάνω ποσότητας:
$\displaystyle \sigma =\sqrt{Var(X)}$

Η διασπορά είναι μια παράμετρος,μιας γενικότερης κατηγορίας παραμέτρων που αφορούν τις κατανομές και ονομάζονται ροπές:

$\displaystyle \mu_r=E\[(X-\mu)^r\]=\displaystyle\int_{-\infty}^{\infty} (x-\mu)^r f(x) dx$

Τυποποιημένη τυχαία μεταβλητή

Μια πολύ χρήσιμη έννοια για την Στατιστική επεξεργασία δεδομένων είναι η τυποποιημένη μεταβλητή.Έστω τυχαία μεταβλητή με μέση τιμή $\mu$ και τυπική απόκλιση $\sigma (\sigma>0)$ .Ορίζουμε την αντίστοιχη τυποποιημένη ή τυπική μεταβλητή ως:
$\displaystyle X^{\star}=\frac{X-\mu}{\sigma}$

Οι βασικές ιδιότητες της τυποποιημένης μεταβλητής,που είναι πολύ χρήσιμες,είναι πως είναι αδιάστατη και έχει $E(X^{\star})=0$ και $Var(X^{\star})=1$ .Ουσιαστικά δηλαδή,η τυπική απόκλιση $\sigma$ παίρνεται ως μονάδα μέτρησης της διαφοράς $X-\mu$ .

Για δύο ή περισσότερες τυχαίες μεταβλητές μπορούμε να ορίσουμε την λεγόμενη κοινή συνάρτηση πυκνότητας ως εξής:

1) $\displaystyle f(x,y)\geq 0$

2) $\displaystyle \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f(x,y) dx dy=1$

και η πιθανότητα P(a< X<b,c<Y<d) είναι:

$\displaystyle P(a< X<b,c<Y<d)=\int_{a}^{b} \int_{c}^{d}f(x,y)dx dy$

Ανεξάρτητες τυχαίες μεταβλητές

Αν και είναι συνεχείς τυχαίες μεταβλητές λέμε πως αυτές είναι ανεξάρτητες αν τα γεγονότα $X\leq x$ και $Y\leq y$ είναι ανεξάρτητα για κάθε και .Τότε είναι:

$\displaystyle P(X\leq x,Y\leq y)=P(X\leq x)P(Y\leq y)$

Τότε η κοινή συνάρτηση πυκνότητας γράφεται ως f(x,y)=f_1(x) f_2(y) όπου:
$\displaystyle f_1(x)=\int_{-\infty}^{\infty} f(x,u) du$ και

$\displaystyle f_2(y)=\int_{-\infty}^{\infty} f(u,y) du$

και αυτές οι δυο συναρτήσεις ονομάζονται περιθώριες συναρτήσεις πυκνότητας.Με την βοήθεια της κοινής συνάρτηση πυκνότητας και των περιθωρίων συναρτήσεων μπορούμε να ορίσουμε την συνάρτηση πυκνότητας υπό συνθήκη.Λόγου χάρη,αν και είναι συνεχείς τυχαίες μεταβλητές τότε η συνάρτηση πυκνότητας της δεδομένης της είναι:

$\displaystyle f(y|x)=\frac{f(x,y)}{f_1(x)}$

όπου f_1(x) η περιθώρια συνάρτηση πυκνότητας της .Με τη βοήθεια αυτής της συνάρτησης μπορούμε να υπολογίσουμε και υπο συνθήκη πιθανότητες του τύπου:

$\displaystyle P(c<Y<d|x<X<x+dx)=\int_{c}^{d}f(y|x) dy$

Με την βοήθεια της κοινής συνάρτησης πυκνότητας μπορούμε να ορίσουμε και άλλα μεγέθη όπως είναι η συνδιασπορά που είναι έννοια συναφή της διασποράς για την κοινή κατανομή δύο μεταβλητών .Αν και συνεχείς τυχαίες μεταβλητές με κοινή συνάρτηση πυκνότητας f(x,y) τότε η συνδιασπορά ορίζεται ως

$\displaystyle \sigma_{XY}=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} (x-\mu_X)(y-\mu_Y)f(x,y) dx dy$

όπου

$\displaystyle \mu_X=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} x f(x,y) dx dy ,\mu_Y=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} y f(x,y) dx dy$

Παράθεση:

Κάποια χρήσιμα θεωρήματα που αφορούν ανεξάρτητες τυχαίες μεταβλητές μπορούν να διατυπωθούν με τη βοήθεια της συνδιαποράς:

Θεώρημα 1
Αν

και

είναι δύο ανεξάρτητες τυχαίες μεταβλητές τότε:

$\displaystyle \sigma_{XY}=0$

Το αντίστροφο δεν ισχύει πάντα.

Θεώρημα 2

$\displaystyle Var(X\pm Y)=Var(X)+Var(Y)\pm 2 \sigma_{XY}$

όπου

$\displaystyle Var(X)=\sigma_{X}^2=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} (x-\mu_X)^2 f(x,y) dx dy$

και

$\displaystyle Var(Y)=\sigma_{Y}^2=\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} (y-\mu_Y)^2 f(x,y) dx dy$

Θεώρημα 3

$\displaystyle |\sigma_{XY}|\leq \sigma_{X} \sigma_{Y}$

Συντελεστής συσχέτισης

Μια ποσότητα που θα μας επιτρέψει αργότερα,όχι στην θεωρία πιθανοτήτων αλλά στην Στατιστική πια,να αποφανθούμε πάνω σε μια υπόθεση περί της ανεξαρτησίας δύο τυχαίων μεταβλητών είναι ο συντελεστής συσχέτισης.Μπορούμε να θεωρήσουμε σαν μέτρο της ανεξάρτησίας δύο μεταβλητών την ποσότητα:

$\displaystyle \rho=\frac{\sigma_{XY}}{\sigma_X\sigma_Y}$

είναι αδιάστατη και ονομάζεται συντελεστής συσχέτισης.Όπως φαίνεται από το θεώρημα 3 $|\sigma_{XY}|\leq \sigma_{X} \sigma_{Y}$ θα είναι $-1\leq\rho\leq 1$ .Αν $\rho=0$ οι μεταβλητές ονομάζονται ασυσχέτιστες (μπορεί να είναι ανεξάρτητες αλλά μπορεί και να μην είναι)

Ανισότητα Chebyshev και Νόμος των μεγάλων αριθμών

Ένα πολύ σημαντικό θεώρημα είναι η ανισότητα Chebyshev.Αν είναι μια τυχαία μεταβλητή με μέση τιμή $\mu$ και διασπορά $\sigma^2$ πεπερασμένες,τότε $\forall \epsilon>0$ ισχύει:

$\displaystyle P(|X-\mu|\geq \epsilon)\leq\frac{\sigma^2}{\epsilon^2}$

ή αλλιώς με $\epsilon = k\sigma$ :

$\displaystyle P(|X-\mu|\geq k\sigma)\leq\frac{1}{k^2}$

για οποιαδήποτε κατανομή πιθανότητας της με πεπερασμένες μέση τιμή και διασπορά.Δηλαδή η πιθανότητα η τυχαία μεταβλητή να πάρει μια τιμή διαφορετική από τη μέση τιμή κατά φορές την τυπική απόκλιση είναι μικρότερη ή ίση από το $\frac{1}{k^2}$

Μια σημαντική συνέπεια της ανισότητας του Chebyshev είναι ο Νόμος των μεγάλων αριθμών.Έστω ότι οι τυχαίες μεταβλητές $X_1,X_2,\ldots$ είναι τελείως ανεξάρτητες και έχουν πεπερασμένες μέση τιμή $\mu$ και διασπορά $\sigma^2$ .Αν $S_n=X_1+X_2+\cdots +X_n (n=1,2,\ldots)$ τότε:

$\displaystyle \lim_{n\rightarrow\infty} P(\big|\frac{S_n}{n}-\mu\big|\geq\epsilon)=0$

Δηλαδή η πιθανότητα,ο $\frac{S_n}{n}$ που είναι ο μέσος όρος των $X_1,X_2,\ldots,X_n$ ,να διαφέρει από τη μέση τιμή $\mu$ περισσότερο από $\epsilon>0$ τείνει στο μηδέν καθώς $n\rightarrow\infty$ .
Αυτός λέγεται και ασθενής νόμος των μεγάλων αριθμων.Μπορεί επίσης να δειχθεί ο λεγόμενος ισχυρός νόμος των μεγάλων αριθμών,ότι με πιθανότητα είναι $\displaystyle\lim_{n\rightarrow\infty} \frac{S_n}{n}=\mu$

—————

Πίσω

Προσομοιώσεις Φυσικής

Γνώσεις Θεωρίας Πιθανοτήτων & Στατιστικής II