Теорія Ймовірностей:Іспит

Ця стаття відноситься до групи довідкових статей для студентів ФІН.

• Портал:Інформаційні науки

• Теорія ймовірностей:Колоквіум

Аксіоматичне означення ймовірності. Властивості ймовірності.

1. Простором елементарних наслідків Ω називається множина, що містить всі можливі результати цього випадкового експерименту, із яких в в експерименті стається лише один (результат). Елементами цієї множини називаються елементарними наслідками і позначають літерою ω

2. Подіями ми називаємо підмножини множини Ω. Кажуть, що в результаті експерименту сталась подія $\Alpha \subseteq \Omega$, якщо в результаті експерименту стався один з елементарних наслідків, що входить в множину Α

Приклад: Один раз підкидається кубик. Простір елементарних наслідків Ω = {1, 2, 3, 4, 5, 6}, елементарні наслідки відповідають числу очок.

Приклад події: Α={2, 4, 6} -випало парне число.

3.

3.1 Достоверным называется событие, которое обязательно происходит в результате эксперимента, то есть единственное событие, включающее все без исключения элементарные исходы — событие Ω.

3.2 Невозможным называется событие, которое не может произойти в результате

эксперимента, то есть событие, не содержащее ни одного элементарного исхода («пустое множество» $\emptyset$). Заметим, что всегда $\emptyset \subset \Omega$.

4. Нехай Α,Β - події

4.1 Об"єднання $\Alpha \cup \Beta$

4.2 Перетин $\Alpha \cap \Beta$

4.3 Доповнення $\Alpha \smallsetminus \Beta$

4.4 Протилежна до Α

5.

5.1 Події Α,Β несумісні , якщо $\Alpha \cap \Beta$=$\emptyset$.

• Незалежними називаються події: P(A|B)=P(B|A). Поява однієї події не залежить від появи іншої.

5.2 Події A₁,...,A_n називаються попарно незалежними, якщо для будь-яких $i \neq j$, 1 ≤ i,j ≤ n, події A_i,A_j несумісні.

Клаcична, геометрична та дискретна схеми визначення ймовірності.

• Класичне визначення ймовірності
• Геометрична ймовірність
• Статистичне означення

Статистична імовірність події А - це така границя

$P(A) = \lim_{n\rightarrow \infty} \frac{m_n}{n}$, тобто це фактично границя відносної частоти, коли кількість експериментів прямує до нескінченності.

Умовні ймовірності. Формули повної ймовірності та Байєса.

• Умовні ймовірності

• Формула Байєса

• Формула повної ймовірності

Незалежність випадкових подій. Незалежність випадкових подій попарна та у сукупності.

Події Α,Β несумісні , якщо $\Alpha \cap \Beta$=$\emptyset$.

• Незалежними називаються події: P(A|B)=P(B|A). Поява однієї події не залежить від появи іншої.

В теорії ймовірності дві випадкові події називаються незалежними, якщо поява однієї з них не змінює ймовірності появи іншої. Аналогічно дві випадкові величини називаються незалежними, якщо значення однієї з них не впливає на ймовірність значення іншої. Будемо вважати, що дано фіксований ймовірнісний простір $(\Omega,\mathcal {F},\mathbb{P})$

Означення 1. Дві події $A,B \in \mathcal {F}$ незалежні, якщо $\mathbb {P}(A \cap B) = \mathbb {P}(A) \cdot \mathbb {P}(B)$

Зауваження 1. В тому випадку, коли ймовірність однієї події, скажімо B, ненульова, тобто $\mathbb{P}(B)>0$, означення незалежності еквівалентно $\mathbb {P}(A|B)= \mathbb {P}(A)$, тобто умовна ймовірність події А за умови В дорівнює безумовній ймовірності події А

Означення 2. Нехай є сімейство (скінченне або нескінченне) випадкових подій $\{A_i\}_{i \in I} \subset \mathcal {F}$, де І - довільна індексна множина. Тоді ці події попарно незалежні, якщо будь-які дві події з цього сімейства незалежні, тобто $\mathbb{P}(A_i \cap A_j) = \mathbb{P}(A_i) \cdot (A_j), \forall i \neq j$

Означення 3. Нехай є сімейство (скінченне або нескінченне) випадкових подій $\{A_i\}_{i \in I} \subset \mathcal {F}$. Ці події є сумісно незалежні, якщо для будь-якого скінченного набору цих подій $\{ {A_i}_k \}_{k=1}^{N}$ виконується: $\mathbb {P}(A_{i1} \cap \dots \cap A_{iN}) = \mathbb {P} (A_{i1}) \dots \mathbb {P} (A_{iN})$

Приклад 1: Нехай підкинуті три неврівноважені монети. Визначимо події наступним чином:

- A₁ - монети 1 та 2 впали одним і тим же боком

- A₂ - монети 2 та 3 впали одним і тим же боком

- A₃ - монети 1 та 3 впали одним і тим же боком

Легко перевірити, що будь-які дві події з цього набору незалежні. Але всі три події в сукупності є залежними, оскільки ми точно знаємо, що подія A₃ відбулася, якщо відбулись A₁ і A₂

• Якщо події А та В несумісні, тоді вони і незалежні, якщо тільки Р(А)=0 або Р(В)=0.

• Якщо події А та В незалежні, тоді незалежні і події:

$P(\bar{A}), P(\bar{B})$

$P(A), P(\bar{B})$

$P(\bar{A}), P(B)$

• Події A₁,...,A_n називаються незалежними в сукупності, якщо для будь-якого набору 1 ≤ i₁,...,i_k ≤ n

$P(A_{i_1}) \cap ... \cap P(A_{i_k}) = P(A_{i_1}) \cdot ... \cdot P(A_{i_k})$.

• Якщо події A₁,...,A_n незалежні в сукупності, тоді вони попарно незалежні, тобто будь-які дві події A_i,...,A_j незалежні. Досить в попередній рівності взяти k=2.

З того, що дві події попарно незалежні не випливає, що вони незалежні в сукупності. Приклад:

Приклад Бернштейна показує що попарна незалежність подій ще не означає їх незалежність в сукупності.

Підкидається правильний тетраедр, три грані якого пофарбовано відповідно в червоний, синій і зелений кольори, а в розфарбуванні четвертої грані є всі три кольори. Події R (червоний), G (зелений), B(синій) означають, що в розфарбуванні грані, яка стикається з поверхнею, є відповідні кольори. Перевірити, що події R,G,B попарно незалежні, але не незалежні в сукупності.

Доведення. Кожен колір наявний на двох гранях, тому $P(R) = P(G) = P(B) = \frac{2}{4} = \frac{1}{2}$.

Два і більше кольорів наявні в розфарбуванні лише однієї грані, тому $P(R \cap G) = P(G \cap B) = P(B \cap R) = \frac{1}{4}$.

Звідси, $P(R \cap G) = P(R)P(G),\, P(G \cap B) = P(G)P(B),\, P(B \cap R) = P(B)P(R)$. Тому, події R,G,B - попарно незалежні за означенням.

Але $P(R \cap G \cap B) = \frac{1}{4} \not = \frac{1}{2}\cdot \frac{1}{2}\cdot \frac{1}{2} = P(R) P(G) P(B)$, що означає, що вони не є незалежними в сукупності.

Дискретні випадкові величини. Розподіл дискретної випадкової величини. Функція розподілу дискретних випадкових в. Її властивості.

Функція $\xi : \Omega \rightarrow \mathbb{R}$ називається випадковою величиною, якщо для будь-якого $x \in \mathbb{R}$ множина {ξ < x} = {ω:ξ(ω) < x} є подією, тобто належить сігма-алгебрі подій $\mathbb{F}$

Отже, випадкова величина є $\mathbb{F}$-вимірною функцією, якщо {ω:ξ(ω) < x} належить $\mathbb{F}$-вимірною для будь-якого $x \in \mathbb{R}$

Функція розподілу дискретних випадкових в. Її властивості.

Закон розподілу ймовірностей можна подати ще в одній формі, яка придатна і для дискретний, і для неперервних випадкових величин, асаме: як функцію розподілу ймовірностей випадкової величини F(x), так звану функцію розподілу. Функцію аргументу x, що визначає ймовірність випадкової події X<x,називають функцією розподілу ймовірностей:

F(x)=P(X<x)

Цю функцію можна розглядати як: "у наслідок експерименту випадкова величина може набувати значення, меншого за x"

Властивості функції розподілу:

• 0 ≤ F(x) ≤ 1
• F(x) є неспадною функцією, тобто: F(x₂) ≤ F(x₁), якщо x₂ > x₁
• P(X=x_i)=0 Якщо випадкова величина Х є неперервною, то ймовірність того, що вона набуде конкретного можливого значення завжди дорівнює нулю.

lim F(x), при x->-$\infty$ = lim P(X<x), при x->-$\infty$ -> F($\infty$) = F(X < - $\infty$)=0

lim F(x), при x->$\infty$ = lim P(X<x), при x->$\infty$ -> F($\infty$) = F(X < $\infty$)=1

Випадкову величину називають неперервною, якщо її функція розподілу є неперервною.

Схема Бернуллі. Біномінальний розподіл. Розподіл Пуассона. Їх числові характеристики та застосування.

Схема Бернуллі

• послідовність незалежних експериментів
• p-успіх
• q=1-p-невдача
• n-разів
• P_n(K)-ймовірність, що буде успіх
• P_n(K)=$C_n^k \cdot p^k \cdot q_{n-k}$-ймовірність того, що успіхів буде k
• Набір чисел P_n(0),P_n(1),...,P_n(n)-біноміальний розподіл

• P_n(K)<P_n(K+1)
• $C_n^k \cdot p^k \cdot q_{n-k}$ < $C_n^{k+1} \cdot p^{k+1} \cdot q^{n-k-1}$
• $\frac{n \cdot (n-1) \cdot ... \cdot (n-k+1)}{k!} \cdot q < \frac{n \cdot (n-1) \cdot ... \cdot (n-k)}{(k+1)!} \cdot p \Rightarrow q < \frac{n-k}{k+1} \cdot p$
• kp+kq+q<np; k<np-q
• Якщо k>np-q, то P_n(k) > P_n(k + 1), np-q ≤ k ≤ np+p -найімовірніше число успіхів

Біномінальний розподіл

• $M\xi = \frac{n}{p}$
• $D\xi = n\cdot p\cdot q$

коли два варіанти - невдача або успіх, і треба знайти "яка ймовірність що станеться рівно k-разів", або "яка ймовірність що станеться між k i m"

Розподіл Пуассона

(малоймовірні події) при $n \rightarrow \infty, p \rightarrow 0$ - коли велика кількість випробувань, ймовірність настання кожного дуже мала

• P {ξ = k} = $e^{-\lambda} \frac{x^k}{k!}$
• Mξ = λ
• Dξ = λ

"кількість аварій на мосту протягом місяця", або "кількість смс-повідомлень що не дійшли за період півроку"

Геометричний розподіл

кількість спроб до першого успіху

• P {ξ = k} = q^k-1p, k=1,2,...
• Mξ = 1/p
• Dξ = q/p²

Числові характеристики дискретних та абсолютно неперервних випадкових величин. Їх властивості. Функції від випадкових величин. Їх характеристики.

Числові характеристики випадкових величин

• Математичне сподівання

Властивості математичного сподівання

• Мода та медіана випадкової величини
• Дисперсія та середнє квадратичне відхилення

Властивості дисперсії

• Початкові центральні моменти
• Асиметрія і ексцес

Абсолютно неперервні випадкові величини.Їх властивості.

Випадкову величину називають неперервною, якщо її функція розподілу є неперервною.

Абсолютно неперервними величини називають такі випадкові величини, розподіл яких має щільність.

Випадкова величина ξ називається абсолютно неперервною, якщо існує функція p(x), така що:

• p_ξ ≥ 0
• $\int_a^x p_{\xi}(x) \,dx$=1
• $\forall t \in R$ має місце рівність: $\int_{- \infty}^t p_{\xi}(x) \,dx$=F_ξ(t)

Функція p_ξ, що має вищезазначені властивості, називається щільністю розподілу випадкової величини ξ.

Якщо ξ - абсолютно неперервна випадкова величина, тоді

Зміст можна проілюструвати:

Абсолютно неперервні розподіли. Щільність, її властивості.

Рівномірний розподіл на відрізку [c,d]

Показниковий розподіл з параметром λ >0

Показниковий розподіл часто називають експоненційним.

Нормальний (або гаусівський) розподіл $N(a,\sigma^{2}), a \in R, \sigma > 0$

Стандартний нормальний розподіл N(0,1)

Рівномірний розподіл. Його характеристики та застосування.

Випадкова величина ξ рівномірно розподілена на відрізку [a, b]

• якщо її щільність розподілу має вигляд:

$f(x) = \begin{cases} 0, x \notin [a, b] \\ \frac{1}{b-a}, x \in [a, b] \end{cases}$

• функція розподілу відповідно:

$F(x) = \begin{cases} 0, x < a \\ \frac{x-a}{b-a}, x \in [a, b] \\ 1, x > b \end{cases}$

• математичне сподівання величини:

$M\xi = \frac{a+b}{2}$

• дисперсія величини:

$D\xi = \frac{(b-a)^2}{12}$

Показниковий розподіл. Його характеристики, застосування і основна властивість.

ξ - показникова розподілена випадкова величина, якщо:

• функція розподілу має вигляд:

$F(x) = \begin{cases} 0, x < 0 \\ 1-e^{-\lambda x}, x \ge 0 \\ \end{cases}$

• якщо її щільність розподілу:

$f(x) = \begin{cases} 0, x < 0 \\ \lambda e^{-\lambda x}, x \ge 0 \end{cases}$

• математичне сподівання величини:

$M\xi = \frac{1}{\lambda}$

• дисперсія величини:

$D\xi = \frac{1}{\lambda^{2}}$

Властивість відсутності післядії

p={ξ ≤ t+s | ξ ≥ s}

• ξ - час безвідмовної роботи

Яка ймовірність, що пристрій зламається до часу t+s, за умови що він уже пропрацював час s.

$P_{B}A = \frac{P(A \cap B)}{P(B)} = \frac{P((\xi \le t+s) \cap (\xi \ge s))}{P(\xi \ge s)}=\frac{F(t+s) - F(s)}{F(\infty) - F(s)}= ... =1-e^{-\lambda t} = F(t)= P{\xi \le t}$

Геометричний Розподіл також має властивість відсутності післядії

Нормальний розподіл. Його характеристики та застосування.

Величина ξ нормально розподілена

ξ ~ N(a, σ²), якщо її щільність:

$f(x) = \frac{1}{\sqrt{2 \pi}\sigma} e^{- \frac{(x-a)^{2}}{2 \sigma^{2}}}$

• a - Mξ, математичне сподівання
• σ - середньоквадратичне відхилення - корінь квадратний з дисперсії: σ=$\sqrt{D \xi}$

ξ ~ N(0, 1) - φ(x) - стандартний нормальний розподіл

$F(x) = \int_{- \infty}^{x}{f(t)dt}$

• ξ ~ N(a, σ²)
• ξ - a ~ N(0, σ²)
• $\frac{\xi - a}{\sigma}$ ~ N(0, 1)
• $D(\frac{\xi-a}{\sigma})=\frac{1}{\sigma^{2}}D(\xi-a)=\frac{D\xi}{\sigma^{2}}=1$

$P\{ \alpha \le \xi \le \beta \}= F(b) - F(a)$

$P \{ \frac{\alpha-a}{\sigma} \le \frac{\xi-\alpha}{2} \le \frac{\beta-a}{\sigma} \}= F(b) - F(a)$ = F_ст($\frac{\beta-a}{\sigma}$) - F_ст($\frac{\alpha-a}{\sigma}$)

Функції від випадкових величин. Їх математичне сподівання. Моменти випадкової величини.

Моменти випадкової величини

Математичним очікуванням Mξ (середнім значенням, першим моментом) випадкової величин ξ з дискретним розподілом, що заданий таблицею P(ξ=a_i)=p_i, i є Z називається число:

Mξ=Σ|a_i|p_i

Якщо M|ξ|^k < ∞, то число

• Mξ^k називається моментом порядку k (k-м моментом) випадкової величини ξ.

• M|ξ|^k називається абсолютним моментом порядку k (абсолютним k-м моментом ) випадкової величини ξ.

• M(ξ - Mξ)^k називається центральним моментом порядку k (центральним k-м моментом) випадкової величини ξ.

• Число Dξ=M(ξ - Mξ)² (центральний момент порядку 2) називається дисперсією випадкової величини ξ.

Якщо розподіл випадкової величини - це розподіл одиничної маси по невагомому стержню, то дисперсія є моментом інерції цього стержня, що закріплений в центрі ваги.

Сумісний розподіл дискретних та абсолютно неперервних випадкових величин. Їх властивості і характеристики.

• Сумісний розподіл дискретних та абсолютно неперервних випадкових величин

Числові характеристики залежності випадкових величин. Їх властивості

• Коваріація
• Коефіцієнт кореляції

• cov(ξ, η) = M((ξ - Mξ)(η - Mη))= M(ξ, η) - Mξ$\cdot$Mη

Коваріація це міра лінійної залежності випадкових величин (ξ, η).

якщо ξ та η незалежні, тоді cov(ξ, η) = 0

• cor(ξ, η) = $\frac{cov(\xi, \eta)}{\sqrt{(D\xi \cdot D\eta)}}$

Кореляція - статистичний взаємозв'язок між двома або більше випадкових величин.

-1 ≤ cor ≤ 1:

cor>0 -між величинами прямий зв'язок,

cor<0 -між величинами обернений зв'язок

Геометричний розподіл. Його основна властивість і числові характеристики.

кількість спроб до першого успіху

• P {ξ = k} = q^k-1p, k=1,2,...
• Mξ = 1/p
• Dξ = q/p²

основна властивість - відсутність післядії

Незалежні дискретні випадкові величини.

• Дискретні випадкові величини
• Незалежність випадкових величин

Сумісний розподіл дискретних випадкових величин. Функції від двох випадкових величин. Їх характеристики.

F(x)=P{ξ<x}

F(x,y)=P{ξ<x, η<y}=P{ξ<x}$\cdot$P{η<y}= F_ξ(x)$\cdot$F_η(y) - для незалежних випадкових величин.

• cov(ξ, η) = M((ξ - Mξ)(η - Mη))= M(ξ, η) - Mξ$\cdot$Mη

Коваріація це міра лінійної залежності випадкових величин (ξ, η).

якщо ξ та η незалежні, тоді cov(ξ, η) = 0

• cor(ξ, η) = $\frac{cov(\xi, \eta)}{\sqrt{(D\xi \cdot D\eta)}}$

Кореляція - статистичний взаємозв'язок між двома або більше випадкових величин.

-1 ≤ cor ≤ 1:

cor>0 -між величинами прямий зв'язок,

cor<0 -між величинами обернений зв'язок

Приклад сумісного розподілу двох дискретних випадкових величин ξ, η:

На гранях кубика числа 1, 1, 2, 2, 3, 3 Кубик підкидають двічі.

ξ - кількість очок що випала першого разу.

η - максималька кількість очок з двох спроб.

Знайти сумісний розподіл ξ та η

ξ \ η	1	2	3
1	$\frac{1}{3} \cdot \frac{1}{3}$	$\frac{1}{3} \cdot \frac{1}{3}$	$\frac{1}{3} \cdot \frac{1}{3}$
2	0	$\frac{1}{3} \cdot \frac{2}{3}$	$\frac{1}{3} \cdot \frac{1}{3}$
3	0	0	$\frac{1}{3} \cdot \frac{3}{3}$

η	1	2	3
значення	$\frac{1}{9}$	$\frac{1}{3}$	$\frac{5}{9}$

ξ	1	2	3
значення	$\frac{1}{9} \cdot 3$	$\frac{2}{9} + \frac{1}{9}$	$\frac{1}{3}$

cov(ξ, η) = M(ξ η) - Mξ$\cdot$Mη

M(ξ η)= 1*1*$\frac{1}{9}$ + 1*2*$\frac{1}{9}$ + 1*3*$\frac{1}{9}$ + 2*1*0+ 2*2*$\frac{2}{9}$ + 2*3*$\frac{1}{9}$ + 3*3*$\frac{1}{3}$

Закони великих чисел. Теореми Чебишева, Хінчина.

Кажуть, що послідовність випадкових величин $\{\xi_i\}_{i=1}^\infty$ зі скінченними першими моментами задовольняють закону великих чисел, якщо:

$\frac{\xi_1 + \xi_2 + ... +\xi_n}{n} - \frac{M\xi_1 + M\xi_2 + ... +M\xi_n}{n} \rightarrow ^p 0$, при $n \rightarrow \infty$

Слід відзначити:

• якщо випадкові величини однаково розподілені, тоді математичне сподівання у них набувають однакових значень.

Тому закон великих чисел можна записати у вигляді:

$\frac{\xi_1 + \xi_2 + ... +\xi_n}{n} \rightarrow ^p M\xi_1$

Закон Великих Чисел у формі Чебишева

Для будь-якої послідовності незалежних та однаково розподілених випадкових величин зі скінченним другим моментом $M\xi_{1}^{2} < \infty$ має місце збіжність:

$\frac{\xi_1 + \xi_2 + ... +\xi_n}{n} \rightarrow ^p M\xi_1$

Закон Великих Чисел у формі Хінчина

Для будь-якої послідовності незалежних та однаково розподілених випадкових величин зі скінченним першим моментом $M|\xi| < \infty$ має місце збіжність:

$\frac{\xi_1 + \xi_2 + ... +\xi_n}{n} \rightarrow ^p M\xi_1$

---

• Приклад використання теореми

Центральна гранична теорема.

• Центральна Гранична Теорема (Ляпунова)
• Доведення ЦГТ

Ненаписані статті:

Нерівність Чебишева для дискретних і абсолютно неперервних випадкових величин.

Нерівність Чебишева

Незалежні абсолютно неперервні випадкові величини. Їх властивості.

Абсолютно неперервні випадкові вектори

Випадкові вектори. Функція розподілу випадкового вектора.

Випадкові вектори

Випадкові вектори

Дискретні випадкові вектори. Поліномінальний розподіл.

Дискретні випадкові вектори

Абсолютно неперервні випадкові вектори. Щільність випадкового вектора.

Абсолютно неперервні випадкові вектори

Багатовимірний номінальний розподіл. Його властивості.

багатовимірний нормальний розподіл

Граничні теореми для біномінального розподілу. Теорема Пуассона. Локальна теорема Муавре-Лапласа. Інтегральна теорема Муавра-Лапласа. Теорема Бернуллі. Теорема Бореля.

• теорема Муавра-Лапласа
• теорема Бернуллі
• приклад

Види збіжності випадкових величин.

збіжність

збіжність

Поняття про центральну граничну теорему.

Поняття про центральну граничну теорему