Теорія Ймовірностей:Іспит

Матеріал з USIC Wiki

(Перенаправлено з Теорія ймовірностей:Іспит)
Перейти до: навігація, пошук
Для ФІН

Ця стаття відноситься до групи довідкових статей для студентів ФІН.

Зміст

Аксіоматичне означення ймовірності. Властивості ймовірності.

1. Простором елементарних наслідків Ω називається множина, що містить всі можливі результати цього випадкового експерименту, із яких в в експерименті стається лише один (результат). Елементами цієї множини називаються елементарними наслідками і позначають літерою ω


2. Подіями ми називаємо підмножини множини Ω. Кажуть, що в результаті експерименту сталась подія \Alpha \subseteq \Omega , якщо в результаті експерименту стався один з елементарних наслідків, що входить в множину Α

Приклад: Один раз підкидається кубик. Простір елементарних наслідків Ω = {1, 2, 3, 4, 5, 6}, елементарні наслідки відповідають числу очок.
Приклад події: Α={2, 4, 6} -випало парне число.


3.

3.1 Достоверным называется событие, которое обязательно происходит в результате эксперимента, то есть единственное событие, включающее все без исключения элементарные исходы — событие Ω.
3.2 Невозможным называется событие, которое не может произойти в результате

эксперимента, то есть событие, не содержащее ни одного элементарного исхода («пустое множество» \emptyset). Заметим, что всегда \emptyset \subset \Omega .

4. Нехай Α,Β - події

4.1 Об"єднання \Alpha \cup \Beta
4.2 Перетин \Alpha \cap \Beta
4.3 Доповнення \Alpha \smallsetminus \Beta
4.4 Протилежна до Α

5.

5.1 Події Α,Β несумісні , якщо \Alpha \cap \Beta=\emptyset.
  • Незалежними називаються події: P(A|B)=P(B|A). Поява однієї події не залежить від появи іншої.
5.2 Події A1,...,An називаються попарно незалежними, якщо для будь-яких i \neq j, 1 ≤ i,j ≤ n, події Ai,Aj несумісні.

Клаcична, геометрична та дискретна схеми визначення ймовірності.

Статистична імовірність події А - це така границя

P(A) = \lim_{n\rightarrow \infty} \frac{m_n}{n}, тобто це фактично границя відносної частоти, коли кількість експериментів прямує до нескінченності.

Умовні ймовірності. Формули повної ймовірності та Байєса.

Незалежність випадкових подій. Незалежність випадкових подій попарна та у сукупності.

Події Α,Β несумісні , якщо \Alpha \cap \Beta=\emptyset.

  • Незалежними називаються події: P(A|B)=P(B|A). Поява однієї події не залежить від появи іншої.

В теорії ймовірності дві випадкові події називаються незалежними, якщо поява однієї з них не змінює ймовірності появи іншої. Аналогічно дві випадкові величини називаються незалежними, якщо значення однієї з них не впливає на ймовірність значення іншої. Будемо вважати, що дано фіксований ймовірнісний простір (\Omega,\mathcal {F},\mathbb{P})

Означення 1. Дві події A,B \in \mathcal {F} незалежні, якщо  \mathbb {P}(A \cap B) = \mathbb {P}(A) \cdot \mathbb {P}(B)

Зауваження 1. В тому випадку, коли ймовірність однієї події, скажімо B, ненульова, тобто \mathbb{P}(B)>0, означення незалежності еквівалентно \mathbb {P}(A|B)= \mathbb {P}(A), тобто умовна ймовірність події А за умови В дорівнює безумовній ймовірності події А

Означення 2. Нехай є сімейство (скінченне або нескінченне) випадкових подій  \{A_i\}_{i \in I}  \subset \mathcal {F}, де І - довільна індексна множина. Тоді ці події попарно незалежні, якщо будь-які дві події з цього сімейства незалежні, тобто \mathbb{P}(A_i \cap A_j) = \mathbb{P}(A_i) \cdot (A_j), \forall i \neq j

Означення 3. Нехай є сімейство (скінченне або нескінченне) випадкових подій  \{A_i\}_{i \in I}  \subset \mathcal {F}. Ці події є сумісно незалежні, якщо для будь-якого скінченного набору цих подій \{ {A_i}_k \}_{k=1}^{N} виконується: \mathbb {P}(A_i1 \cap \dots \cap A_iN) = \mathbb {P} (A_i1) \dots \mathbb {P} (A_iN)

Приклад 1: Нехай підкинуті три неврівноважені монети. Визначимо події наступним чином:

- A1 - монети 1 та 2 впали одним і тим же боком

- A2 - монети 2 та 3 впали одним і тим же боком

- A3 - монети 1 та 3 впали одним і тим же боком

Легко перевірити, що будь-які дві події з цього набору незалежні. Але всі три події в сукупності є залежними, оскільки ми точно знаємо, що подія A3 відбулася, якщо відбулись A1 і A2


  • Якщо події А та В несумісні, тоді вони і незалежні, якщо тільки Р(А)=0 або Р(В)=0.
  • Якщо події А та В незалежні, тоді незалежні і події:

P(\bar{A}), P(\bar{B})

 P(A), P(\bar{B})

P(\bar{A}), P(B)


  • Події A1,...,An називаються незалежними в сукупності, якщо для будь-якого набору 1 ≤ i1,...,ik ≤ n

P(A_{i_1}) \cap ...  \cap P(A_{i_k}) = P(A_{i_1}) \cdot ... \cdot P(A_{i_k}).


  • Якщо події A1,...,An незалежні в сукупності, тоді вони попарно незалежні, тобто будь-які дві події Ai,...,Aj незалежні. Досить в попередній рівності взяти k=2.

З того, що дві події попарно незалежні не випливає, що вони незалежні в сукупності. Приклад:

Дискретні випадкові величини. Розподіл дискретної випадкової величини. Функція розподілу дискретних випадкових в. Її властивості.

Функція  \xi : \Omega \rightarrow \mathbb{R} називається випадковою величиною, якщо для будь-якого  x \in  \mathbb{R} множина {ξ < x} = {ω:ξ(ω) < x} є подією, тобто належить сігма-алгебрі подій  \mathbb{F}


Отже, випадкова величина є  \mathbb{F} -вимірною функцією, якщо {ω:ξ(ω) < x} належить  \mathbb{F} -вимірною для будь-якого  x \in  \mathbb{R}


Функція розподілу дискретних випадкових в. Її властивості.

Закон розподілу ймовірностей можна подати ще в одній формі, яка придатна і для дискретний, і для неперервних випадкових величин, асаме: як функцію розподілу ймовірностей випадкової величини F(x), так звану функцію розподілу. Функцію аргументу x, що визначає ймовірність випадкової події X<x,називають функцією розподілу ймовірностей:


F(x)=P(X<x)

Цю функцію можна розглядати як: "у наслідок експерименту випадкова величина може набувати значення, меншого за x"

Властивості функції розподілу:

  • 0 ≤ F(x) ≤ 1
  • F(x) є неспадною функцією, тобто: F(x2) ≤ F(x1), якщо x2 > x1
  • P(X=xi)=0 Якщо випадкова величина Х є неперервною, то ймовірність того, що вона набуде конкретного можливого значення завжди дорівнює нулю.
lim F(x), при x->-\infty = lim P(X<x), при x->-\infty -> F(\infty) = F(X < - \infty)=0
lim F(x), при x->\infty = lim P(X<x), при x->\infty -> F(\infty) = F(X < \infty)=1

Випадкову величину називають неперервною, якщо її функція розподілу є неперервною.

Схема Бернуллі. Біномінальний розподіл. Розподіл Пуассона. Їх числові характеристики та застосування.

Схема Бернуллі

  • послідовність незалежних експериментів
  • p-успіх
  • q=1-p-невдача
  • n-разів
  • Pn(K)-ймовірність, що буде успіх
  • Pn(K)=C_n^k \cdot p^k \cdot q_{n-k}-ймовірність того, що успіхів буде k
  • Набір чисел Pn(0),Pn(1),...,Pn(n)-біноміальний розподіл


  • Pn(K)<Pn(K+1)
  • C_n^k \cdot p^k \cdot q_{n-k} < C_n^{k+1} \cdot p^{k+1} \cdot q^{n-k-1}
  • \frac{n \cdot (n-1) \cdot ... \cdot (n-k+1)}{k!} \cdot q < \frac{n \cdot (n-1) \cdot ... \cdot (n-k)}{(k+1)!} \cdot p \Rightarrow q < \frac{n-k}{k+1} \cdot p
  • kp+kq+q<np; k<np-q
  • Якщо k>np-q, то Pn(k) > Pn(k + 1), np-q ≤ k ≤ np+p -найімовірніше число успіхів

Біномінальний розподіл

  • M\xi = \frac{n}{p}
  • D\xi = n\cdot p\cdot q
коли два варіанти - невдача або успіх, і треба знайти "яка ймовірність що станеться рівно k-разів", або "яка ймовірність що станеться між k i m"


Розподіл Пуассона

(малоймовірні події) при n \rightarrow \infty, p \rightarrow 0 - коли велика кількість випробувань, ймовірність настання кожного дуже мала

  • P {ξ = k} =  e^{-\lambda} \frac{x^k}{k!}
  • Mξ = λ
  • Dξ = λ
"кількість аварій на мосту протягом місяця", або "кількість смс-повідомлень що не дійшли за період півроку"

Геометричний розподіл

кількість спроб до першого успіху

  • P {ξ = k} = qk-1p, k=1,2,...
  • Mξ = 1/p
  • Dξ = q/p2

Числові характеристики дискретних та абсолютно неперервних випадкових величин. Їх властивості. Функції від випадкових величин. Їх характеристики.

Числові характеристики випадкових величин

Властивості математичного сподівання
Властивості дисперсії

Дискретні випадкові величини

Абсолютно неперервні випадкові величини.Їх властивості.

Випадкову величину називають неперервною, якщо її функція розподілу є неперервною.

Абсолютно неперервними величини називають такі випадкові величини, розподіл яких має щільність.


Випадкова величина ξ називається абсолютно неперервною, якщо існує функція p(x), така що:

  • pξ ≥ 0
  • \int_a^x p_{\xi}(x) \,dx=1
  • \forall t \in R має місце рівність: \int_{- \infty}^t p_{\xi}(x) \,dx=Fξ(t)


Зображення:T_IMOBIPHOCTI_8_1.gif

Функція pξ, що має вищезазначені властивості, називається щільністю розподілу випадкової величини ξ.


Якщо ξ - абсолютно неперервна випадкова величина, тоді

Зображення:T_IMOBIPHOCTI_8_3.gif


Зміст можна проілюструвати:

Зображення:T_IMOBIPHOCTI_8_2.gif

Абсолютно неперервні розподіли. Щільність, її властивості.

Рівномірний розподіл на відрізку [c,d]

Зображення:T_IMOBIPHOCTI_9_1.gif

Зображення:T_IMOBIPHOCTI_9_2.gif



Показниковий розподіл з параметром λ >0

Зображення:T_IMOBIPHOCTI_9_3.gif

Зображення:T_IMOBIPHOCTI_9_4.gif

Показниковий розподіл часто називають експоненційним.



Нормальний (або гаусівський) розподіл N(a,\sigma^{2}), a \in R, \sigma > 0

Зображення:T_IMOBIPHOCTI_9_5.gif

Зображення:T_IMOBIPHOCTI_9_6.gif



Стандартний нормальний розподіл N(0,1)

Зображення:T_IMOBIPHOCTI_9_7.gif

Зображення:T_IMOBIPHOCTI_9_8.gif

Рівномірний розподіл. Його характеристики та застосування.

Випадкова величина ξ рівномірно розподілена на відрізку [a, b]

Зображення:Equal_distribution.GIF


 f(x) =
 \begin{cases}
 0, x \notin [a, b] \\

 \frac{1}{b-a}, x \in [a, b]
 \end{cases}


 F(x) =
 \begin{cases}
 0, x < a \\

 \frac{x-a}{b-a}, x \in [a, b] \\

 1, x > b
 \end{cases}


 M\xi = \frac{a+b}{2}


 D\xi = \frac{(b-a)^2}{12}

Показниковий розподіл. Його характеристики, застосування і основна властивість.

ξ - показникова розподілена випадкова величина, якщо:


 F(x) =
 \begin{cases}
 0, x < 0 \\

 1-e^{-\lambda x}, x \ge 0 \\

 \end{cases}


 f(x) =
 \begin{cases}
 0, x < 0 \\

 \lambda e^{-\lambda x}, x \ge 0
 \end{cases}



 M\xi = \frac{1}{\lambda}


 D\xi = \frac{1}{\lambda^{2}}

Властивість відсутності післядії

p={ξ ≤ t+s | ξ ≥ s}

  • ξ - час безвідмовної роботи
Яка ймовірність, що пристрій зламається до часу t+s, за умови що він уже пропрацював час s.

P_{B}A = \frac{P(A \cap B)}{P(B)} = \frac{P((\xi \le t+s) \cap (\xi \ge s))}{P(\xi \ge s)}=\frac{F(t+s) - F(s)}{F(\infty) - F(s)}= ... =1-e^{-\lambda t} = F(t)= P{\xi \le t}

Геометричний Розподіл також має властивість відсутності післядії

Нормальний розподіл. Його характеристики та застосування.

Величина ξ нормально розподілена

ξ ~ N(a, σ2), якщо її щільність:

f(x) = \frac{1}{\sqrt{2 \pi}\sigma} e^{- \frac{(x-a)^{2}}{2 \sigma^{2}}}

  • a - Mξ, математичне сподівання
  • σ - середньоквадратичне відхилення - корінь квадратний з дисперсії: σ=\sqrt{D \xi}


ξ ~ N(0, 1) - φ(x) - стандартний нормальний розподіл

F(x) = \int_{- \infty}^{x}{f(t)dt}

  • ξ ~ N(a, σ2)
  • ξ - a ~ N(0, σ2)
  • \frac{\xi - a}{\sigma} ~ N(0, 1)
  • D(\frac{\xi-a}{\sigma})=\frac{1}{\sigma^{2}}D(\xi-a)=\frac{D\xi}{\sigma^{2}}=1


P\{ \alpha \le \xi \le \beta \}= F(b) - F(a)
P \{ \frac{\alpha-a}{\sigma} \le \frac{\xi-\alpha}{2} \le \frac{\beta-a}{\sigma} \}= F(b) - F(a) = Fст(\frac{\beta-a}{\sigma}) - Fст(\frac{\alpha-a}{\sigma})

Функції від випадкових величин. Їх математичне сподівання. Моменти випадкової величини.

Моменти випадкової величини

Математичним очікуванням Mξ (середнім значенням, першим моментом) випадкової величин ξ з дискретним розподілом, що заданий таблицею P(ξ=ai)=pi, i є Z називається число:

Mξ=Σ|ai|pi

Якщо M|ξ|k < ∞, то число

  • k називається моментом порядку k (k-м моментом) випадкової величини ξ.
  • M|ξ|k називається абсолютним моментом порядку k (абсолютним k-м моментом ) випадкової величини ξ.
  • M(ξ - Mξ)k називається центральним моментом порядку k (центральним k-м моментом) випадкової величини ξ.
  • Число Dξ=M(ξ - Mξ)2 (центральний момент порядку 2) називається дисперсією випадкової величини ξ.


Якщо розподіл випадкової величини - це розподіл одиничної маси по невагомому стержню, то дисперсія є моментом інерції цього стержня, що закріплений в центрі ваги.

Сумісний розподіл дискретних та абсолютно неперервних випадкових величин. Їх властивості і характеристики.

Числові характеристики залежності випадкових величин. Їх властивості


  • cov(ξ, η) = M((ξ - Mξ)(η - Mη))= M(ξ, η) - Mξ\cdot
Коваріація це міра лінійної залежності випадкових величин (ξ, η).
якщо ξ та η незалежні, тоді cov(ξ, η) = 0
  • cor(ξ, η) = \frac{cov(\xi, \eta)}{\sqrt{(D\xi \cdot D\eta)}}
Кореляція - статистичний взаємозв'язок між двома або більше випадкових величин.
-1 ≤ cor ≤ 1:
cor>0 -між величинами прямий зв'язок,
cor<0 -між величинами обернений зв'язок

Геометричний розподіл. Його основна властивість і числові характеристики.

кількість спроб до першого успіху

  • P {ξ = k} = qk-1p, k=1,2,...
  • Mξ = 1/p
  • Dξ = q/p2

основна властивість - відсутність післядії

Незалежні дискретні випадкові величини.




Сумісний розподіл дискретних випадкових величин. Функції від двох випадкових величин. Їх характеристики.

F(x)=P{ξ<x}

F(x,y)=P{ξ<x, η<y}=P{ξ<x}\cdotP{η<y}= Fξ(x)\cdotFη(y) - для незалежних випадкових величин.


  • cov(ξ, η) = M((ξ - Mξ)(η - Mη))= M(ξ, η) - Mξ\cdot
Коваріація це міра лінійної залежності випадкових величин (ξ, η).
якщо ξ та η незалежні, тоді cov(ξ, η) = 0
  • cor(ξ, η) = \frac{cov(\xi, \eta)}{\sqrt{(D\xi \cdot D\eta)}}
Кореляція - статистичний взаємозв'язок між двома або більше випадкових величин.
-1 ≤ cor ≤ 1:
cor>0 -між величинами прямий зв'язок,
cor<0 -між величинами обернений зв'язок


Приклад сумісного розподілу двох дискретних випадкових величин ξ, η:

На гранях кубика числа 1, 1, 2, 2, 3, 3 Кубик підкидають двічі.
ξ - кількість очок що випала першого разу.
η - максималька кількість очок з двох спроб.
Знайти сумісний розподіл ξ та η
ξ \ η 1 2 3
1 \frac{1}{3} \cdot \frac{1}{3} \frac{1}{3} \cdot \frac{1}{3} \frac{1}{3} \cdot \frac{1}{3}
2 0 \frac{1}{3} \cdot \frac{2}{3} \frac{1}{3} \cdot \frac{1}{3}
3 0 0 \frac{1}{3} \cdot \frac{3}{3}


η 1 2 3
значення \frac{1}{9} \frac{1}{3} \frac{5}{9}


ξ 1 2 3
значення \frac{1}{9} \cdot 3 \frac{2}{9} + \frac{1}{9} \frac{1}{3}


cov(ξ, η) = M(ξ η) - Mξ\cdot

M(ξ η)= 1*1*\frac{1}{9} + 1*2*\frac{1}{9} + 1*3*\frac{1}{9} + 2*1*0+ 2*2*\frac{2}{9} + 2*3*\frac{1}{9} + 3*3*\frac{1}{3}


Закони великих чисел. Теореми Чебишева, Хінчина.

Кажуть, що послідовність випадкових величин \{\xi_i\}_{i=1}^\infty зі скінченними першими моментами задовольняють закону великих чисел, якщо:


\frac{\xi_1 + \xi_2 + ... +\xi_n}{n} - \frac{M\xi_1 + M\xi_2 + ... +M\xi_n}{n} \rightarrow ^p 0, при n \rightarrow  \infty

Слід відзначити:

  • якщо випадкові величини однаково розподілені, тоді математичне сподівання у них набувають однакових значень.

Тому закон великих чисел можна записати у вигляді:

\frac{\xi_1 + \xi_2 + ... +\xi_n}{n} \rightarrow ^p M\xi_1


Закон Великих Чисел у формі Чебишева

Для будь-якої послідовності незалежних та однаково розподілених випадкових величин зі скінченним другим моментом M\xi_{1}^{2} < \infty має місце збіжність:

\frac{\xi_1 + \xi_2 + ... +\xi_n}{n} \rightarrow ^p M\xi_1


Закон Великих Чисел у формі Хінчина

Для будь-якої послідовності незалежних та однаково розподілених випадкових величин зі скінченним першим моментом M|\xi| < \infty має місце збіжність:

\frac{\xi_1 + \xi_2 + ... +\xi_n}{n} \rightarrow ^p M\xi_1




Центральна гранична теорема.

Ненаписані статті:

Нерівність Чебишева для дискретних і абсолютно неперервних випадкових величин.

Нерівність Чебишева

Незалежні абсолютно неперервні випадкові величини. Їх властивості.

Абсолютно неперервні випадкові вектори

Випадкові вектори. Функція розподілу випадкового вектора.

Випадкові вектори

Випадкові вектори

Дискретні випадкові вектори. Поліномінальний розподіл.

Дискретні випадкові вектори

Абсолютно неперервні випадкові вектори. Щільність випадкового вектора.

Абсолютно неперервні випадкові вектори

Математичне сподівання функцій від випадкових векторів.

Математичне сподівання, кореляційна та коваріаційна матриці випадкового вектора. Їх властивості.

Багатовимірний номінальний розподіл. Його властивості.

багатовимірний нормальний розподіл

Граничні теореми для біномінального розподілу. Теорема Пуассона. Локальна теорема Муавре-Лапласа. Інтегральна теорема Муавра-Лапласа. Теорема Бернуллі. Теорема Бореля.

Види збіжності випадкових величин.

збіжність

збіжність


Поняття про центральну граничну теорему.

Поняття про центральну граничну теорему

Посилені закони великих чисел. Теореми Колмогорова.

Особисті інструменти