Теорія прийняття рішень та керування-1:Задачі

Ця стаття відноситься до групи довідкових статей для студентів ФІН.

Задача 1

Перша задача найлегша з усіх 9. :)

Табличку знизу бачимо?

Ця табличка є функція втрат L(ω, d). Пам"ятаємо, що існує кілька способів задання функції (зокрема табличний).

ω₁, ω₂, ω₃, ω₄ - невідомі параметри.

Їхні розподіли (ймовірність трапляння) ξ(ω₁)=1/8, ξ(ω₂)=3/8, ξ(ω₃)=1/4, ξ(ω₄)=1/4. В сумі дають 1.

Зверху - рішення d₁, d₂, d₃, d₄. - всі можливі альтернативи.

перетин по табличці величин ω_j d_i дає значення функції втрат у точці L(ω_j, d_i).

Наприклад:

L(ω₁, d₃)=3

Власне розв"язок:

$\sum_{i=1}^{4}{ L(w_i, d_j)*P(w_i) }$

P(ω_i) еквівалентно до ξ(ω_i)

Наприклад знайдемо ризик ρ для рішення d₁:

ρ(d₁)= L(ω₁, d₁)*ξ(ω₁) + L(ω₂, d₁)*ξ(ω₂) + L(ω₃, d₁)*ξ(ω₃) + L(ω₄, d₁)*ξ(ω₄) = 0*(1/8) + 1*(3/8) + 3*(1/4) + 1*(1/4).

І так далі обчислюємо: ρ(d₂), ρ(d₃), ρ(d₄).

За означенням байєсівський ризик - інфінум (або просто мінімум) по усіх ризиків.

Отже, знаходимо мінімальне число та рішення що йому відповідає - буде байєсівським рішенням.

Задача 2

Спочатку читаємо умову...

Прочитали?

Почитайте задачу Задача 2.

Прочитали?

Тепер слухайте.

Оскільки розподілу ξ величин ω ми не маємо тоді виражаємо:

ξ(ω₁)=p₁

ξ(ω₂)=(1-p₁).

• знаходимо значення ρ(d₁), ρ(d₂), ρ(d₃)

• отримали рівняння прямих в системі координат (d,p):

ρ(d₁)=8-8*p;

ρ(d₂)=10*p;

ρ(d₃)=p+3;

• дивимось по черзі, в яких точках перетинається пряма ρ(d₃) з іншими прямими.

• дивимось що в точках 1/3 та 5/9 і ці дві точки лежать найнижче по координатам - отже мінімум по втратам і отже байєсівскі при розподілі [1/3; 5/9]

Задача 3

Задачі Задача 1 та Задача 2 читали?

Зрозуміло, що окрім як таблично функція втрат L(ω, d) може бути ще задана й аналітично:

L(ω, d)=100*(ω-d)²

так само й розподіл величини ω

P(ω) = ξ(ω)=2*ω, 0 ≤ ω ≤ 1

Тоді ρ(d_i) шукається вже не як сума (при скінченній кількості d та ω), а інтеграл по величині ω:

ρ(P, d) =

∫	L(w,d) * P(w)d(w)
w

• Підставляємо наші значення

• Рахуємо інтеграл від нуля до одиниці

• Похіднуємо його та прирівнюємо до нуля (щоби порахувати min ρ(P, d) = ρ^* )

Вийде похідна: 200*d - 400/3 =0 ⇒ d=2/3 ⇒ ρ^* = 50/9

Задача 4

Спочатку читаємо §8.3, сторінку 128 з ДеГрота

Ми з цього: L₀

отримали це L₁:

при a=1 та при λ:

      -4 -4 -4
       1  1  1
       3  3  3
       0  0  0

• Отже байєсівське рішення для ф-ції втрат L₁ збігається з байєсівським рішенням для ф-ції втрат L₀

Кращого пояснення не маю... Може саме ТИ його напишеш?

Задача 5

Уважно читаємо Задача 3

L(ω, d)=100*(ω-d)²

P(ω) = ξ(ω)=3*ω², 0 ≤ ω ≤ 1

шукається інтеграл по величині ω ρ(d_i):

ρ(P, d) =

∫	L(w,d) * P(w)d(w)
w

• Підставляємо наші значення

• Рахуємо інтеграл від нуля до одиниці

• Похіднуємо його та прирівнюємо до нуля (щоби порахувати min ρ(P, d) = ρ^* )

Вийде похідна: 200*d - 150 =0 ⇒ d=3/4 ⇒ ρ^* = 15/4

Віднімаємо цей ризик від ризику з попередньої задачі, різниця - це і є додатковий ризик

Задача 6

читай Увігнутість байєсівського ризику

Задача 7

Читаємо це Задача 2

• виразивши розподіли ω1 та ω1 через: P(ω₁)=p P(ω₂)=1-p:

ρ(P,d₁)=0*p + 4*(1-p)

ρ(P,d₂)=4*p + 5*(1-p)

ρ(P,d₃)=2*p + 0*(1-p)

ρ(P,d₄)= 1

ρ(P,d₅)= 5*p

Малюємо графіки, та дивимось перетин усіх графіків з прямою ρ(P,d₄)= 1, в цій точці та при розподілі p=0,2 байєсівське рішення буде не єдиним.

Задача 8

• байєсівська границя

• допустима границя

Отже, кожна точка d₁...d₇ задається парою координат (ω₁, ω₁).

• У n-вимірному просторі координат, що задають положення кожної точкки d буде (ω₁, ..., ω_n)

Найпростіший варіант знайти байєсівську границю для нашої задачі:

• відкладаємо в системі координат (ω₁, ω₂) кожну з семи точок d

• всі точки що є крайніми лівими - чисті рішення. Через них проводимо відрізки (гіперплощину) - це і буде байєсівська границя.

Правильна відповідь:

всі точки, координати яких (ω₁, ω₂) лежать між:

d3d1: 0 ≤ ω₁ ≤ 1, 13 ≤ ω₂ ≤ 10

d1d6: 1 ≤ ω₁ ≤ 3, 5 ≤ ω₂ ≤ 10

d6d2: 3 ≤ ω₁ ≤ 6, 1 ≤ ω₂ ≤ 5

d2d5: 6 ≤ ω₁ ≤ 7, 0 ≤ ω₂ ≤ 1

складають байєсівську границю

Задача 19

Задачу можна звести до статистичної задачі рішення.

За умовою: W=A або W=B - значення невідомого параметра. Відомі розподіли шарів у ящиках, але невідомо який де. Витягуємо шар з ящика А або В, з якого саме - з ймовірністю ξ та 1 - ξ. Рішення: d₁ - в ящику А розподіл 1/2, d₂ - в ящику B розподіл 1/2.

Визначаємо функцію втрат. Це задача на вгадування. Які значення L: за умовою, наша задача - максимізувати ймовірність вгадати розподіл, або ж мінімізувати ймовірність не вгадати. Ймовірність може приймати значення від 0 до 1. Тоді функція втрат (тут дискретна) буде приймати значення 1 або 0.

Функція втрат

	d1	d2
A	0	1
B	1	0

Розв'язок цієї задачі рішень:

$d^* = \begin{cases} d_1, if \xi \le 1/2 \\ d_2, if \xi \ge 1/2 \end{cases}$

$\rho^* = \begin{cases} \xi, if \xi \le 1/2 \\ 1-\xi, if \xi \ge 1/2 \end{cases}$

Вводимо спостереження:

Множина X складається з двох елементів:

• x₁ - витягнули червоний шар

• x₂ - витягнули зелений шар

Експериментів буде два.

1. коли в ящику А розподіл 1/2

Умовні ймовірності для спостереження:

	ч.	з.
A	1/2	1/2
B	1/4	3/4

Розв'язок цієї статистичної задачі:

$\delta^*(red) = \begin{cases} d_1, if \xi \le 1/3 \\ d_2, if \xi \ge 1/3 \end{cases}$

$\delta^*(green) = \begin{cases} d_1, if \xi \le 3/5 \\ d_2, if \xi \ge 3/5 \end{cases}$

$\rho^* = \begin{cases} \xi, if 0 \le \xi \le 1/3 \\ 1/4 * \xi + 1/4, if 1/3 \le \xi \le 3/5 \\ 1-\xi, if 3/5 \le \xi \le 1 \end{cases}$

1. коли в ящику B розподіл 1/2

Умовні ймовірності для спостереження:

	ч.	з.
A	1/4	3/4
B	1/2	1/2

Розв'язок цієї статистичної задачі:

$\delta^*(red) = \begin{cases} d_1, if \xi \le 2/3 \\ d_2, if \xi \ge 2/3 \end{cases}$

$\delta^*(green) = \begin{cases} d_1, if \xi \le 2/5 \\ d_2, if \xi \ge 2/5 \end{cases}$

$\rho^* = \begin{cases} \xi, if 0 \le \xi \le 2/5 \\ 1/2 - 1/4 * \xi, if 2/5 \le \xi \le 2/3 \\ 1-\xi, if 2/3 \le \xi \le 1 \end{cases}$

/* TODO зробити графіки */