5.2 Statystyka pomiarów i dopasowania · Matematyka i fizyka od podstaw

0 Prolog: ile wart jest wynik?

Mierzysz okres wahadła dla pięciu długości i chcesz wyznaczyć przyspieszenie ziemskie. Z teorii $T^2 = \tfrac{4\pi^2}{g}L$ , więc punkty $(L;\ T^2)$ powinny leżeć na prostej przez zero o nachyleniu $4\pi^2/g$ . Nie leżą dokładnie, bo każdy pomiar ma rozrzut. Pytania są trzy: jak poprowadzić „najlepszą” prostą, jak niepewne jest jej nachylenie (a więc i $g$ ) oraz czy rozrzut punktów wokół prostej jest taki, jakiego się spodziewaliśmy.

Pytanie na start. Co jest lepsze: zmierzyć okres raz dla każdej z pięciu długości i dopasować prostą, czy pięć razy dla jednej długości i uśrednić? Wróć do tego pytania po części 3.

1 Niepewności typu A i B

W lekcji 0.5 Jednostki, analiza wymiarowa, szacowanie i niepewność pomiaru niepewność standardowa była „typowym odchyleniem”. Międzynarodowy przewodnik GUM (Guide to the Expression of Uncertainty in Measurement) rozróżnia dwa sposoby jej wyznaczania.

Typ A i typ B

Typ A: z rozrzutu powtarzanych pomiarów, statystycznie: $u_A = s/\sqrt N$ (lekcje 0.5 Jednostki, analiza wymiarowa, szacowanie i niepewność pomiaru, 5.1 Prawdopodobieństwo i rozkłady).
Typ B: z innej wiedzy (rozdzielczość przyrządu, dane producenta, świadectwo wzorcowania). Jeśli wiemy tylko, że błąd leży w przedziale $\pm a$ , przyjmujemy rozkład jednostajny i $u_B = a/\sqrt3$ . Dla rozdzielczości (działki) $\Delta$ jest $a = \Delta/2$ , czyli $u_B = \Delta/\sqrt{12}$ .
Niepewność złożona niezależnych składników: $u_c = \sqrt{u_A^2 + u_B^2}$ . Niepewność rozszerzona $U = ku_c$ ; dla $k = 2$ i rozkładu bliskiego normalnemu przedział $\pm U$ zawiera wartość wielkości mierzonej z prawdopodobieństwem ok. $95\%$ .por. GUM §4.2, 4.3, 6

Podział na A i B dotyczy metody wyznaczenia, a nie natury błędu: obie niepewności traktuje się tak samo, jako odchylenia standardowe. Błąd systematyczny, o którym wiemy, poprawiamy, a niepewność tej poprawki zwykle wliczamy jako składnik typu B.

Przykład 1.1 Średnica pręta

Osiem pomiarów suwmiarką o działce $0{,}01$ mm dało (mm): $12{,}32$ ; $12{,}35$ ; $12{,}30$ ; $12{,}34$ ; $12{,}33$ ; $12{,}31$ ; $12{,}33$ ; $12{,}36$ . Podaj wynik z niepewnością standardową i rozszerzoną.

$\bar d = 12{,}330$ mm; $s = 0{,}020$ mm; $u_A = \tfrac{0{,}020}{\sqrt8} = 0{,}0071$ mm.
$u_B = \tfrac{0{,}01}{\sqrt{12}} = 0{,}0029$ mm.
$u_c = \sqrt{0{,}0071^2 + 0{,}0029^2} = 0{,}0076$ mm; $U = 2u_c \approx 0{,}015$ mm.

Wynik: $d = (12{,}330 \pm 0{,}008)$ mm (niepewność standardowa) albo $(12{,}330 \pm 0{,}015)$ mm przy $k = 2$ .

Sprawdzenie: rozrzut ręki ( $u_A$ ) przeważa nad rozdzielczością ( $u_B$ ), więc więcej pomiarów by pomogło; lepsza suwmiarka prawie nic by nie dała ✓. Niepewności podajemy z jedną albo dwiema cyframi znaczącymi, a wynik zaokrąglamy do tego samego miejsca (lekcja 0.5).

Zadania · część 1

5 zadań · ok. 35 min

Pięć pomiarów średnicy (mm): $12{,}32$ ; $12{,}35$ ; $12{,}30$ ; $12{,}34$ ; $12{,}33$ . Oblicz średnią, $s$ i $u_A$ .

Odpowiedź
$\bar d = 12{,}328$ mm; $s \approx 0{,}0192$ mm; $u_A = s/\sqrt5 \approx 0{,}0086$ mm.
Linijka ma działkę $1$ mm. Jaka jest niepewność typu B pojedynczego odczytu długości?

Odpowiedź
$u_B = \tfrac{1}{\sqrt{12}} \approx 0{,}29$ mm. Długość to różnica dwóch odczytów (dwa końce), więc ostrożniej $\sqrt2\cdot0{,}29 \approx 0{,}41$ mm.
Połącz $u_A$ z zadania 1.1 z niepewnością rozdzielczości suwmiarki $0{,}01$ mm.

Odpowiedź
$u_c = \sqrt{0{,}0086^2 + 0{,}0029^2} \approx 0{,}0091$ mm. Wynik: $(12{,}328 \pm 0{,}009)$ mm.
Producent woltomierza podaje, że błąd odczytu na danym zakresie nie przekracza $\pm0{,}05$ V. Jaka jest niepewność standardowa typu B? Czy powtarzanie pomiaru ją zmniejszy?

Odpowiedź
$u_B = \tfrac{0{,}05}{\sqrt3} \approx 0{,}029$ V. Nie: jeśli przyrząd ma stały błąd w tym przedziale, każdy odczyt ma ten sam błąd. Powtarzanie zmniejsza tylko składnik przypadkowy.
Dla małej liczby pomiarów sam $s$ jest niepewny, więc przedział $\bar x \pm 2u_A$ obejmuje mniej niż $95\%$ . Zamiast $k = 2$ używa się współczynnika $t$ Studenta (dla $95\%$ i $\nu = N - 1$ ): dla $N = 3,\ 5,\ 10,\ 30$ wynosi on $4{,}30$ ; $2{,}78$ ; $2{,}26$ ; $2{,}05$ . Co z tego wynika dla trzech pomiarów?

Odpowiedź
Przy trzech pomiarach $95\%$ obejmuje dopiero $\bar x \pm 4{,}3u_A$ , przedział ponad dwa razy szerszy niż $\pm2u_A$ , który przy $N = 3$ obejmuje tylko ok. $82\%$ . Oszacowanie $s$ z trzech liczb jest bardzo niepewne. Przy $30$ pomiarach $t \approx 2$ i wraca reguła z rozkładu normalnego.

2 Przenoszenie niepewności

W lekcji 1.4 Rachunek różniczkowy w praktyce wyprowadziliśmy z różniczki prawo przenoszenia niepewności. Jeśli $f = f(x_1,\ \ldots,\ x_n)$ , a wielkości $x_i$ są niezależne:

Prawo przenoszenia niepewności

u_f^2 = \sum_i\left(\frac{\partial f}{\partial x_i}\right)^2u_{x_i}^2 .

Dla iloczynów i ilorazów potęg, $f = Cx^ay^b$ , wygodniej względnie: $\left(\tfrac{u_f}{f}\right)^2 = a^2\left(\tfrac{u_x}{x}\right)^2 + b^2\left(\tfrac{u_y}{y}\right)^2$ . To ta sama reguła co dodawanie wariancji niezależnych zmiennych (lekcja 5.1), zastosowana do przybliżenia liniowego $f$ .por. Taylor rozdz. 3

Przykład 2.1 $g$ z jednego wahadła

$L = (1{,}000 \pm 0{,}002)$ m, $T = (2{,}007 \pm 0{,}004)$ s. Oblicz $g = 4\pi^2L/T^2$ z niepewnością.

$g = \tfrac{4\pi^2\cdot1{,}000}{2{,}007^2} \approx 9{,}801\ \mathrm{m/s^2}$ .
Względnie: $\tfrac{u_L}{L} = 0{,}0020$ , $\;2\tfrac{u_T}{T} = 0{,}0040$ (potęga $2$ !). $\;\tfrac{u_g}{g} = \sqrt{0{,}0020^2 + 0{,}0040^2} \approx 0{,}0045$ .
$u_g \approx 0{,}044\ \mathrm{m/s^2}$ .

Wynik: $g = (9{,}80 \pm 0{,}04)\ \mathrm{m/s^2}$ .

Sprawdzenie: główny wkład daje okres, choć jego niepewność względna jest taka sama jak długości, bo wchodzi w kwadracie ✓. Żeby poprawić wynik, trzeba lepiej mierzyć czas: np. mierzyć $20$ okresów naraz, co dzieli $u_T$ przez $20$ , o ile niepewność pochodzi głównie z włączania i zatrzymywania stopera.

Zadania · część 2

4 zadania · ok. 30 min

Prostokąt ma boki $a = (20{,}0 \pm 0{,}1)$ cm i $b = (10{,}0 \pm 0{,}1)$ cm. Oblicz pole z niepewnością.

Odpowiedź
$A = 200\ \mathrm{cm^2}$ ; $u_A = \sqrt{(b\,u_a)^2 + (a\,u_b)^2} = \sqrt{1 + 4} \approx 2{,}2\ \mathrm{cm^2}$ .
Krótsze wahadło: $L = (0{,}500 \pm 0{,}001)$ m, $T = (1{,}419 \pm 0{,}003)$ s. Oblicz $g$ i $u_g$ .

Odpowiedź
$g \approx 9{,}803\ \mathrm{m/s^2}$ ; $\tfrac{u_g}{g} = \sqrt{0{,}002^2 + (2\cdot0{,}00211)^2} \approx 0{,}0047$ ; $u_g \approx 0{,}046$ . Wynik $(9{,}80 \pm 0{,}05)\ \mathrm{m/s^2}$ .
Kulka ma masę $m = (50{,}0 \pm 0{,}1)$ g i średnicę $d = (2{,}30 \pm 0{,}01)$ cm. Oblicz gęstość $\rho = \tfrac{6m}{\pi d^3}$ z niepewnością. Z czego może być zrobiona?

Odpowiedź
$\rho \approx 7{,}85\ \mathrm{g/cm^3}$ . $\tfrac{u_\rho}{\rho} = \sqrt{0{,}002^2 + (3\cdot0{,}00435)^2} \approx 0{,}013$ , $u_\rho \approx 0{,}10$ . Wynik $(7{,}85 \pm 0{,}10)\ \mathrm{g/cm^3}$ : stal. Średnica w trzeciej potędze dominuje niepewność.
Prawo przenoszenia zakłada niezależność. Zmierzono $x = (10{,}0 \pm 0{,}1)$ i liczysz $f = x - x$ . Co daje wzór, a jaki jest prawdziwy wynik? Gdzie w praktyce pojawiają się skorelowane niepewności?

Odpowiedź
Wzór dla dwóch „niezależnych” składników daje $\sqrt2\cdot0{,}1 \approx 0{,}14$ , a $f = 0$ dokładnie. Wielkość, która występuje we wzorze kilka razy, uwzględnia się raz: najpierw zapisz $f$ przez niezależne zmienne (tu $f \equiv 0$ ). W praktyce korelacje daje ten sam przyrząd użyty w kilku pomiarach (wspólny błąd kalibracji) i parametry dopasowania, jak $a$ i $b$ w części 3.

3 Metoda najmniejszych kwadratów

Mamy punkty $(x_i;\ y_i)$ , $i = 1\ldots N$ , z jednakową niepewnością w $y$ i zaniedbywalną w $x$ . Szukamy prostej $y = a + bx$ , która minimalizuje sumę kwadratów odchyleń w pionie:

S(a,\ b) = \sum_{i=1}^N\big(y_i - a - bx_i\big)^2 .

To funkcja dwóch zmiennych; w minimum obie pochodne cząstkowe są równe zeru (lekcja 3.1 Reguła łańcuchowa, ekstrema i mnożniki Lagrange'a w wielu zmiennych). Z $\partial S/\partial a = 0$ i $\partial S/\partial b = 0$ dostajemy dwa równania liniowe na $a$ i $b$ (równania normalne, lekcja 2.1 Macierze, wyznaczniki i układy równań).

Prosta najmniejszych kwadratów

b = \frac{N\sum x_iy_i - \sum x_i\sum y_i}{\Delta},\qquad a = \frac{\sum x_i^2\sum y_i - \sum x_i\sum x_iy_i}{\Delta},\qquad \Delta = N\sum x_i^2 - \Big(\sum x_i\Big)^2 .

Rozrzut punktów wokół prostej szacuje $s_y = \sqrt{S_{\min}/(N - 2)}$ (dwa parametry zużywają dwa stopnie swobody). Niepewności parametrów: $u_b = s_y\sqrt{N/\Delta}$ , $\;u_a = s_y\sqrt{\sum x_i^2/\Delta}$ . Parametry $a$ i $b$ są skorelowane: $\operatorname{cov}(a,\ b) = -s_y^2\sum x_i/\Delta$ .por. Taylor rozdz. 8

Dlaczego kwadraty? Jeśli błędy $y_i$ mają rozkład normalny o tym samym $\sigma$ , to prawdopodobieństwo otrzymania naszych danych jest proporcjonalne do $\prod e^{-(y_i - a - bx_i)^2/2\sigma^2} = e^{-S/2\sigma^2}$ . Najmniejsze $S$ to największe prawdopodobieństwo: metoda najmniejszych kwadratów to metoda największej wiarygodności dla błędów gaussowskich (zadanie 3.5).

Przykład 3.1 Wahadło: $g$ z dopasowania

Pomiary: $L = 0{,}20$ ; $0{,}40$ ; $0{,}60$ ; $0{,}80$ ; $1{,}00$ m; $T^2 = 0{,}817$ ; $1{,}590$ ; $2{,}422$ ; $3{,}244$ ; $4{,}009\ \mathrm{s^2}$ . Dopasuj prostą $T^2 = a + bL$ i wyznacz $g$ z niepewnością.

Sumy: $\sum x = 3{,}0$ ; $\sum y = 12{,}082$ ; $\sum x^2 = 2{,}2$ ; $\sum xy = 8{,}8568$ ; $\Delta = 5\cdot2{,}2 - 9 = 2{,}0$ .
$b = \tfrac{5\cdot8{,}8568 - 3{,}0\cdot12{,}082}{2{,}0} = 4{,}019\ \mathrm{s^2/m}$ ; $\;a = \tfrac{2{,}2\cdot12{,}082 - 3{,}0\cdot8{,}8568}{2{,}0} = 0{,}005\ \mathrm{s^2}$ .
Reszty: $0{,}0082$ ; $-0{,}0226$ ; $0{,}0056$ ; $0{,}0238$ ; $-0{,}0150$ . $\;S_{\min} = 0{,}00140$ , $s_y = \sqrt{0{,}00140/3} \approx 0{,}0216\ \mathrm{s^2}$ .
$u_b = 0{,}0216\sqrt{5/2} \approx 0{,}034$ ; $\;u_a = 0{,}0216\sqrt{2{,}2/2} \approx 0{,}023$ .
$g = \tfrac{4\pi^2}{b} = 9{,}823\ \mathrm{m/s^2}$ ; $\;u_g = g\tfrac{u_b}{b} \approx 0{,}084$ .

Wynik: $T^2 = (0{,}005 \pm 0{,}023) + (4{,}019 \pm 0{,}034)L$ ; $\;g = (9{,}82 \pm 0{,}08)\ \mathrm{m/s^2}$ .

Sprawdzenie: wyraz wolny jest zgodny z zerem w granicach niepewności, tak jak przewiduje teoria ✓. Wartość tablicowa dla Polski, ok. $9{,}81\ \mathrm{m/s^2}$ , leży w odległości ok. $0{,}15u_g$ ✓. Prosta najmniejszych kwadratów zawsze przechodzi przez punkt $(\bar x;\ \bar y) = (0{,}6;\ 2{,}4164)$ : $0{,}005 + 4{,}019\cdot0{,}6 = 2{,}4164$ ✓.

Symulacja 1 Dopasowanie prostej metodą najmniejszych kwadratów. Punkty wylosowano z prostej

y = 1 + 0{,}5x

z szumem o odchyleniu

0{,}3

. Przeciągaj punkty w pionie (zrób odstający punkt), losuj nowe dane i zmieniaj niepewność

\sigma

, którą zakładasz przy liczeniu

\chi^2

. Odczyt podaje

a

b

z niepewnościami oraz

\chi^2/\nu

. Niepewności

a

b

liczone są z rozrzutu punktów

s_y

, więc suwak

\sigma

ich nie zmienia; zmienia tylko

\chi^2

p

. Przycisk „Punkt odstający” przesuwa punkt nr 6 o

2{,}2

w górę.

Zadania · część 3

5 zadań · ok. 45 min

Wyprowadź wzór na nachylenie prostej przechodzącej przez zero, $y = bx$ , metodą najmniejszych kwadratów.

Odpowiedź
$S = \sum(y_i - bx_i)^2$ , $\;S'(b) = -2\sum x_i(y_i - bx_i) = 0$ , czyli $b = \tfrac{\sum x_iy_i}{\sum x_i^2}$ . Dla danych z przykładu 3.1: $b = \tfrac{8{,}8568}{2{,}2} = 4{,}026$ i $g \approx 9{,}806$ .
Dopasuj prostą do punktów $(0;\ 1)$ , $(1;\ 3)$ , $(2;\ 4)$ , $(3;\ 6)$ . Podaj $a$ , $b$ , $s_y$ , $u_a$ i $u_b$ .

Odpowiedź
$\sum x = 6$ , $\sum y = 14$ , $\sum x^2 = 14$ , $\sum xy = 29$ , $\Delta = 20$ . $b = 1{,}6$ , $a = 1{,}1$ . Reszty $-0{,}1$ ; $0{,}3$ ; $-0{,}3$ ; $0{,}1$ , $\;S = 0{,}2$ , $s_y = \sqrt{0{,}1} \approx 0{,}32$ . $u_b \approx 0{,}14$ , $u_a \approx 0{,}26$ .
Liczba jąder maleje jak $N = N_0e^{-\lambda t}$ . Jak przekształcić dane, żeby dopasować prostą? Na co trzeba uważać?

Odpowiedź
$\ln N = \ln N_0 - \lambda t$ : prosta w $(t;\ \ln N)$ z nachyleniem $-\lambda$ . Uwaga: niepewności się zmieniają, $u_{\ln N} = u_N/N$ , więc małe liczby zliczeń mają po logarytmowaniu duże niepewności. Poprawnie robi się to ważoną metodą najmniejszych kwadratów (każdy składnik $S$ dzielony przez $u_i^2$ ).
Wróć do pytania z prologu. Wzór $u_b = s_y\sqrt{N/\Delta}$ zależy od rozstawu punktów w $x$ . Pokaż, że $\Delta = N\sum(x_i - \bar x)^2$ , i wyjaśnij, dlaczego punkty warto rozłożyć szeroko.

Odpowiedź
$N\sum x_i^2 - (\sum x_i)^2 = N\big(\sum x_i^2 - N\bar x^2\big) = N\sum(x_i - \bar x)^2$ . Zatem $u_b = \tfrac{s_y}{\sqrt{\sum(x_i - \bar x)^2}}$ : im szerzej rozłożone punkty, tym pewniejsze nachylenie. Pięć pomiarów przy jednej długości daje dobrą średnią, ale nic nie mówi o nachyleniu (bez założenia, że prosta przechodzi przez zero) i nie sprawdza, czy zależność jest liniowa.
Pokaż, że przy błędach gaussowskich o jednakowym $\sigma$ minimalizacja $S$ maksymalizuje prawdopodobieństwo danych. Jaką wielkość należy minimalizować, gdy niepewności $u_i$ są różne?

Odpowiedź
Prawdopodobieństwo (gęstość) danych to $\prod\tfrac{1}{\sigma\sqrt{2\pi}}e^{-(y_i - a - bx_i)^2/2\sigma^2} \propto e^{-S/2\sigma^2}$ , maksymalne dla minimalnego $S$ . Przy różnych $u_i$ : $\prod e^{-(y_i - f_i)^2/2u_i^2}$ , więc minimalizujemy $\chi^2 = \sum\left(\tfrac{y_i - f_i}{u_i}\right)^2$ : ważone najmniejsze kwadraty z wagami $1/u_i^2$ .

4 Test $\chi^2$ : czy model pasuje?

Dopasowanie zawsze coś daje, nawet gdy model jest zły. Test pyta, czy odchylenia od modelu są takie, jakich spodziewamy się przy znanych niepewnościach:

Statystyka $\chi^2$

\chi^2 = \sum_{i=1}^N\left(\frac{y_i - f(x_i)}{u_i}\right)^2,\qquad \nu = N - (\text{liczba dopasowanych parametrów}) .

Jeśli model jest dobry, a $u_i$ poprawne, $\chi^2$ ma rozkład chi kwadrat o $\nu$ stopniach swobody (dla prawdziwych parametrów byłaby to suma $N$ kwadratów niezależnych zmiennych normalnych standardowych; każdy dopasowany parametr liniowy „zabiera” jeden stopień swobody), o średniej $\nu$ i odchyleniu $\sqrt{2\nu}$ . Zatem $\chi^2/\nu \approx 1$ . Dużo większe: model jest zły albo niepewności niedoszacowane. Dużo mniejsze: niepewności przeszacowane (albo dane „podrasowane”).por. Taylor rozdz. 12

Liczbowo rozstrzyga wartość $p$ : prawdopodobieństwo, że przy dobrym modelu wyszłoby $\chi^2$ co najmniej takie jak zmierzone. Zwyczajowo $p < 0{,}05$ uznaje się za sygnał, że model nie pasuje. To umowa, a nie prawo przyrody: przy wielu testach poprawnych modeli średnio co dwudziesty da $p < 0{,}05$ przypadkiem.

Ten sam test sprawdza zgodność liczebności z oczekiwaniami (np. czy kostka jest uczciwa): $\chi^2 = \sum\tfrac{(O_k - E_k)^2}{E_k}$ , gdzie $O_k$ to zaobserwowane liczebności, a $E_k$ oczekiwane (test jest wiarygodny, gdy $E_k \gtrsim 5$ ). Mianownik $E_k$ to wariancja rozkładu Poissona (lekcja 5.1).

Przykład 4.1 Czy wahadło pasuje do prostej?

Dla danych z przykładu 3.1 przyjmij niepewność każdego $T^2$ równą $0{,}02\ \mathrm{s^2}$ . Oblicz $\chi^2$ , $\chi^2/\nu$ i oceń dopasowanie.

$\chi^2 = S_{\min}/u^2 = 0{,}00140/0{,}0004 \approx 3{,}50$ .
$\nu = 5 - 2 = 3$ ; $\;\chi^2/\nu \approx 1{,}17$ .
Z rozkładu chi kwadrat dla $\nu = 3$ : $P(\chi^2 \ge 3{,}50) \approx 0{,}32$ .

Wynik: $\chi^2/\nu \approx 1{,}2$ , $p \approx 0{,}32$ : dane są zgodne z prostą przy założonej niepewności. Zauważ, że $\chi^2/\nu = (s_y/u)^2 = (0{,}0216/0{,}02)^2 \approx 1{,}17$ .

Sprawdzenie: dla $\nu = 3$ typowy zakres to $3 \pm \sqrt6$ , czyli ok. $0{,}5$ – $5{,}5$ ; wynik $3{,}5$ jest w środku ✓. Gdyby niepewność wynosiła $0{,}005\ \mathrm{s^2}$ , $\chi^2$ wzrósłby do ok. $56$ , a $p$ spadłoby praktycznie do zera: wtedy albo prosta jest zła, albo ktoś zaniżył niepewności.

Symulacja 2 Rozkład

\chi^2

. Symulujemy

10\,000

„doświadczeń”, w których model jest dobry: każde daje sumę

\nu

kwadratów zmiennych normalnych standardowych. Histogram porównujemy z gęstością chi kwadrat. Przesuwaj zaobserwowaną wartość

\chi^2/\nu

, a odczyt poda wartość

p

(zacieniowany ogon) i porówna ją z ułamkiem symulacji. Dla dużego

\nu

rozkład

\chi^2/\nu

skupia się wokół

1

(szerokość

\sqrt{2/\nu}

), a sam rozkład

\chi^2

staje się prawie symetryczny.

Zadania · część 4

4 zadania · ok. 35 min

Dla dopasowania z zadania 3.2 przyjmij niepewność każdego $y$ równą $0{,}2$ . Oblicz $\chi^2$ i $\chi^2/\nu$ . Dla $\nu = 2$ wartość $p = e^{-\chi^2/2}$ ; ile wynosi?

Odpowiedź
$\chi^2 = \tfrac{0{,}2}{0{,}04} = 5$ , $\nu = 2$ , $\chi^2/\nu = 2{,}5$ . $p = e^{-2{,}5} \approx 0{,}082$ : dopasowanie słabe, ale nie odrzucamy prostej na poziomie $0{,}05$ . Warto sprawdzić, czy $0{,}2$ to realistyczna niepewność.
W $600$ rzutach kostką wypadło: $95$ ; $108$ ; $92$ ; $110$ ; $89$ ; $106$ razy odpowiednio $1$ – $6$ oczek. Czy kostka jest uczciwa? (Wartość krytyczna $\chi^2$ dla $\nu = 5$ i $p = 0{,}05$ to $11{,}07$ .)

Odpowiedź
$E_k = 100$ ; $\chi^2 = \tfrac{25 + 64 + 64 + 100 + 121 + 36}{100} = 4{,}10$ ; $\nu = 6 - 1 = 5$ (sumy muszą się zgadzać, więc jeden stopień swobody odpada). $4{,}10 < 11{,}07$ , $p \approx 0{,}54$ : brak powodów do podejrzeń.
Student dopasował model do $22$ punktów (dwa parametry) i dostał $\chi^2 = 4$ . Co to sugeruje?

Odpowiedź
$\nu = 20$ , $\chi^2/\nu = 0{,}2$ . Przy poprawnych niepewnościach $P(\chi^2 \le 4) \approx 5\cdot10^{-5}$ . Niemal na pewno niepewności są mocno przeszacowane (np. przyjęte jako niepewności graniczne zamiast standardowych), Jeśli niepewności $a$ i $b$ liczono z tych $u_i$ (np. $u_b = u\sqrt{N/\Delta}$ ), też będą zawyżone; liczone z rozrzutu $s_y$ (jak w części 3) tego problemu nie mają.
Pokaż, że jeśli $Z$ ma rozkład normalny standardowy, to $E[Z^2] = 1$ i $\operatorname{Var}Z^2 = 2$ (skorzystaj z $E[Z^4] = 3$ ). Wywnioskuj, że $\chi^2/\nu \approx 1 \pm \sqrt{2/\nu}$ . Jak szeroki jest typowy zakres $\chi^2/\nu$ dla $\nu = 10$ i $\nu = 100$ ?

Odpowiedź
$E[Z^2] = \operatorname{Var}Z = 1$ ; $\operatorname{Var}Z^2 = E[Z^4] - 1 = 2$ . Suma $\nu$ niezależnych: średnia $\nu$ , wariancja $2\nu$ ; podzielona przez $\nu$ : $1 \pm \sqrt{2/\nu}$ . Dla $\nu = 10$ : $1 \pm 0{,}45$ , dla $\nu = 100$ : $1 \pm 0{,}14$ . Przy małym $\nu$ nawet $\chi^2/\nu = 1{,}5$ niewiele znaczy (dla $\nu = 10$ : $p \approx 0{,}13$ ).

5 Błędne intuicje

„Niepewność typu B to błąd systematyczny, a typu A przypadkowy.”: A i B różnią się metodą wyznaczenia (statystyka albo inna wiedza), a nie naturą błędu. Obie podajemy jako odchylenia standardowe.
„Więcej pomiarów zawsze zmniejsza niepewność.”: Tylko składnik typu A, jak $1/\sqrt N$ . Rozdzielczość przyrządu i błąd kalibracji zostają (zadanie 1.4).
„Im mniejsze $\chi^2$ , tym lepiej.”: Oczekujemy $\chi^2 \approx \nu$ . Bardzo małe $\chi^2$ oznacza przeszacowane niepewności (zadanie 4.3).
„Metoda najmniejszych kwadratów działa zawsze.”: Zakłada niezależne błędy w $y$ o znanej (lub jednakowej) wielkości i zaniedbywalne błędy w $x$ ; gaussowskość jest potrzebna do uzasadnienia przez największą wiarygodność i do testu $\chi^2$ . Pojedynczy punkt odstający potrafi mocno przesunąć prostą (symulacja 1).
„Wartość $p$ to prawdopodobieństwo, że model jest prawdziwy.”: To prawdopodobieństwo uzyskania tak dużego $\chi^2$ , gdyby model był prawdziwy. Odwrócenie wymaga wzoru Bayesa (lekcja 5.1) i prawdopodobieństw a priori.

6 Sprawdź się

1 Jak obliczyć niepewność typu B z rozdzielczości

\Delta

$u_B = \Delta/\sqrt{12}$ (rozkład jednostajny w $\pm\Delta/2$ ).

2 Jak łączy się niepewności niezależnych składników?

Pierwiastek z sumy kwadratów: $u_c = \sqrt{u_A^2 + u_B^2}$ .

3 Zapisz prawo przenoszenia niepewności.

$u_f^2 = \sum(\partial f/\partial x_i)^2u_{x_i}^2$ .

4 Co minimalizuje metoda najmniejszych kwadratów?

Sumę kwadratów odchyleń w pionie $\sum(y_i - a - bx_i)^2$ .

5 Od czego zależy niepewność nachylenia?

Od rozrzutu punktów $s_y$ i rozstawu w $x$ : $u_b = s_y/\sqrt{\sum(x_i - \bar x)^2}$ .

6 Jakiego

\chi^2

oczekujemy przy dobrym modelu?

Około $\nu$ , z rozrzutem $\sqrt{2\nu}$ .

7 Ile stopni swobody ma dopasowanie prostej do

N

punktów?

$N - 2$ .

7 Karta wzorów i co dalej

Niepewności

A: $u_A = s/\sqrt N$ ; $\;$ B: przedział $\pm a$ → $a/\sqrt3$ ; działka $\Delta$ → $\Delta/\sqrt{12}$

$u_c = \sqrt{u_A^2 + u_B^2}$ ; $\;U = ku_c$ , $k = 2$ (ok. $95\%$ ); małe $N$ : $t$ Studenta

$u_f^2 = \sum(\partial_if)^2u_i^2$ ; $\;f = Cx^ay^b$ : $(u_f/f)^2 = a^2(u_x/x)^2 + b^2(u_y/y)^2$

Dopasowanie i test

$\Delta = N\sum x^2 - (\sum x)^2$ ; $\;b = \tfrac{N\sum xy - \sum x\sum y}{\Delta}$ ; $\;a = \tfrac{\sum x^2\sum y - \sum x\sum xy}{\Delta}$

$s_y = \sqrt{S_{\min}/(N - 2)}$ ; $\;u_b = s_y\sqrt{N/\Delta}$ ; $\;u_a = s_y\sqrt{\sum x^2/\Delta}$

$\chi^2 = \sum((y_i - f_i)/u_i)^2$ ; $\;\nu = N -$ liczba parametrów; $\;\chi^2/\nu \approx 1 \pm \sqrt{2/\nu}$

liczebności: $\chi^2 = \sum(O - E)^2/E$ ; $\;\nu = k - 1$ (potrzeba $E \gtrsim 5$ )

Do przeczytania

J. R. Taylor, An Introduction to Error Analysis, wyd. 2: rozdz. 3 (przenoszenie niepewności), 4 (analiza statystyczna niepewności przypadkowych), 8 (dopasowanie metodą najmniejszych kwadratów), 12 (test $\chi^2$ ). Podstawowa książka laboratorium fizycznego.
JCGM 100:2008 (GUM): międzynarodowy przewodnik wyrażania niepewności, dostępny bezpłatnie na stronie BIPM; rozdziały 4–6.

Na tym kończy się część V. Dopasowanie metodą najmniejszych kwadratów wróci w automatyce przy identyfikacji układów (1.2 Jak reagują układy: człony podstawowe i odpowiedź skokowa), a jego rekurencyjna wersja z modelem dynamiki to filtr Kalmana (4.4 Filtr Kalmana). W fizyce te narzędzia są potrzebne przy każdym ćwiczeniu laboratoryjnym, a pierwsze z nich to pomiar $g$ i ruch po równi (Dział 1: Ruch i jego przyczyny).