Analiza regresji

Metody analizy regresji prostej, współczynnik korelacji liniowej Pearsona

Załóżmy, że istnieje korelacja liniowa między dwoma cechami, a zatem możemy znaleźć równanie prostej obrazującej zależność Y od X.

- równanie regresji pierwszego rodzaju – jest to prosta przechodząca najbliżej punktów empirycznych; mówimy o regresji pierwszego rodzaju, bo zależność Y od X jest najważniejsza.

- równanie regresji drugiego rodzaju – równanie linii prostej obrazujące zależność X od Y.

Im bliżej siebie znajdują się te proste tym korelacja jest silniejsza. Jeżeli proste się pokrywają, to zależność korelacyjna jest jednocześnie zależnością deterministyczną.

a - współczynnik regresji pierwszego rodzaju

c - współczynnik regresji drugiego rodzaju

Oba te współczynniki maja te same znaki, poza tym

Interpretacja a - współczynnika regresji pierwszego rodzaju

x - staż pracy w latach

y - zarobki w tysiącach złotych

Korelacja dodatnia, jeśli staż pracy wzrośnie o rok, to zarobki wzrosną przeciętnie (na ogół) o 200zł.

Uwaga: mając te same dane w innym układzie możemy otrzymać prawdopodobnie inne wyniki – zwykle dla danych indywidualnych korelacja jest słabsza niż dla średnich

Dla potrzeb wyznaczenia kierunku i siły korelacji liniowej dwóch cech mierzalnych X i Y (ponadto zależność między X i Y musi być liniowa) stosuje się powszechnie znaną miarę zwaną współczynnikiem korelacji Pearsona

Własności współczynnika korelacji liniowej Pearsona:

- miara symetryczna

- znak tego współczynnika mówi o kierunku, a moduł o sile korelacji

- współczynnik Pearsona co do wartości bezwzględnej równy jest stosunkowi korelacji jeśli zależność ma charakter liniowy w tablicy korelacyjnej

	0,0 – 0,2	- brak korelacji
	0,2 – 0,4	- korelacja słaba
	0,4 – 0,6	- korelacja umiarkowana
	0,6 – 0,8	- korelacja silna
	0,8 – 1,0	- korelacja bardzo silna

Współczynnik determinacji – - miara dopasowania linii regresji do danych empirycznych – w % (wiadomo, że

np.:
Oznacza to, że popyt zależy w 81% od ceny, a w 19% od innych czynników

Wzory na współczynniki:

Równanie pierwszego rodzaju

Równanie drugiego rodzaju

ewentualnie

Rachunek korelacyjny:

Alternatywny wzór na współczynnik korelacji liniowej PEARSONA

, gdzie

- kowariancja

- odchylenia standardowe

Znak kowariancji mówi nam o kierunku korelacji.

Zależność między:

Zadanie:

Badając zależność między czasem zastanawiania się nad odpowiedzią, a liczbą popełnionych błędów w teście otrzymano następujące wyniki:

Czas zastanawiania się	Liczba błędów
1	45
2	30
3	30
4	25
5	20

1) określ siłę i kierunek zależności między badanymi cechami

2) oszacuj funkcję regresji obrazującą zależność między liczbą pomyłek a czasem zastanawiania się

3) zinterpretuj obliczony współczynnik regresji

4) oblicz prawdopodobną liczbę pomyłek dla 7 sekund zastanawiania się z uwzględnieniem średniego błędu szacunku

5) oblicz współczynnik determinacji i zinterpretuj go

X		Y
1		45	-2	4	15	225	-30	41	4	16
2		30	-1	1	0	0	0	35,5	-5,5	30,25
3		30	0	0	0	0	0	30	0	0
4		25	1	1	-5	25	-5	24,5	0,5	0,25
5		20	2	4	-10	100	-20	19	1	1
Suma	15	150		10		350	-55			47,5
Średnia	3	30

Ad1

Obliczmy współczynnik korelacji Pearsona dany wzorem:

, więc

Korelacja ujemna i bardzo silna

Ad2

Wiemy, że liczba błędów (y) zależy od czasu zastanawiania się (x), więc interesować nas będzie równanie regresji pierwszego rodzaju:

więc funkcja regresji ma postać:

Ad3

Współczynnik regresji a mówi nam jak zmieni się przeciętnie Y jeżeli X zmieni się o jednostkę. W naszym przypadku: Jeżeli czas zastanawiania się wzrośnie o sekundę liczba błędów spadnie przeciętnie o 5,5.

Wyraz wolny b: Strzelając (bez zastanawiania się) zrobi się przeciętnie 46,5

Ad4

Z równania regresji prognozujemy, że

Obliczmy średni błąd prognozy:

Otrzymujemy więc, że dla 7 sekund zastanawiania się, popełni się 8 błędów, z uwzględnieniem średniego błędu prognozy, popełnimy 8błędów J

Ad5

Liczba popełnionych błędów na teście zależy od czasu zastanawiania się w 86,5% i w 13,5% od innych czynników.