Metoda najmniejszych kwadratów pozwala. Metoda najmniejszych kwadratów w Excelu. Analiza regresji. Kilka szczególnych przypadków wykorzystania MNC w praktyce

Metoda najmniejszych kwadratów pozwala. Metoda najmniejszych kwadratów w Excelu. Analiza regresji. Kilka szczególnych przypadków wykorzystania MNC w praktyce

Co znajduje najszersze zastosowanie w różnych dziedzinach nauki i działalności praktycznej. Może to być fizyka, chemia, biologia, ekonomia, socjologia, psychologia i tak dalej, i tak dalej. Zrządzeniem losu często muszę zajmować się gospodarką, dlatego dziś zorganizuję dla Was wycieczkę do niesamowitego kraju zwanego Ekonometria=) ...Jak możesz tego nie chcieć?! Jest tam bardzo dobrze – trzeba się tylko zdecydować! ...Ale prawdopodobnie na pewno chcesz nauczyć się rozwiązywać problemy metoda najmniejszych kwadratów. A szczególnie pilni czytelnicy nauczą się je rozwiązywać nie tylko dokładnie, ale i BARDZO SZYBKO ;-) Ale najpierw ogólne przedstawienie problemu+ dołączony przykład:

Przeanalizujmy wskaźniki w określonym obszarze tematycznym, które mają wyraz ilościowy. Jednocześnie istnieją podstawy, aby sądzić, że wskaźnik zależy od wskaźnika. Założenie to może być hipotezą naukową lub opierać się na podstawowym zdrowym rozsądku. Zostawmy jednak naukę na boku i zajmijmy się bardziej apetycznymi rejonami – czyli sklepami spożywczymi. Oznaczmy przez:

– powierzchnia handlowa sklepu spożywczego mkw.,
– roczny obrót sklepu spożywczego, mln rubli.

Jest całkowicie jasne, że im większa powierzchnia sklepu, tym w większości przypadków większe będą jego obroty.

Załóżmy, że po przeprowadzeniu obserwacji/eksperymentów/obliczeń/tańców z tamburynem dysponujemy danymi liczbowymi:

W przypadku sklepów spożywczych myślę, że wszystko jest jasne: - jest to powierzchnia pierwszego sklepu, - jego roczny obrót, - powierzchnia drugiego sklepu, - jego roczny obrót itp. Notabene posiadanie dostępu do materiałów niejawnych wcale nie jest konieczne – w miarę dokładną ocenę obrotów handlowych można uzyskać za pomocą statystyka matematyczna. Jednak nie dajmy się rozpraszać, kurs szpiegostwa komercyjnego jest już opłacony =)

Dane tabelaryczne można również zapisać w formie punktów i przedstawić w znanej formie System kartezjański .

Odpowiedzmy sobie na ważne pytanie: Ile punktów potrzeba do badania jakościowego?

Więcej, tym lepiej. Minimalny akceptowalny set to 5-6 punktów. Ponadto, gdy ilość danych jest niewielka, nie można uwzględnić w próbie wyników „anomalnych”. Na przykład mały elitarny sklep może zarobić o rząd wielkości więcej niż „jego koledzy”, zniekształcając w ten sposób ogólny wzór, który musisz znaleźć!

Mówiąc najprościej, musimy wybrać funkcję, harmonogram który przechodzi jak najbliżej punktów . Ta funkcja nazywa się przybliżanie (przybliżenie - przybliżenie) Lub funkcja teoretyczna . Ogólnie rzecz biorąc, natychmiast pojawia się tutaj oczywisty „kontener” - wielomian wysokiego stopnia, którego wykres przechodzi przez WSZYSTKIE punkty. Ale ta opcja jest skomplikowana i często po prostu niepoprawna. (ponieważ wykres będzie się cały czas „zapętlał” i słabo odzwierciedlał główny trend).

Zatem poszukiwana funkcja musi być dość prosta i jednocześnie odpowiednio odzwierciedlać zależność. Jak można się domyślić, jedna z metod znajdowania takich funkcji nazywa się metoda najmniejszych kwadratów. Najpierw spójrzmy ogólnie na jego istotę. Niech jakaś funkcja przybliży dane eksperymentalne:


Jak ocenić dokładność tego przybliżenia? Obliczmy także różnice (odchylenia) pomiędzy wartościami doświadczalnymi i funkcjonalnymi (studiujemy rysunek). Pierwszą myślą, która przychodzi na myśl, jest oszacowanie, jak duża jest to suma, problem jednak polega na tym, że różnice mogą być ujemne (Na przykład, ) a odchylenia powstałe w wyniku takiego sumowania będą się wzajemnie znosić. Dlatego też, jako oszacowanie dokładności przybliżenia, aż prosi się o przyjęcie sumy moduły odchylenia:

lub upadł: (gdyby ktoś nie wiedział: – to ikona sumy, oraz – pomocnicza zmienna „licznik”, która przyjmuje wartości od 1 do ).

Aproksymując punkty eksperymentalne różnymi funkcjami, otrzymamy różne wartości i oczywiście, gdy suma ta jest mniejsza, funkcja ta jest dokładniejsza.

Taka metoda istnieje i nazywa się metoda najmniejszego modułu. Jednak w praktyce stało się to znacznie bardziej powszechne metoda najmniejszych kwadratów, w którym możliwe wartości ujemne są eliminowane nie przez moduł, ale przez podniesienie odchyleń do kwadratu:

, po czym dąży się do wybrania takiej funkcji, która będzie sumą kwadratów odchyleń był tak mały, jak to tylko możliwe. Właściwie stąd wzięła się nazwa tej metody.

A teraz wracamy do innego ważnego punktu: jak wspomniano powyżej, wybrana funkcja powinna być dość prosta - ale takich funkcji jest również wiele: liniowy , hiperboliczny, wykładniczy, logarytmiczny, kwadratowy itp. I oczywiście tutaj chciałbym od razu „zmniejszyć pole działania”. Jaką klasę funkcji wybrać do badań? Prymitywna, ale skuteczna technika:

– Najłatwiej jest przedstawić punkty na rysunku i przeanalizuj ich położenie. Jeśli mają tendencję do biegania w linii prostej, powinieneś poszukać równanie linii z optymalnymi wartościami i . Inaczej mówiąc, zadaniem jest znaleźć TAKIE współczynniki, aby suma kwadratów odchyleń była jak najmniejsza.

Jeśli punkty znajdują się np. wzdłuż hiperbola, to jest oczywiste, że funkcja liniowa daje słabe przybliżenie. W tym przypadku szukamy najbardziej „korzystnych” współczynników dla równania hiperboli – takie, które dają minimalną sumę kwadratów .

Teraz zauważ, że w obu przypadkach mówimy funkcje dwóch zmiennych, którego argumentami są szukane parametry zależności:

Zasadniczo musimy rozwiązać standardowy problem - znaleźć funkcja minimalna dwóch zmiennych.

Przypomnijmy nasz przykład: załóżmy, że punkty „sklepowe” zwykle leżą w linii prostej i istnieją podstawy, by sądzić, że zależność liniowa obrotów z powierzchni handlowej. Znajdźmy TAKIE współczynniki „a” i „be” takie, że suma kwadratów odchyleń był najmniejszy. Wszystko jest jak zwykle - najpierw Pochodne cząstkowe pierwszego rzędu. Według reguła liniowości Możesz rozróżnić bezpośrednio pod ikoną sumy:

Jeśli chcesz wykorzystać te informacje w eseju lub pracy semestralnej, będę bardzo wdzięczny za link w wykazie źródeł, w kilku miejscach znajdziesz takie szczegółowe obliczenia:

Stwórzmy standardowy system:

Każde równanie redukujemy o „dwa” i dodatkowo „rozbijamy” sumy:

Notatka : niezależnie przeanalizuj, dlaczego „a” i „być” można wyjąć poza ikoną sumy. Nawiasem mówiąc, formalnie można to zrobić za pomocą sumy

Przepiszmy system w formie „stosowanej”:

po czym zaczyna się wyłaniać algorytm rozwiązania naszego problemu:

Czy znamy współrzędne punktów? Wiemy. Kwoty czy możemy to znaleźć? Łatwo. Zróbmy najprostsze układ dwóch równań liniowych z dwiema niewiadomymi(„a” i „być”). Rozwiązujemy układ np. Metoda Cramera, w wyniku czego otrzymujemy punkt stacjonarny. Kontrola warunek wystarczający na ekstremum, możemy sprawdzić, że w tym momencie funkcja sięga dokładnie minimum. Sprawdzenie wiąże się z dodatkowymi obliczeniami, dlatego pozostawimy to za kulisami (w razie potrzeby można obejrzeć brakującą klatkę). Wyciągamy ostateczny wniosek:

Funkcjonować w najlepszy możliwy sposób (przynajmniej w porównaniu z jakąkolwiek inną funkcją liniową) przybliża punkty doświadczalne . Z grubsza rzecz biorąc, jego wykres przebiega jak najbliżej tych punktów. W tradycji ekonometria wynikowa funkcja aproksymująca jest również nazywana sparowane równanie regresji liniowej .

Rozważany problem ma duże znaczenie praktyczne. W naszej przykładowej sytuacji równanie. pozwala przewidzieć jakie obroty handlowe („Igrek”) sklep będzie miał taką czy inną wartość powierzchni sprzedażowej (takie czy inne znaczenie „x”). Tak, powstała prognoza będzie jedynie prognozą, ale w wielu przypadkach okaże się dość dokładna.

Przeanalizuję tylko jeden problem z liczbami „prawdziwymi”, ponieważ nie ma w nim żadnych trudności - wszystkie obliczenia są na poziomie programu nauczania w szkole 7-8 klasy. W 95 procentach przypadków zostaniesz poproszony o znalezienie tylko funkcji liniowej, ale na samym końcu artykułu pokażę, że znalezienie równań optymalnej hiperboli, funkcji wykładniczej i niektórych innych nie jest już trudniejsze.

Tak naprawdę pozostaje tylko rozdać obiecane gadżety - abyście mogli nauczyć się rozwiązywać takie przykłady nie tylko dokładnie, ale i szybko. Dokładnie badamy standard:

Zadanie

W wyniku badania zależności pomiędzy dwoma wskaźnikami otrzymano następujące pary liczb:

Korzystając z metody najmniejszych kwadratów, znajdź funkcję liniową, która najlepiej przybliża funkcję empiryczną (doświadczony) dane. Wykonaj rysunek, na podstawie którego skonstruujesz punkty doświadczalne oraz wykres funkcji aproksymującej w prostokątnym układzie współrzędnych kartezjańskich . Znajdź sumę kwadratów odchyleń między wartościami empirycznymi i teoretycznymi. Dowiedz się, czy ta funkcja byłaby lepsza (z punktu widzenia metody najmniejszych kwadratów) przybliżyć punkty doświadczalne.

Należy pamiętać, że znaczenia „x” są naturalne i ma to charakterystyczne znaczenie znaczące, o którym opowiem nieco później; ale oczywiście mogą być również ułamkowe. Ponadto, w zależności od treści konkretnego zadania, zarówno wartości „X”, jak i „gry” mogą być całkowicie lub częściowo ujemne. Cóż, dostaliśmy zadanie „bez twarzy” i zaczynamy je rozwiązanie:

Znajdujemy współczynniki funkcji optymalnej jako rozwiązanie układu:

W celu bardziej zwięzłego zapisu można pominąć zmienną „licznik”, ponieważ jest już jasne, że sumowanie odbywa się od 1 do .

Wygodniej jest obliczyć wymagane kwoty w formie tabelarycznej:


Obliczenia można przeprowadzić na mikrokalkulatorze, ale znacznie lepiej jest korzystać z Excela - zarówno szybciej, jak i bez błędów; obejrzyj krótki film:

W ten sposób otrzymujemy, co następuje system:

Tutaj możesz pomnożyć drugie równanie przez 3 i odejmij drugie od pierwszego równania wyraz po wyrazie. Ale to szczęście – w praktyce systemy często nie są prezentem, a w takich przypadkach oszczędzają Metoda Cramera:
co oznacza, że system posiada unikalne rozwiązanie.

Sprawdźmy. Rozumiem, że nie chcesz, ale po co pomijać błędy, których absolutnie nie da się przeoczyć? Podstawmy znalezione rozwiązanie po lewej stronie każdego równania układu:

Otrzymuje się prawe strony odpowiednich równań, co oznacza, że układ jest rozwiązany poprawnie.

Zatem pożądana funkcja aproksymująca: – od wszystkie funkcje liniowe To ona najlepiej przybliża dane eksperymentalne.

Inaczej bezpośredni zależności obrotów sklepu od jego powierzchni, znaleziona zależność wynosi odwracać (zasada „im więcej, tym mniej”), a fakt ten jest natychmiast ujawniany przez negatyw nachylenie. Funkcjonować mówi nam, że wraz ze wzrostem pewnego wskaźnika o 1 jednostkę wartość wskaźnika zależnego maleje średnio o 0,65 jednostki. Jak mówią, im wyższa cena gryki, tym mniej się jej sprzedaje.

Aby wykreślić wykres funkcji aproksymującej, znajdujemy jej dwie wartości:

i wykonaj rysunek:


Zbudowana linia prosta nazywa się linia trendu (mianowicie liniowa linia trendu, tj. w ogólnym przypadku trend niekoniecznie jest linią prostą). Każdemu znane jest wyrażenie „być w trendzie” i myślę, że to określenie nie wymaga dodatkowego komentarza.

Obliczmy sumę kwadratów odchyleń pomiędzy wartościami empirycznymi i teoretycznymi. Geometrycznie jest to suma kwadratów długości odcinków „malinowych”. (z czego dwa są tak małe, że nawet ich nie widać).

Podsumujmy obliczenia w tabeli:


Ponownie można to zrobić ręcznie; na wszelki wypadek podam przykład dla pierwszego punktu:

ale o wiele skuteczniej jest zrobić to w znany już sposób:

Powtarzamy jeszcze raz: Jakie jest znaczenie uzyskanego wyniku? Z wszystkie funkcje liniowe funkcja wskaźnik jest najmniejszy, czyli w swojej rodzinie jest najlepszym przybliżeniem. I tutaj, nawiasem mówiąc, ostatnie pytanie problemu nie jest przypadkowe: co by było, gdyby proponowana funkcja wykładnicza czy lepiej byłoby przybliżyć punkty eksperymentalne?

Znajdźmy odpowiednią sumę kwadratów odchyleń - dla rozróżnienia oznaczę je literą „epsilon”. Technika jest dokładnie taka sama:


I znowu, na wszelki wypadek, obliczenia dla 1. punktu:

W Excelu używamy funkcji standardowej DO POTĘGI (składnię można znaleźć w Pomocy programu Excel).

Wniosek: , co oznacza, że funkcja wykładnicza przybliża punkty eksperymentalne gorzej niż linia prosta .

Ale tutaj należy zauważyć, że „gorsze” jest nie znaczy jeszcze, co jest złe. Teraz zbudowałem wykres tej funkcji wykładniczej - i ona również przechodzi blisko punktów - do tego stopnia, że bez badań analitycznych trudno stwierdzić, która funkcja jest dokładniejsza.

Na tym kończy się rozwiązanie i wracam do kwestii naturalnych wartości argumentu. W różnych badaniach, zwykle ekonomicznych lub socjologicznych, naturalne „X” służą do numerowania miesięcy, lat lub innych równych przedziałów czasu. Rozważmy na przykład następujący problem.

Przykład.

Dane eksperymentalne dotyczące wartości zmiennych X I Na podano w tabeli.

W wyniku ich wyrównania uzyskuje się funkcję

Używanie metoda najmniejszych kwadratów, aproksymuj te dane za pomocą zależności liniowej y=topór+b(znajdź parametry A I B). Dowiedz się, która z dwóch linii lepiej (w sensie metody najmniejszych kwadratów) wyrównuje dane eksperymentalne. Zrób rysunek.

Istota metody najmniejszych kwadratów (LSM).

>

Zadanie polega na znalezieniu współczynników zależności liniowej, przy której funkcjonuje funkcja dwóch zmiennych A I B przyjmuje najmniejszą wartość. To znaczy, dane A I B suma kwadratów odchyleń danych eksperymentalnych od znalezionej prostej będzie najmniejsza. Na tym polega cały sens metody najmniejszych kwadratów.

Zatem rozwiązanie przykładu sprowadza się do znalezienia ekstremum funkcji dwóch zmiennych.

Wyprowadzanie wzorów na znalezienie współczynników.

>

Układ dwóch równań z dwiema niewiadomymi jest kompilowany i rozwiązywany. Znajdowanie pochodnych cząstkowych funkcji po zmiennych A I B, przyrównujemy te pochodne do zera.

Powstały układ równań rozwiązujemy dowolną metodą (np metodą podstawieniową lub ) i uzyskać wzory na znalezienie współczynników metodą najmniejszych kwadratów (LSM).

Dany A I B funkcjonować przyjmuje najmniejszą wartość. Podano dowód tego faktu.

To cała metoda najmniejszych kwadratów. Wzór na znalezienie parametru A zawiera sumy , , i parametr N- ilość danych eksperymentalnych. Zalecamy oddzielne obliczanie wartości tych kwot. Współczynnik B znajduje się po obliczeniu A.

Czas przypomnieć sobie oryginalny przykład.

Rozwiązanie.

W naszym przykładzie n=5. Wypełniamy tabelę dla wygody obliczenia kwot uwzględnionych we wzorach wymaganych współczynników.

Wartości w czwartym wierszu tabeli uzyskuje się poprzez pomnożenie wartości drugiego wiersza przez wartości trzeciego wiersza dla każdej liczby I.

Wartości w piątym wierszu tabeli uzyskuje się przez podniesienie do kwadratu wartości w drugim wierszu dla każdej liczby I.

Wartości w ostatniej kolumnie tabeli są sumami wartości w wierszach.

Do znalezienia współczynników używamy wzorów metody najmniejszych kwadratów A I B. Podstawiamy do nich odpowiednie wartości z ostatniej kolumny tabeli:

Stąd, y = 0,165x+2,184- żądana przybliżająca linia prosta.

Pozostaje dowiedzieć się, która z linii y = 0,165x+2,184 Lub lepiej przybliża dane oryginalne, czyli szacunki metodą najmniejszych kwadratów.

Estymacja błędu metodą najmniejszych kwadratów.

>

Aby to zrobić, musisz obliczyć sumę kwadratów odchyleń oryginalnych danych od tych linii I , mniejsza wartość odpowiada linii, która lepiej przybliża oryginalne dane w sensie metody najmniejszych kwadratów.

Od , potem prosto y = 0,165x+2,184 lepiej przybliża oryginalne dane.

Graficzna ilustracja metody najmniejszych kwadratów (LS).

>

Wszystko doskonale widać na wykresach. Czerwona linia to znaleziona linia prosta y = 0,165x+2,184, niebieska linia to , różowe kropki to dane oryginalne.

Dlaczego jest to potrzebne, po co te wszystkie przybliżenia?

Osobiście używam go do rozwiązywania problemów związanych z wygładzaniem danych, interpolacją i ekstrapolacją (w oryginalnym przykładzie mogli zostać poproszeni o znalezienie wartości obserwowanej wartości y Na x=3 lub kiedy x=6 metodą najmniejszych kwadratów). Ale porozmawiamy o tym więcej później w innej części witryny.

Dowód.

Tak więc, gdy zostanie znaleziony A I B funkcja przyjmuje najmniejszą wartość, konieczne jest, aby w tym miejscu macierz postaci kwadratowej różniczki drugiego rzędu dla funkcji był dodatnio określony. Pokażmy to.

Różniczka drugiego rzędu ma postać:

To jest

Zatem macierz postaci kwadratowej ma postać

a wartości elementów nie zależą od A I B.

Pokażmy, że macierz jest dodatnio określona. Aby to zrobić, nieletni kątowe muszą być dodatnie.

Moll kątowy pierwszego rzędu . Nierówność jest ścisła, ponieważ punkty nie pokrywają się. W dalszej części będziemy to sugerować.

Moll kątowy drugiego rzędu

Udowodnijmy to metodą indukcji matematycznej.

Wniosek: znalezione wartości A I B odpowiadają najmniejszej wartości funkcji są zatem wymaganymi parametrami metody najmniejszych kwadratów.

Metoda najmniejszych kwadratów

W ostatniej lekcji tego tematu zapoznamy się z najsłynniejszą aplikacją FNP, co znajduje najszersze zastosowanie w różnych dziedzinach nauki i działalności praktycznej. Może to być fizyka, chemia, biologia, ekonomia, socjologia, psychologia i tak dalej, i tak dalej. Zrządzeniem losu często muszę zajmować się gospodarką, dlatego dziś zorganizuję dla Was wycieczkę do niesamowitego kraju zwanego Ekonometria=) ...Jak możesz tego nie chcieć?! Jest tam bardzo dobrze – trzeba się tylko zdecydować! ...Ale prawdopodobnie na pewno chcesz nauczyć się rozwiązywać problemy metoda najmniejszych kwadratów. A szczególnie pilni czytelnicy nauczą się je rozwiązywać nie tylko dokładnie, ale i BARDZO SZYBKO ;-) Ale najpierw ogólne przedstawienie problemu+ dołączony przykład:

Przeanalizujmy wskaźniki w określonym obszarze tematycznym, które mają wyraz ilościowy. Jednocześnie istnieją podstawy, aby sądzić, że wskaźnik zależy od wskaźnika. Założenie to może być hipotezą naukową lub opierać się na podstawowym zdrowym rozsądku. Zostawmy jednak naukę na boku i zajmijmy się bardziej apetycznymi rejonami – czyli sklepami spożywczymi. Oznaczmy przez:

– powierzchnia handlowa sklepu spożywczego mkw.,
– roczny obrót sklepu spożywczego, mln rubli.

Jest całkowicie jasne, że im większa powierzchnia sklepu, tym w większości przypadków większe będą jego obroty.

Załóżmy, że po przeprowadzeniu obserwacji/eksperymentów/obliczeń/tańców z tamburynem dysponujemy danymi liczbowymi:

W przypadku sklepów spożywczych myślę, że wszystko jest jasne: - jest to powierzchnia pierwszego sklepu, - jego roczny obrót, - powierzchnia drugiego sklepu, - jego roczny obrót itp. Notabene posiadanie dostępu do materiałów niejawnych wcale nie jest konieczne – w miarę dokładną ocenę obrotów handlowych można uzyskać za pomocą statystyka matematyczna. Jednak nie dajmy się rozpraszać, kurs szpiegostwa komercyjnego jest już opłacony =)

Dane tabelaryczne można również zapisać w formie punktów i przedstawić w znanej formie System kartezjański .

Odpowiedzmy sobie na ważne pytanie: Ile punktów potrzeba do badania jakościowego?

Więcej, tym lepiej. Minimalny akceptowalny set to 5-6 punktów. Ponadto, gdy ilość danych jest niewielka, nie można uwzględnić w próbie wyników „anomalnych”. Na przykład mały elitarny sklep może zarobić o rząd wielkości więcej niż „jego koledzy”, zniekształcając w ten sposób ogólny wzór, który musisz znaleźć!



Mówiąc najprościej, musimy wybrać funkcję, harmonogram który przechodzi jak najbliżej punktów . Ta funkcja nazywa się przybliżanie (przybliżenie - przybliżenie) Lub funkcja teoretyczna . Ogólnie rzecz biorąc, natychmiast pojawia się tutaj oczywisty „kontener” - wielomian wysokiego stopnia, którego wykres przechodzi przez WSZYSTKIE punkty. Ale ta opcja jest skomplikowana i często po prostu niepoprawna. (ponieważ wykres będzie się cały czas „zapętlał” i słabo odzwierciedlał główny trend).

Zatem poszukiwana funkcja musi być dość prosta i jednocześnie odpowiednio odzwierciedlać zależność. Jak można się domyślić, jedna z metod znajdowania takich funkcji nazywa się metoda najmniejszych kwadratów. Najpierw spójrzmy ogólnie na jego istotę. Niech jakaś funkcja przybliży dane eksperymentalne:


Jak ocenić dokładność tego przybliżenia? Obliczmy także różnice (odchylenia) pomiędzy wartościami doświadczalnymi i funkcjonalnymi (studiujemy rysunek). Pierwszą myślą, która przychodzi na myśl, jest oszacowanie, jak duża jest to suma, problem jednak polega na tym, że różnice mogą być ujemne (Na przykład, ) a odchylenia powstałe w wyniku takiego sumowania będą się wzajemnie znosić. Dlatego też, jako oszacowanie dokładności przybliżenia, aż prosi się o przyjęcie sumy moduły odchylenia:

lub upadł: (jeśli ktoś nie wie: jest ikoną sumy, oraz – pomocnicza zmienna „licznikowa”, która przyjmuje wartości od 1 do ) .

Aproksymując punkty eksperymentalne różnymi funkcjami, otrzymamy różne wartości, przy czym oczywiście, gdy suma ta jest mniejsza, funkcja ta jest dokładniejsza.

Taka metoda istnieje i nazywa się metoda najmniejszego modułu. Jednak w praktyce stało się to znacznie bardziej powszechne metoda najmniejszych kwadratów, w którym możliwe wartości ujemne są eliminowane nie przez moduł, ale przez podniesienie odchyleń do kwadratu:



, po czym dąży się do wybrania takiej funkcji, która będzie sumą kwadratów odchyleń był tak mały, jak to tylko możliwe. Właściwie stąd wzięła się nazwa tej metody.

A teraz wracamy do innego ważnego punktu: jak wspomniano powyżej, wybrana funkcja powinna być dość prosta - ale takich funkcji jest również wiele: liniowy , hiperboliczny , wykładniczy , logarytmiczny , kwadratowy itp. I oczywiście tutaj chciałbym od razu „zmniejszyć pole działania”. Jaką klasę funkcji wybrać do badań? Prymitywna, ale skuteczna technika:

– Najłatwiej jest przedstawić punkty na rysunku i przeanalizuj ich położenie. Jeśli mają tendencję do biegania w linii prostej, powinieneś poszukać równanie linii z optymalnymi wartościami i . Inaczej mówiąc, zadaniem jest znaleźć TAKIE współczynniki, aby suma kwadratów odchyleń była jak najmniejsza.

Jeśli punkty znajdują się np. wzdłuż hiperbola, to jest oczywiste, że funkcja liniowa daje słabe przybliżenie. W tym przypadku szukamy najbardziej „korzystnych” współczynników dla równania hiperboli – takie, które dają minimalną sumę kwadratów .

Teraz zauważ, że w obu przypadkach mówimy funkcje dwóch zmiennych, którego argumentami są szukane parametry zależności:

Zasadniczo musimy rozwiązać standardowy problem - znaleźć funkcja minimalna dwóch zmiennych.

Przypomnijmy nasz przykład: załóżmy, że punkty „sklepowe” zwykle leżą w linii prostej i istnieją podstawy, by sądzić, że zależność liniowa obrotów z powierzchni handlowej. Znajdźmy TAKIE współczynniki „a” i „be” takie, że suma kwadratów odchyleń był najmniejszy. Wszystko jest jak zwykle - najpierw Pochodne cząstkowe pierwszego rzędu. Według reguła liniowości Możesz rozróżnić bezpośrednio pod ikoną sumy:

Jeśli chcesz wykorzystać te informacje w eseju lub pracy semestralnej, będę bardzo wdzięczny za link w wykazie źródeł, w kilku miejscach znajdziesz takie szczegółowe obliczenia:

Stwórzmy standardowy system:

Każde równanie redukujemy o „dwa” i dodatkowo „rozbijamy” sumy:

Notatka : niezależnie przeanalizuj, dlaczego „a” i „być” można wyjąć poza ikoną sumy. Nawiasem mówiąc, formalnie można to zrobić za pomocą sumy

Przepiszmy system w formie „stosowanej”:

po czym zaczyna się wyłaniać algorytm rozwiązania naszego problemu:

Czy znamy współrzędne punktów? Wiemy. Kwoty czy możemy to znaleźć? Łatwo. Zróbmy najprostsze układ dwóch równań liniowych z dwiema niewiadomymi(„a” i „być”). Rozwiązujemy układ np. Metoda Cramera, w wyniku czego otrzymujemy punkt stacjonarny. Kontrola warunek wystarczający na ekstremum, możemy sprawdzić, że w tym momencie funkcja sięga dokładnie minimum. Sprawdzenie wiąże się z dodatkowymi obliczeniami, dlatego pozostawimy to za kulisami (w razie potrzeby można obejrzeć brakującą klatkęTutaj ) . Wyciągamy ostateczny wniosek:

Funkcjonować w najlepszy możliwy sposób (przynajmniej w porównaniu z jakąkolwiek inną funkcją liniową) przybliża punkty doświadczalne . Z grubsza mówiąc, jego wykres przebiega jak najbliżej tych punktów. W tradycji ekonometria wynikowa funkcja aproksymująca jest również nazywana sparowane równanie regresji liniowej .

Rozważany problem ma duże znaczenie praktyczne. W naszej przykładowej sytuacji równanie. pozwala przewidzieć jakie obroty handlowe („Igrek”) sklep będzie miał taką czy inną wartość powierzchni sprzedażowej (takie czy inne znaczenie „x”). Tak, powstała prognoza będzie jedynie prognozą, ale w wielu przypadkach okaże się dość dokładna.

Przeanalizuję tylko jeden problem z liczbami „prawdziwymi”, ponieważ nie ma w nim żadnych trudności - wszystkie obliczenia są na poziomie programu nauczania w szkole 7-8 klasy. W 95 procentach przypadków zostaniesz poproszony o znalezienie tylko funkcji liniowej, ale na samym końcu artykułu pokażę, że znalezienie równań optymalnej hiperboli, funkcji wykładniczej i niektórych innych nie jest już trudniejsze.

Tak naprawdę pozostaje tylko rozdać obiecane gadżety - abyście mogli nauczyć się rozwiązywać takie przykłady nie tylko dokładnie, ale i szybko. Dokładnie badamy standard:

Zadanie

W wyniku badania zależności pomiędzy dwoma wskaźnikami otrzymano następujące pary liczb:

Korzystając z metody najmniejszych kwadratów, znajdź funkcję liniową, która najlepiej przybliża funkcję empiryczną (doświadczony) dane. Wykonaj rysunek, na podstawie którego skonstruujesz punkty doświadczalne oraz wykres funkcji aproksymującej w prostokątnym układzie współrzędnych kartezjańskich . Znajdź sumę kwadratów odchyleń między wartościami empirycznymi i teoretycznymi. Dowiedz się, czy ta funkcja byłaby lepsza (z punktu widzenia metody najmniejszych kwadratów) przybliżyć punkty doświadczalne.

Należy pamiętać, że znaczenia „x” są naturalne i ma to charakterystyczne znaczenie znaczące, o którym opowiem nieco później; ale oczywiście mogą być również ułamkowe. Ponadto, w zależności od treści konkretnego zadania, zarówno wartości „X”, jak i „gry” mogą być całkowicie lub częściowo ujemne. Cóż, dostaliśmy zadanie „bez twarzy” i zaczynamy je rozwiązanie:

Znajdujemy współczynniki funkcji optymalnej jako rozwiązanie układu:

W celu bardziej zwięzłego zapisu można pominąć zmienną „licznik”, ponieważ jest już jasne, że sumowanie odbywa się od 1 do .

Wygodniej jest obliczyć wymagane kwoty w formie tabelarycznej:


Obliczenia można przeprowadzić na mikrokalkulatorze, ale znacznie lepiej jest korzystać z Excela - zarówno szybciej, jak i bez błędów; obejrzyj krótki film:

W ten sposób otrzymujemy, co następuje system:

Tutaj możesz pomnożyć drugie równanie przez 3 i odejmij drugie od pierwszego równania wyraz po wyrazie. Ale to szczęście – w praktyce systemy często nie są prezentem, a w takich przypadkach oszczędzają Metoda Cramera:
co oznacza, że system posiada unikalne rozwiązanie.

Sprawdźmy. Rozumiem, że nie chcesz, ale po co pomijać błędy, których absolutnie nie da się przeoczyć? Podstawmy znalezione rozwiązanie po lewej stronie każdego równania układu:

Otrzymuje się prawe strony odpowiednich równań, co oznacza, że układ jest rozwiązany poprawnie.

Zatem pożądana funkcja aproksymująca: – od wszystkie funkcje liniowe To ona najlepiej przybliża dane eksperymentalne.

Inaczej bezpośredni zależności obrotów sklepu od jego powierzchni, znaleziona zależność wynosi odwracać (zasada „im więcej, tym mniej”), a fakt ten jest natychmiast ujawniany przez negatyw nachylenie. Funkcjonować mówi nam, że wraz ze wzrostem pewnego wskaźnika o 1 jednostkę wartość wskaźnika zależnego maleje średnio o 0,65 jednostki. Jak mówią, im wyższa cena gryki, tym mniej się jej sprzedaje.

Aby wykreślić wykres funkcji aproksymującej, znajdujemy jej dwie wartości:

i wykonaj rysunek:

Zbudowana linia prosta nazywa się linia trendu (mianowicie liniowa linia trendu, tj. w ogólnym przypadku trend niekoniecznie jest linią prostą). Każdemu znane jest wyrażenie „być w trendzie” i myślę, że to określenie nie wymaga dodatkowego komentarza.

Obliczmy sumę kwadratów odchyleń pomiędzy wartościami empirycznymi i teoretycznymi. Geometrycznie jest to suma kwadratów długości odcinków „malinowych”. (z czego dwa są tak małe, że nawet ich nie widać).

Podsumujmy obliczenia w tabeli:


Ponownie można to zrobić ręcznie; na wszelki wypadek podam przykład dla pierwszego punktu:

ale o wiele skuteczniej jest zrobić to w znany już sposób:

Powtarzamy jeszcze raz: Jakie jest znaczenie uzyskanego wyniku? Z wszystkie funkcje liniowe funkcja wskaźnik jest najmniejszy, czyli w swojej rodzinie jest najlepszym przybliżeniem. I tutaj, nawiasem mówiąc, ostatnie pytanie problemu nie jest przypadkowe: co by było, gdyby proponowana funkcja wykładnicza czy lepiej byłoby przybliżyć punkty eksperymentalne?

Znajdźmy odpowiednią sumę kwadratów odchyleń - dla rozróżnienia oznaczę je literą „epsilon”. Technika jest dokładnie taka sama:


I znowu, na wszelki wypadek, obliczenia dla 1. punktu:

W Excelu używamy funkcji standardowej DO POTĘGI (składnię można znaleźć w Pomocy programu Excel).

Wniosek: , co oznacza, że funkcja wykładnicza przybliża punkty eksperymentalne gorzej niż linia prosta .

Ale tutaj należy zauważyć, że „gorsze” jest nie znaczy jeszcze, co jest złe. Teraz zbudowałem wykres tej funkcji wykładniczej - i ona również przechodzi blisko punktów - do tego stopnia, że bez badań analitycznych trudno stwierdzić, która funkcja jest dokładniejsza.

Na tym kończy się rozwiązanie i wracam do kwestii naturalnych wartości argumentu. W różnych badaniach, zwykle ekonomicznych lub socjologicznych, naturalne „X” służą do numerowania miesięcy, lat lub innych równych przedziałów czasu. Rozważmy na przykład następujący problem:

Dostępne są następujące dane dotyczące obrotów detalicznych sklepu za pierwsze półrocze:

Korzystając z analitycznego wyrównania liniowego, określ wielkość obrotów za lipiec.

Tak, nie ma problemu: numerujemy miesiące 1, 2, 3, 4, 5, 6 i stosujemy zwykły algorytm, w wyniku którego otrzymujemy równanie - z tą tylko różnicą, że jeśli chodzi o czas, zwykle używają litera „te” (chociaż nie jest to krytyczne). Z otrzymanego równania wynika, że w pierwszym półroczu obroty handlowe wzrosły średnio o 27,74 jednostki. na miesiąc. Poznajmy prognozę na lipiec (miesiąc nr 7): d.e.

A takich zadań jest niezliczona ilość. Chętni mogą skorzystać z dodatkowej usługi, a mianowicie my Kalkulator Excela (wersja demonstracyjna), Który rozwiązuje analizowany problem niemal natychmiast! Dostępna jest działająca wersja programu na wymianie lub za symboliczna opłata.

Na koniec lekcji krótka informacja o wyszukiwaniu zależności niektórych innych typów. Właściwie nie ma wiele do powiedzenia, ponieważ podstawowe podejście i algorytm rozwiązania pozostają takie same.

Załóżmy, że układ punktów doświadczalnych przypomina hiperbolę. Następnie, aby znaleźć współczynniki najlepszej hiperboli, należy znaleźć minimum funkcji - każdy może przeprowadzić szczegółowe obliczenia i dojść do podobnego układu:

Z formalnego technicznego punktu widzenia uzyskuje się go z układu „liniowego”. (oznaczmy to gwiazdką) zastępując „x” przez . No właśnie, a co z kwotami? obliczyć, po czym do optymalnych współczynników „a” i „być” pod ręką.

Jeśli istnieją podstawy, aby sądzić, że punkty znajdują się wzdłuż krzywej logarytmicznej, wówczas aby znaleźć wartości optymalne, znajdujemy minimum funkcji . Formalnie w systemie (*) należy zastąpić:

Wykonując obliczenia w programie Excel, użyj funkcji LN. Przyznam, że stworzenie kalkulatorów dla każdego z rozpatrywanych przypadków nie byłoby dla mnie szczególnie trudne, ale byłoby jeszcze lepiej, gdybyś sam „zaprogramował” obliczenia. Filmy szkoleniowe, które mogą Ci pomóc.

W przypadku zależności wykładniczej sytuacja jest nieco bardziej skomplikowana. Aby sprowadzić sprawę do przypadku liniowego, bierzemy logarytm funkcji i używamy właściwości logarytmu:

Teraz porównując otrzymaną funkcję z funkcją liniową dochodzimy do wniosku, że w systemie (*) należy zastąpić , i – przez . Dla wygody oznaczmy:

Należy pamiętać, że układ jest rozwiązywany ze względu na i dlatego po znalezieniu pierwiastków nie można zapomnieć o znalezieniu samego współczynnika.

Aby przybliżyć punkty doświadczalne optymalna parabola , powinien się znaleźć minimalna funkcja trzech zmiennych . Po wykonaniu standardowych czynności otrzymujemy następujące „działające” system:

Tak, oczywiście, kwot jest tutaj więcej, ale korzystanie z ulubionej aplikacji nie sprawia żadnych trudności. Na koniec powiem Ci, jak szybko sprawdzić w Excelu i zbudować pożądaną linię trendu: utwórz wykres punktowy, wybierz dowolny punkt myszką i kliknij prawym przyciskiem myszy wybierz opcję „Dodaj linię trendu”. Następnie wybierz typ wykresu i na zakładce „Opcje” aktywuj opcję „Pokaż równanie na diagramie”. OK

Jak zawsze chcę zakończyć artykuł jakimś pięknym zwrotem i prawie napisałam „Bądź trendy!” Ale z czasem zmienił zdanie. I nie dlatego, że jest to stereotypowe. Nie wiem jak u kogokolwiek, ale ja nie bardzo chcę podążać za promowanym amerykańskim, a zwłaszcza europejskim trendem =) Dlatego życzę każdemu z Was, aby trzymał się swojej linii!

http://www.grandars.ru/student/vysshaya-matematika/metod-naimenshih-kvadratov.html

Metoda najmniejszych kwadratów jest jedną z najpowszechniejszych i najbardziej rozwiniętych ze względu na swoje możliwości prostota i efektywność metod estymacji parametrów liniowych modeli ekonometrycznych. Jednocześnie przy jego stosowaniu należy zachować pewną ostrożność, gdyż zbudowane przy jego pomocy modele mogą nie spełniać szeregu wymagań co do jakości swoich parametrów i w efekcie nie „dobrze” odzwierciedlać wzorców rozwoju procesów .

Rozważmy bardziej szczegółowo procedurę szacowania parametrów liniowego modelu ekonometrycznego metodą najmniejszych kwadratów. Model taki w ogólności można przedstawić za pomocą równania (1.2):

y t = za 0 + za 1 x 1t +...+ za n x nt + ε t.

Dane początkowe przy estymacji parametrów a 0 , a 1 ,..., a n są wektorem wartości zmiennej zależnej y= (y 1 , y 2 , ... , y T)” i macierz wartości zmiennych niezależnych

w którym pierwsza kolumna składająca się z jedynek odpowiada współczynnikowi modelu.

Metoda najmniejszych kwadratów otrzymała swoją nazwę w oparciu o podstawową zasadę, że otrzymane na jej podstawie estymatory parametrów muszą spełniać: suma kwadratów błędu modelu powinna być minimalna.

Przykłady rozwiązywania problemów metodą najmniejszych kwadratów

Przykład 2.1. Przedsiębiorstwo handlowe posiada sieć 12 sklepów, informacje o działalności przedstawiono w tabeli. 2.1.

Kierownictwo przedsiębiorstwa chciałoby wiedzieć, jak wielkość rocznych obrotów zależy od powierzchni handlowej sklepu.

Tabela 2.1

Numer sklepu Roczny obrót, miliony rubli. Powierzchnia handlowa, tys. m2
19,76 0,24
38,09 0,31
40,95 0,55
41,08 0,48
56,29 0,78
68,51 0,98
75,01 0,94
89,05 1,21
91,13 1,29
91,26 1,12
99,84 1,29
108,55 1,49

Rozwiązanie metodą najmniejszych kwadratów. Oznaczmy roczny obrót sklepu, milion rubli; - powierzchnia handlowa sklepu, tys. m2.

Ryc.2.1. Wykres rozrzutu dla przykładu 2.1

Aby określić postać zależności funkcjonalnej między zmiennymi, skonstruujemy diagram rozrzutu (ryc. 2.1).

Na podstawie diagramu punktowego możemy stwierdzić, że roczny obrót jest dodatnio zależny od powierzchni handlowej (tj. y będzie rosło wraz ze wzrostem). Najbardziej odpowiednią formą połączenia funkcjonalnego jest liniowy.

Informacje do dalszych obliczeń przedstawiono w tabeli. 2.2. Metodą najmniejszych kwadratów szacujemy parametry liniowego jednoczynnikowego modelu ekonometrycznego

Tabela 2.2

T t x 1t tak 2 x 1t 2 x 1t i t
19,76 0,24 390,4576 0,0576 4,7424
38,09 0,31 1450,8481 0,0961 11,8079
40,95 0,55 1676,9025 0,3025 22,5225
41,08 0,48 1687,5664 0,2304 19,7184
56,29 0,78 3168,5641 0,6084 43,9062
68,51 0,98 4693,6201 0,9604 67,1398
75,01 0,94 5626,5001 0,8836 70,5094
89,05 1,21 7929,9025 1,4641 107,7505
91,13 1,29 8304,6769 1,6641 117,5577
91,26 1,12 8328,3876 1,2544 102,2112
99,84 1,29 9968,0256 1,6641 128,7936
108,55 1,49 11783,1025 2,2201 161,7395
S 819,52 10,68 65008,554 11,4058 858,3991
Przeciętny 68,29 0,89

Zatem,

Zatem przy wzroście powierzchni handlowej o 1 tys. m2, przy pozostałych czynnikach niezmienionych, średni roczny obrót wzrasta o 67,8871 mln rubli.

Przykład 2.2. Zarząd firmy zauważył, że roczny obrót zależy nie tylko od powierzchni sprzedażowej sklepu (patrz przykład 2.1), ale także od średniej liczby odwiedzających. Odpowiednie informacje przedstawiono w tabeli. 2.3.

Tabela 2.3

Rozwiązanie. Oznaczmy - średnią liczbę odwiedzających dziennie sklep VI, tys. osób.

Aby określić postać zależności funkcjonalnej między zmiennymi, skonstruujemy diagram rozproszenia (ryc. 2.2).

Na podstawie wykresu rozrzutu możemy stwierdzić, że roczny obrót jest dodatnio zależny od średniej liczby odwiedzających dziennie (tj. y będzie rosło wraz ze wzrostem ). Forma zależności funkcjonalnej jest liniowa.

Ryż. 2.2. Wykres rozrzutu dla przykładu 2.2

Tabela 2.4

T x 2t x 2t 2 y t x 2 t x 1 t x 2 t
8,25 68,0625 163,02 1,98
10,24 104,8575 390,0416 3,1744
9,31 86,6761 381,2445 5,1205
11,01 121,2201 452,2908 5,2848
8,54 72,9316 480,7166 6,6612
7,51 56,4001 514,5101 7,3598
12,36 152,7696 927,1236 11,6184
10,81 116,8561 962,6305 13,0801
9,89 97,8121 901,2757 12,7581
13,72 188,2384 1252,0872 15,3664
12,27 150,5529 1225,0368 15,8283
13,92 193,7664 1511,016 20,7408
S 127,83 1410,44 9160,9934 118,9728
Przeciętny 10,65

Generalnie konieczne jest określenie parametrów dwuczynnikowego modelu ekonometrycznego

y t = za 0 + za 1 x 1 t + za 2 x 2 t + ε t

Informacje potrzebne do dalszych obliczeń przedstawiono w tabeli. 2.4.

Oszacujmy parametry liniowego dwuczynnikowego modelu ekonometrycznego metodą najmniejszych kwadratów.

Zatem,

Oszacowanie współczynnika =61,6583 pokazuje, że przy niezmienionych warunkach, wraz ze wzrostem powierzchni handlowej o 1 tys. m 2, roczny obrót wzrośnie średnio o 61,6583 mln rubli.

Współczynnik szacunkowy = 2,2748 pokazuje, że przy pozostałych czynnikach niezmiennych, przy wzroście średniej liczby odwiedzających na 1 tys. osób. dziennie roczny obrót wzrośnie średnio o 2,2748 mln rubli.

Przykład 2.3. Korzystając z informacji przedstawionych w tabeli. 2.2 i 2.4 oszacuj parametr jednoczynnikowego modelu ekonometrycznego

gdzie jest wyśrodkowana wartość rocznego obrotu sklepu, miliony rubli; - wyśrodkowana wartość średniej dziennej liczby odwiedzających t-ty sklep, tys. osób. (patrz przykłady 2.1-2.2).

Rozwiązanie. Dodatkowe informacje potrzebne do obliczeń przedstawiono w tabeli. 2.5.

Tabela 2.5

-48,53 -2,40 5,7720 116,6013
-30,20 -0,41 0,1702 12,4589
-27,34 -1,34 1,8023 36,7084
-27,21 0,36 0,1278 -9,7288
-12,00 -2,11 4,4627 25,3570
0,22 -3,14 9,8753 -0,6809
6,72 1,71 2,9156 11,4687
20,76 0,16 0,0348 3,2992
22,84 -0,76 0,5814 -17,413
22,97 3,07 9,4096 70,4503
31,55 1,62 2,6163 51,0267
40,26 3,27 10,6766 131,5387
Kwota 48,4344 431,0566

Korzystając ze wzoru (2.35) otrzymujemy

Zatem,

http://www.cleverstudents.ru/articles/mnk.html

Przykład.

Dane eksperymentalne dotyczące wartości zmiennych X I Na podano w tabeli.

W wyniku ich wyrównania uzyskuje się funkcję

Używanie metoda najmniejszych kwadratów, aproksymuj te dane za pomocą zależności liniowej y=topór+b(znajdź parametry A I B). Dowiedz się, która z dwóch linii lepiej (w sensie metody najmniejszych kwadratów) wyrównuje dane eksperymentalne. Zrób rysunek.

Rozwiązanie.

W naszym przykładzie n=5. Wypełniamy tabelę dla wygody obliczenia kwot uwzględnionych we wzorach wymaganych współczynników.

Wartości w czwartym wierszu tabeli uzyskuje się poprzez pomnożenie wartości drugiego wiersza przez wartości trzeciego wiersza dla każdej liczby I.

Wartości w piątym wierszu tabeli uzyskuje się przez podniesienie do kwadratu wartości w drugim wierszu dla każdej liczby I.

Wartości w ostatniej kolumnie tabeli są sumami wartości w wierszach.

Do znalezienia współczynników używamy wzorów metody najmniejszych kwadratów A I B. Podstawiamy do nich odpowiednie wartości z ostatniej kolumny tabeli:

Stąd, y = 0,165x+2,184- żądana przybliżająca linia prosta.

Pozostaje dowiedzieć się, która z linii y = 0,165x+2,184 Lub lepiej przybliża dane oryginalne, czyli szacunki metodą najmniejszych kwadratów.

Dowód.

Tak więc, gdy zostanie znaleziony A I B funkcja przyjmuje najmniejszą wartość, konieczne jest, aby w tym miejscu macierz postaci kwadratowej różniczki drugiego rzędu dla funkcji był dodatnio określony. Pokażmy to.

Różniczka drugiego rzędu ma postać:

To jest

Zatem macierz postaci kwadratowej ma postać

a wartości elementów nie zależą od A I B.

Pokażmy, że macierz jest dodatnio określona. Aby to zrobić, nieletni kątowe muszą być dodatnie.

Moll kątowy pierwszego rzędu . Nierówność jest ścisła, ponieważ punkty

  • Lekcja wprowadzająca za darmo;
  • Duża liczba doświadczonych nauczycieli (rodzimych i rosyjskojęzycznych);
  • Kursy NIE są przeznaczone na konkretny okres (miesiąc, sześć miesięcy, rok), ale na określoną liczbę lekcji (5, 10, 20, 50);
  • Ponad 10 000 zadowolonych klientów.
  • Koszt jednej lekcji z nauczycielem rosyjskojęzycznym wynosi od 600 rubli, z native speakerem - od 1500 rubli

Istotą metody najmniejszych kwadratów jest w znalezieniu parametrów modelu trendu, który najlepiej opisuje tendencję rozwoju dowolnego zjawiska losowego w czasie lub przestrzeni (trend to linia charakteryzująca tendencję tego rozwoju). Zadanie metody najmniejszych kwadratów (LSM) sprowadza się do znalezienia nie tylko jakiegoś modelu trendu, ale znalezienia modelu najlepszego, czyli optymalnego. Model ten będzie optymalny, jeśli suma kwadratów odchyleń pomiędzy obserwowanymi wartościami rzeczywistymi a odpowiadającymi im obliczonymi wartościami trendu będzie minimalna (najmniejsza):

gdzie jest kwadratowym odchyleniem pomiędzy obserwowaną wartością rzeczywistą

i odpowiadająca obliczona wartość trendu,

Rzeczywista (obserwowana) wartość badanego zjawiska,

Obliczona wartość modelu trendu,

Liczba obserwacji badanego zjawiska.

MNC jest używany dość rzadko samodzielnie. Z reguły najczęściej stosuje się ją jedynie jako niezbędną technikę techniczną w badaniach korelacyjnych. Należy pamiętać, że podstawą informacyjną OLS może być jedynie rzetelny szereg statystyczny, a liczba obserwacji nie powinna być mniejsza niż 4, w przeciwnym razie procedury wygładzające OLS mogą stracić zdrowy rozsądek.

Zestaw narzędzi MNC sprowadza się do następujących procedur:

Pierwsza procedura. Okazuje się, czy w ogóle istnieje tendencja do zmiany wynikowego atrybutu w przypadku zmiany wybranego czynnika-argumentu, czyli innymi słowy, czy istnieje związek pomiędzy „ Na " I " X ».

Druga procedura. Określa się, która linia (trajektoria) najlepiej opisuje lub charakteryzuje ten trend.

Trzecia procedura.

Przykład. Załóżmy, że dysponujemy informacją o średnim plonie słonecznika w badanym gospodarstwie (tabela 9.1).

Tabela 9.1

Numer obserwacji

Wydajność, c/ha

Ponieważ poziom technologii produkcji słonecznika w naszym kraju na przestrzeni ostatnich 10 lat praktycznie się nie zmienił, oznacza to, że najwyraźniej wahania plonów w analizowanym okresie były w dużej mierze zależne od wahań warunków pogodowych i klimatycznych. Czy to naprawdę prawda?

Pierwsza procedura OLS. Testowana jest hipoteza o istnieniu trendu zmian plonów słonecznika w zależności od zmian warunków pogodowych i klimatycznych w ciągu analizowanych 10 lat.

W tym przykładzie dla „ y "wskazane jest zbieranie plonów słonecznika i dla" X » – numer roku obserwowanego w analizowanym okresie. Testowanie hipotezy o istnieniu jakiejkolwiek zależności pomiędzy „ X " I " y „można to zrobić na dwa sposoby: ręcznie i za pomocą programów komputerowych. Oczywiście, jeśli masz technologię komputerową, problem ten można rozwiązać sam. Aby jednak lepiej zrozumieć narzędzia MNC, wskazane jest przetestowanie hipotezy o istnieniu związku pomiędzy „ X " I " y » ręcznie, gdy pod ręką jest tylko długopis i zwykły kalkulator. W takich przypadkach hipotezę o istnieniu trendu najlepiej sprawdzić wizualnie poprzez lokalizację obrazu graficznego analizowanego szeregu dynamiki – pola korelacji:

Pole korelacji w naszym przykładzie jest umiejscowione wokół wolno rosnącej linii. To samo w sobie wskazuje na istnienie pewnego trendu w zmianach plonów słonecznika. O występowaniu jakiejkolwiek tendencji nie można mówić tylko wtedy, gdy pole korelacji ma postać koła, koła, chmury ściśle pionowej lub ściśle poziomej, albo składa się z chaotycznie rozproszonych punktów. We wszystkich pozostałych przypadkach hipoteza o istnieniu związku pomiędzy „ X " I " y " i kontynuuj badania.

Druga procedura OLS. Określa się, która linia (trajektoria) najlepiej opisuje lub charakteryzuje trend zmian plonu słonecznika w analizowanym okresie.

Jeśli dysponujesz technologią komputerową, wybór optymalnego trendu następuje automatycznie. W przetwarzaniu „ręcznym” wybór optymalnej funkcji odbywa się z reguły wizualnie - poprzez lokalizację pola korelacji. Oznacza to, że w zależności od rodzaju wykresu wybierane jest równanie prostej, która najlepiej pasuje do trendu empirycznego (rzeczywistej trajektorii).

Jak wiadomo, w przyrodzie istnieje ogromna różnorodność zależności funkcjonalnych, dlatego niezwykle trudno jest wizualnie przeanalizować nawet niewielką ich część. Na szczęście w rzeczywistej praktyce gospodarczej większość zależności można dość dokładnie opisać za pomocą paraboli, hiperboli lub linii prostej. Pod tym względem dzięki „ręcznej” opcji wyboru najlepszej funkcji można ograniczyć się tylko do tych trzech modeli.

Hiperbola:

Parabola drugiego rzędu: :

Łatwo zauważyć, że w naszym przykładzie trend zmian plonów słonecznika na przestrzeni analizowanych 10 lat najlepiej charakteryzuje się linią prostą, zatem równanie regresji będzie równaniem linii prostej.

Trzecia procedura. Obliczane są parametry równania regresji charakteryzujące tę prostą, czyli innymi słowy wyznaczany jest wzór analityczny opisujący najlepszy model trendu.

Znalezienie wartości parametrów równania regresji, w naszym przypadku parametrów i , jest podstawą OLS. Proces ten sprowadza się do rozwiązania układu równań normalnych.

(9.2)

Ten układ równań można dość łatwo rozwiązać metodą Gaussa. Przypomnijmy, że w wyniku rozwiązania w naszym przykładzie zostają znalezione wartości parametrów i. Zatem znalezione równanie regresji będzie miało następującą postać:

Jest szeroko stosowana w ekonometrii w postaci jasnej interpretacji ekonomicznej jej parametrów.

Regresja liniowa sprowadza się do znalezienia równania postaci

Lub

Równanie postaci pozwala na podstawie określonych wartości parametrów X mają teoretyczne wartości wynikowej charakterystyki, zastępując w niej rzeczywiste wartości współczynnika X.

Konstrukcja regresji liniowej sprowadza się do oszacowania jej parametrów - A I V. Oszacowania parametrów regresji liniowej można znaleźć różnymi metodami.

Klasyczne podejście do szacowania parametrów regresji liniowej opiera się na metoda najmniejszych kwadratów(MNC).

Metoda najmniejszych kwadratów pozwala na otrzymanie takich estymatorów parametrów A I V, przy czym suma kwadratów odchyleń rzeczywistych wartości wynikowej charakterystyki (y) z obliczonego (teoretycznego) minimum:

Aby znaleźć minimum funkcji, należy obliczyć pochodne cząstkowe każdego z parametrów A I B i ustaw je na zero.

Oznaczmy przez S, zatem:

Przekształcając wzór, otrzymujemy następujący układ równań normalnych do szacowania parametrów A I V:

Rozwiązując układ równań normalnych (3.5) metodą sekwencyjnej eliminacji zmiennych lub metodą wyznaczników, znajdujemy wymagane oszacowania parametrów A I V.

Parametr V zwany współczynnikiem regresji. Jego wartość pokazuje średnią zmianę wyniku przy zmianie współczynnika o jedną jednostkę.

Równanie regresji jest zawsze uzupełniane wskaźnikiem bliskości połączenia. W przypadku stosowania regresji liniowej takim wskaźnikiem jest współczynnik korelacji liniowej. Istnieją różne modyfikacje wzoru na współczynnik korelacji liniowej. Niektóre z nich podano poniżej:

Jak wiadomo, współczynnik korelacji liniowej mieści się w granicach: -1 ≤ ≤ 1.

Aby ocenić jakość wyboru funkcji liniowej, oblicza się kwadrat

Liniowy współczynnik korelacji tzw współczynnik determinacji. Współczynnik determinacji charakteryzuje proporcję wariancji wynikowej cechy y, wyjaśnione przez regresję całkowitej wariancji wynikowej cechy:

Zatem wartość 1 charakteryzuje udział wariancji y, spowodowane wpływem innych czynników nieuwzględnionych w modelu.

Pytania do samokontroli

1. Istota metody najmniejszych kwadratów?

2. Ile zmiennych dostarcza regresja parami?

3. Jaki współczynnik decyduje o bliskości powiązania pomiędzy zmianami?

4. W jakich granicach wyznacza się współczynnik determinacji?

5. Estymacja parametru b w analizie korelacji-regresji?

1. Christopher Dougherty. Wprowadzenie do ekonometrii. - M.: INFRA - M, 2001 - 402 s.

2. SA Borodich. Ekonometria. Mińsk LLC „Nowa wiedza” 2001.


3. RU Rachmetowa Krótki kurs ekonometrii. Przewodnik po studiach. Ałmaty. 2004. -78p.

4. I.I. Eliseeva. Ekonometria. - M.: „Finanse i statystyka”, 2002

5. Miesięcznik informacyjno-analityczny.

Nieliniowe modele ekonomiczne. Modele regresji nieliniowej. Transformacja zmiennych.

>

Nieliniowe modele ekonomiczne..

Transformacja zmiennych.

Współczynnik elastyczności.

Jeśli istnieją nieliniowe zależności między zjawiskami gospodarczymi, wówczas wyraża się je za pomocą odpowiednich funkcji nieliniowych: na przykład hiperbola równoboczna , parabole drugiego stopnia itp.

Istnieją dwie klasy regresji nieliniowych

>

1. Regresje nieliniowe w stosunku do zmiennych objaśniających uwzględnionych w analizie, ale liniowe w stosunku do oszacowanych parametrów, np.:

Wielomiany różnych stopni - , ;

Hiperbola równoboczna - ;

Funkcja semilogarytmiczna - .

2. Regresje, które są nieliniowe w szacowanych parametrach, na przykład:

Moc - ;

Demonstracyjne - ;

Wykładniczy - .

Całkowita suma kwadratów odchyleń poszczególnych wartości wynikowej charakterystyki Na od średniej wartości jest spowodowane wpływem wielu przyczyn. Warunkowo podzielmy cały zestaw powodów na dwie grupy: badany czynnik x I inne czynniki.

Jeśli czynnik nie ma wpływu na wynik, wówczas linia regresji na wykresie jest równoległa do osi Oh I

Wtedy cała wariancja wynikowej charakterystyki wynika z wpływu innych czynników, a całkowita suma kwadratów odchyleń będzie pokrywać się z resztą. Jeśli inne czynniki nie wpływają na wynik, to jesteś związany Z X funkcjonalnie, a reszta suma kwadratów wynosi zero. W tym przypadku suma kwadratów odchyleń wyjaśniona regresją jest taka sama, jak całkowita suma kwadratów.

Ponieważ nie wszystkie punkty pola korelacji leżą na linii regresji, ich rozproszenie zawsze następuje w wyniku wpływu czynnika X, czyli regresja Na Przez X, i spowodowane innymi przyczynami (niewyjaśniona zmienność). Przydatność linii regresji do prognozowania zależy od tego, jaka część całkowitej zmienności cechy Na wyjaśnia wyjaśnioną zmienność

Oczywiście, jeśli suma kwadratów odchyleń spowodowanych regresją jest większa niż suma kwadratów reszt, to równanie regresji jest istotne statystycznie i współczynnik X ma istotny wpływ na wynik ty

, tj. z liczbą swobody niezależnych zmian cechy. Liczba stopni swobody jest powiązana z liczbą jednostek populacji n i liczbą wyznaczonych z niej stałych. W odniesieniu do badanego problemu liczba stopni swobody powinna wskazywać, od ilu niezależnych odchyleń N

Ocenę znaczenia równania regresji jako całości podano za pomocą F-Kryterium Fishera. W tym przypadku stawia się hipotezę zerową, że współczynnik regresji jest równy zeru, tj. b = 0, a zatem współczynnik X nie ma wpływu na wynik ty

Natychmiastowe obliczenie testu F poprzedzone jest analizą wariancji. Centralne miejsce w nim zajmuje rozkład całkowitej sumy kwadratów odchyleń zmiennej Na od wartości średniej Na na dwie części – „wyjaśnioną” i „niewyjaśnioną”:

Całkowita suma kwadratów odchyleń;

Suma kwadratów odchylenia wyjaśniona regresją;

Resztkowa suma kwadratów odchyleń.

Dowolna suma kwadratów odchyleń jest powiązana z liczbą stopni swobody , tj. z liczbą swobody niezależnych zmian cechy. Liczba stopni swobody jest powiązana z liczbą jednostek populacji N i z wyznaczoną na tej podstawie liczbą stałych. W odniesieniu do badanego problemu liczba stopni swobody powinna wskazywać, od ilu niezależnych odchyleń N wymagane do utworzenia danej sumy kwadratów.

Dyspersja na stopień swobodyD.

Współczynniki F (test F):

Jeśli hipoteza zerowa jest prawdziwa, to wariancja czynnikowa i resztowa nie różnią się od siebie. W przypadku H 0 konieczne jest obalenie, aby dyspersja współczynników kilkakrotnie przekraczała dyspersję resztkową. Angielski statystyk Snedekor opracował tablice wartości krytycznych F-zależności na różnych poziomach istotności hipotezy zerowej i różnych liczbach stopni swobody. Wartość tabeli F-kryterium to maksymalna wartość stosunku wariancji, jaka może wystąpić w przypadku rozbieżności losowej dla danego poziomu prawdopodobieństwa wystąpienia hipotezy zerowej. Obliczona wartość F-relacje uważa się za wiarygodne, jeśli o jest większe niż w tabeli.

W tym przypadku hipoteza zerowa o braku związku między znakami zostaje odrzucona i wyciągany jest wniosek na temat znaczenia tego związku: Fakt F > tabela F H0 zostaje odrzucony.

Jeśli wartość jest mniejsza niż w tabeli Fakt F ‹, tabela F, to prawdopodobieństwo hipotezy zerowej jest wyższe od określonego poziomu i nie można jej odrzucić bez poważnego ryzyka wyciągnięcia błędnego wniosku o istnieniu związku. W tym przypadku równanie regresji uważa się za nieistotne statystycznie. Ale on nie odbiega.

Błąd standardowy współczynnika regresji

Aby ocenić istotność współczynnika regresji, porównuje się jego wartość z błędem standardowym, czyli wyznacza się wartość rzeczywistą T-Test t-Studenta: który następnie porównuje się z wartością z tabeli przy określonym poziomie istotności i liczbie stopni swobody ( N- 2).

Standardowy błąd parametru A:

Istotność współczynnika korelacji liniowej sprawdza się na podstawie wielkości błędu współczynnik korelacji t r:

Całkowita wariancja cechy X:

Wielokrotna regresja liniowa

Budowa modelu

Regresja wielokrotna reprezentuje regresję efektywnej cechy z dwoma lub więcej czynnikami, tj. modelem postaci

Regresja może dać dobre wyniki w modelowaniu, jeśli pominąć wpływ innych czynników wpływających na przedmiot badań. Zachowania poszczególnych zmiennych ekonomicznych nie da się kontrolować, tzn. nie da się zapewnić równości wszystkich pozostałych warunków oceny wpływu jednego badanego czynnika. W takim przypadku należy spróbować zidentyfikować wpływ innych czynników, wprowadzając je do modelu, czyli skonstruować równanie regresji wielokrotnej: y = a+b 1 x 1 +b 2 +…+b p x p + .

Głównym celem regresji wielokrotnej jest zbudowanie modelu z dużą liczbą czynników, przy jednoczesnym określeniu wpływu każdego z nich z osobna, a także ich łącznego wpływu na modelowany wskaźnik. Specyfikacja modelu obejmuje dwa zakresy zagadnień: dobór czynników oraz wybór rodzaju równania regresji

© 2024 hozferma.vip - Katalog ogrodników. Łóżka, architektura krajobrazu, rolnictwo pomocnicze