Što nalazi najširu primjenu u raznim područjima znanosti i praktične djelatnosti. To može biti fizika, kemija, biologija, ekonomija, sociologija, psihologija i tako dalje, tako dalje. Voljom sudbine, često se moram baviti gospodarstvom, pa ću vam danas organizirati putovanje u nevjerojatnu zemlju zvanu Ekonometrija=) ...Kako ne želiš?! Tamo je jako dobro - samo se trebate odlučiti! ...Ali ono što vjerojatno sigurno želite je naučiti kako rješavati probleme metoda najmanjih kvadrata. A posebno marljivi čitatelji naučit će ih riješiti ne samo točno, već i VRLO BRZO ;-) Ali prvo opća izjava problema+ popratni primjer:
Pretpostavimo da se u nekom predmetnom području proučavaju pokazatelji koji imaju kvantitativni izraz. U isto vrijeme, postoji svaki razlog za vjerovanje da pokazatelj ovisi o pokazatelju. Ova pretpostavka može biti ili znanstvena hipoteza ili temeljena na osnovnom zdravom razumu. Ostavimo, međutim, znanost po strani i istražimo ukusnija područja – naime, trgovine mješovitom robom. Označimo sa:
– maloprodajna površina trgovine mješovitom robom, m2,
– godišnji promet trgovine mješovitom robom, milijun rubalja.
Sasvim je jasno da što je trgovina veća, to će u većini slučajeva biti veći njen promet.
Pretpostavimo da nakon promatranja/pokusa/izračunavanja/plesa uz tamburu imamo na raspolaganju brojčane podatke: 
Sa trgovinama mješovitom robom mislim da je sve jasno: - ovo je površina 1. trgovine, - njen godišnji promet, - površina 2. trgovine, - njen godišnji promet itd. Usput, uopće nije potrebno imati pristup povjerljivim materijalima - prilično točna procjena trgovinskog prometa može se dobiti pomoću matematička statistika. No, nemojmo se ometati, tečaj komercijalne špijunaže već je plaćen =)
Tablični podaci također se mogu napisati u obliku točaka i prikazati u poznatom obliku Kartezijanski sustav .
Odgovorimo na važno pitanje: Koliko bodova je potrebno za kvalitetan studij?
Što više to bolje. Minimalni prihvatljivi set sastoji se od 5-6 bodova. Osim toga, kada je količina podataka mala, "anomalni" rezultati se ne mogu uključiti u uzorak. Tako, na primjer, mala elitna trgovina može zaraditi redove veličine više od "svojih kolega", čime se iskrivljuje opći obrazac koji trebate pronaći!
Vrlo jednostavno rečeno, moramo odabrati funkciju, raspored koja prolazi što bliže točkama 
. Ova funkcija se zove aproksimirajući
(aproksimacija - aproksimacija) ili teorijska funkcija
. Općenito govoreći, ovdje se odmah pojavljuje očiti "natjecatelj" - polinom visokog stupnja, čiji graf prolazi kroz SVE točke. Ali ova je opcija komplicirana i često jednostavno netočna. (budući da će se grafikon cijelo vrijeme "petljati" i slabo odražavati glavni trend).
Dakle, tražena funkcija mora biti vrlo jednostavna i istovremeno adekvatno odražavati ovisnost. Kao što možete pogoditi, jedna od metoda za pronalaženje takvih funkcija je poziv metoda najmanjih kvadrata. Prvo, pogledajmo njegovu bit općenito. Neka neka funkcija aproksimira eksperimentalne podatke: 
Kako procijeniti točnost ove aproksimacije? Izračunajmo i razlike (odstupanja) između eksperimentalnih i funkcionalnih vrijednosti (proučavamo crtež). Prva pomisao koja nam pada na pamet je procijeniti koliki je zbroj, no problem je što razlike mogu biti negativne (Na primjer, 
)
a odstupanja kao rezultat takvog zbrajanja međusobno će se poništiti. Stoga, kao procjenu točnosti aproksimacije, moli se uzeti zbroj moduli odstupanja:
ili sažeto: (u slučaju da netko ne zna: – ovo je ikona zbroja, i – pomoćna varijabla “brojača”, koja ima vrijednosti od 1 do ).
Aproksimacijom eksperimentalnih točaka s različitim funkcijama dobit ćemo različite vrijednosti, a očito, gdje je taj zbroj manji, ta je funkcija točnija.
Takva metoda postoji i zove se metoda najmanjeg modula. Međutim, u praksi je postalo mnogo raširenije metoda najmanjih kvadrata, u kojem se moguće negativne vrijednosti eliminiraju ne modulom, već kvadratiranjem odstupanja:
, nakon čega se pokušava odabrati takva funkcija da je zbroj kvadrata odstupanja 
bila što manja. Zapravo, odatle dolazi naziv metode.
A sada se vraćamo na još jednu važnu točku: kao što je gore navedeno, odabrana funkcija bi trebala biti prilično jednostavna - ali postoji i mnogo takvih funkcija: linearni , hiperboličan, eksponencijalni, logaritamski, kvadratni itd. I, naravno, ovdje bih odmah želio "smanjiti polje djelovanja". Koju klasu funkcija trebam odabrati za istraživanje? Primitivna, ali učinkovita tehnika:
– Najlakše je prikazati bodove 
na crtežu i analizirati njihov položaj. Ako imaju tendenciju da trče u ravnoj liniji, onda biste trebali tražiti jednadžba pravca 
s optimalnim vrijednostima i . Drugim riječima, zadatak je pronaći TAKVE koeficijente da zbroj kvadrata odstupanja bude najmanji.
Ako se točke nalaze, na primjer, duž hiperbola, onda je očito jasno da će linearna funkcija dati lošu aproksimaciju. U ovom slučaju tražimo "najpovoljnije" koeficijente za jednadžbu hiperbole 
– one koje daju minimalni zbroj kvadrata 
.
Sada imajte na umu da u oba slučaja govorimo o funkcije dviju varijabli, čiji su argumenti traženi parametri ovisnosti:
I u biti trebamo riješiti standardni problem - pronaći minimalna funkcija dviju varijabli.
Sjetimo se našeg primjera: pretpostavimo da su točke "pohrane" obično smještene u ravnoj liniji i postoji svaki razlog za vjerovanje prisutnosti linearna ovisnost promet od prodajnog prostora. Nađimo TAKVE koeficijente “a” i “be” takve da zbroj kvadrata odstupanja 
bio najmanji. Sve je kao i obično - prvo Parcijalne derivacije 1. reda. Prema pravilo linearnosti Možete razlikovati odmah ispod ikone zbroja: 
Ako želite koristiti ove informacije za esej ili seminarski rad, bit ću vam vrlo zahvalan za poveznicu na popisu izvora, tako ćete detaljne izračune pronaći na nekoliko mjesta: 
Kreirajmo standardni sustav: 
Svaku jednadžbu smanjujemo za "dva" i dodatno "rastavljamo" zbrojeve: 
Bilješka
: samostalno analizirati zašto se “a” i “be” mogu izbaciti izvan ikone zbroja. Usput, formalno se to može učiniti sa zbrojem
Prepišimo sustav u "primijenjenom" obliku: 
nakon čega se počinje pojavljivati algoritam za rješavanje našeg problema:
Znamo li koordinate točaka? mi znamo Iznosi 
možemo li ga pronaći? Lako. Napravimo najjednostavnije sustav dviju linearnih jednadžbi s dvije nepoznanice("a" i "biti"). Sustav rješavamo npr. Cramerova metoda, uslijed čega dobivamo stacionarnu točku. Provjeravanje dovoljan uvjet za ekstrem, možemo potvrditi da je u ovom trenutku funkcija 
doseže točno minimum. Provjera uključuje dodatne izračune i stoga ćemo je ostaviti iza scene (po potrebi se može vidjeti okvir koji nedostaje). Izvodimo konačni zaključak:
Funkcija 
na najbolji mogući način (barem u usporedbi s bilo kojom drugom linearnom funkcijom) približava eksperimentalne točke 
. Grubo govoreći, njegov graf prolazi što je moguće bliže tim točkama. U tradiciji ekonometrija naziva se i rezultirajuća aproksimirajuća funkcija jednadžba uparene linearne regresije
.
Problem koji se razmatra je od velike praktične važnosti. U našoj primjernoj situaciji, jednadžba 
omogućuje vam da predvidite koji trgovinski promet ("Igrek") trgovina će imati jednu ili drugu vrijednost prodajnog prostora (jedno ili ono značenje "x"). Da, rezultirajuća prognoza bit će samo prognoza, ali će se u mnogim slučajevima pokazati prilično točnom.
Analizirat ću samo jedan problem s "pravim" brojevima, jer u njemu nema poteškoća - svi izračuni su na razini školskog programa za 7.-8. U 95 posto slučajeva od vas će se tražiti da pronađete samo linearnu funkciju, no na samom kraju članka pokazat ću da nije ništa teže pronaći jednadžbe optimalne hiperbole, eksponencijalne i nekih drugih funkcija.
Zapravo, sve što ostaje je podijeliti obećane dobrote - kako biste naučili rješavati takve primjere ne samo točno, već i brzo. Pažljivo proučavamo standard:
Zadatak
Kao rezultat proučavanja odnosa između dva pokazatelja, dobiveni su sljedeći parovi brojeva: 
Koristeći metodu najmanjih kvadrata, pronađite linearnu funkciju koja najbolje aproksimira empirijsku (iskusan) podaci. Napravite crtež na kojem ćete konstruirati eksperimentalne točke i graf aproksimacijske funkcije u kartezijskom pravokutnom koordinatnom sustavu 
. Pronađite zbroj kvadrata odstupanja između empirijskih i teoretskih vrijednosti. Saznajte bi li značajka bila bolja (sa stajališta metode najmanjih kvadrata) približiti eksperimentalne točke.
Imajte na umu da su značenja "x" prirodna, a ovo ima karakteristično smisleno značenje, o kojem ću govoriti malo kasnije; ali oni, naravno, mogu biti i frakcijski. Osim toga, ovisno o sadržaju određenog zadatka, i vrijednosti "X" i "igra" mogu biti potpuno ili djelomično negativne. Pa, dobili smo “bezlični” zadatak i počinjemo ga otopina:
Koeficijente optimalne funkcije nalazimo kao rješenje sustava: 
Radi kompaktnijeg bilježenja varijablu “brojač” možemo izostaviti jer je već jasno da se zbrajanje provodi od 1 do .
Pogodnije je izračunati potrebne količine u tabličnom obliku: 
Izračuni se mogu provesti na mikrokalkulatoru, ali mnogo je bolje koristiti Excel - i brže i bez pogrešaka; pogledajte kratki video:
Dakle, dobivamo sljedeće sustav:
Ovdje možete pomnožiti drugu jednadžbu s 3 i oduzmite 2. od 1. jednadžbe član po član. Ali to je sreća - u praksi sustavi često nisu dar, au takvim slučajevima štedi Cramerova metoda:
, što znači da sustav ima jedinstveno rješenje.
Provjerimo. Razumijem da ne želite, ali zašto preskakati pogreške tamo gdje ih se apsolutno ne može propustiti? Zamijenimo pronađeno rješenje u lijevu stranu svake jednadžbe sustava:
Dobivene su desne strane odgovarajućih jednadžbi, što znači da je sustav ispravno riješen.
Dakle, željena aproksimativna funkcija: – od sve linearne funkcije Ona je ta koja najbolje približava eksperimentalne podatke.
Za razliku od izravni
ovisnost prometa trgovine o njezinoj površini, utvrđena ovisnost je obrnuti
(princip “što više, to manje”), a tu činjenicu odmah otkriva negativ nagib. Funkcija 
govori nam da se povećanjem određenog pokazatelja za 1 jedinicu smanjuje vrijednost ovisnog pokazatelja u prosjeku za 0,65 jedinica. Kako kažu, što je cijena heljde veća, to se manje prodaje.
Da bismo nacrtali funkciju aproksimacije, pronađimo njezine dvije vrijednosti:
i izvršite crtež: 
Konstruirana pravac zove se linija trenda
(naime, linearna linija trenda, tj. u općem slučaju, trend nije nužno ravna linija). Svima je poznat izraz “biti u trendu” i mislim da ovaj termin ne treba dodatno komentirati.
Izračunajmo zbroj kvadrata odstupanja 
između empirijskih i teorijskih vrijednosti. Geometrijski, to je zbroj kvadrata duljina segmenata "maline". (dva su toliko mala da se i ne vide).
Sažmimo izračune u tablicu: 
Opet, mogu se napraviti ručno, za svaki slučaj, dat ću primjer za 1. točku: 
ali puno je učinkovitije to učiniti na već poznati način:
Još jednom ponavljamo: Koje je značenje dobivenog rezultata? Iz sve linearne funkcije y funkcija 
indikator je najmanji, odnosno u svojoj obitelji najbolja je aproksimacija. I ovdje, usput, posljednje pitanje problema nije slučajno: što ako je predložena eksponencijalna funkcija 
bi li bilo bolje približiti eksperimentalne točke?
Nađimo odgovarajući zbroj kvadrata odstupanja - da ih razlikujemo, označit ću ih slovom "epsilon". Tehnika je potpuno ista: 
I opet, za svaki slučaj, izračuni za 1. točku: 
U Excelu koristimo standardnu funkciju EXP (sintaksu možete pronaći u Excel pomoći).
Zaključak: , što znači da eksponencijalna funkcija lošije aproksimira eksperimentalne točke nego ravna linija 
.
Ali ovdje treba napomenuti da je "gore". ne znači još, što je loše. Sada sam napravio graf ove eksponencijalne funkcije - i on također prolazi blizu točaka 
- toliko da je bez analitičkog istraživanja teško reći koja je funkcija točnija.
Time završavam rješenje i vraćam se na pitanje prirodnih vrijednosti argumenta. U raznim studijama, obično ekonomskim ili sociološkim, prirodni "X" koriste se za numeriranje mjeseci, godina ili drugih jednakih vremenskih intervala. Razmotrimo, na primjer, sljedeći problem.
Primjer.
Eksperimentalni podaci o vrijednostima varijabli X I na dati su u tablici. 
Kao rezultat njihovog poravnanja dobiva se funkcija 
Korištenje metoda najmanjih kvadrata, te podatke aproksimirajte linearnom ovisnošću y=ax+b(pronađi parametre A I b). Utvrdite koja od dvije linije bolje (u smislu metode najmanjih kvadrata) usklađuje eksperimentalne podatke. Napravite crtež.
Suština metode najmanjih kvadrata (LSM).
Zadatak je pronaći koeficijente linearne ovisnosti pri kojima je funkcija dviju varijabli A I b 
uzima najmanju vrijednost. Odnosno dano A I b zbroj kvadrata odstupanja eksperimentalnih podataka od nađene ravne linije bit će najmanji. Ovo je cijela poanta metode najmanjih kvadrata.
Dakle, rješavanje primjera se svodi na pronalaženje ekstrema funkcije dviju varijabli.
Izvođenje formula za određivanje koeficijenata.
Sastavlja se i rješava sustav dviju jednadžbi s dvije nepoznanice. Određivanje parcijalnih izvoda funkcije po varijablama A I b, te izvodnice izjednačujemo s nulom. 
Dobiveni sustav jednadžbi rješavamo bilo kojom metodom (npr metodom supstitucije ili ) i dobiti formule za pronalaženje koeficijenata pomoću metode najmanjih kvadrata (LSM). 
S obzirom A I b funkcija uzima najmanju vrijednost. Dokaz ove činjenice je dan.
To je cijela metoda najmanjih kvadrata. Formula za pronalaženje parametra a sadrži zbrojeve , , , i parametar n- količina eksperimentalnih podataka. Preporučujemo da se vrijednosti ovih iznosa izračunaju zasebno. Koeficijent b pronađeno nakon proračuna a.
Vrijeme je da se prisjetimo izvornog primjera.
Otopina.
U našem primjeru n=5. Ispunjavamo tablicu radi lakšeg izračunavanja iznosa koji su uključeni u formule potrebnih koeficijenata. 
Vrijednosti u četvrtom retku tablice dobivene su množenjem vrijednosti 2. retka s vrijednostima 3. retka za svaki broj. ja.
Vrijednosti u petom retku tablice dobivene su kvadriranjem vrijednosti u 2. retku za svaki broj ja.
Vrijednosti u posljednjem stupcu tablice su zbrojevi vrijednosti u redovima.
Za pronalaženje koeficijenata koristimo se formulama metode najmanjih kvadrata A I b. Zamjenjujemo odgovarajuće vrijednosti iz posljednjeg stupca tablice u njih: 
Stoga, y = 0,165x+2,184- željena aproksimativna ravna linija.
Ostaje otkriti koji od redaka y = 0,165x+2,184 ili bolje aproksimira izvorne podatke, odnosno daje procjenu metodom najmanjih kvadrata.
Procjena pogreške metode najmanjih kvadrata.
Da biste to učinili, morate izračunati zbroj kvadrata odstupanja izvornih podataka od ovih redaka 
I 
, manja vrijednost odgovara liniji koja bolje aproksimira izvorne podatke u smislu metode najmanjih kvadrata. 
Od , zatim ravno y = 0,165x+2,184 bolje približava izvorne podatke.
Grafički prikaz metode najmanjih kvadrata (LS).
Na grafikonima se sve jasno vidi. Crvena linija je pronađena ravna linija y = 0,165x+2,184, plava linija je , ružičaste točkice su izvorni podaci.
Zašto je to potrebno, čemu sve te aproksimacije?
Osobno ga koristim za rješavanje problema izglađivanja podataka, problema interpolacije i ekstrapolacije (u izvornom primjeru od njih se moglo tražiti da pronađu vrijednost promatrane vrijednosti g na x=3 ili kada x=6 koristeći metodu najmanjih kvadrata). Ali o tome ćemo više govoriti kasnije u drugom odjeljku stranice.
Dokaz.
Tako da kada se nađe A I b funkcija poprima najmanju vrijednost, potrebno je da u tom trenutku matrica kvadratnog oblika diferencijala drugog reda za funkciju bio pozitivno određen. Pokažimo to.
Diferencijal drugog reda ima oblik: 
To jest
Prema tome, matrica kvadratnog oblika ima oblik 
a vrijednosti elemenata ne ovise o A I b.
Pokažimo da je matrica pozitivno određena. Da biste to učinili, kutni minori moraju biti pozitivni.
Minor kuta prvog reda 
. Nejednakost je stroga jer se točke ne poklapaju. U nastavku ćemo to implicirati.
Kutni minor drugog reda 
Dokažimo to 
metodom matematičke indukcije.
Zaključak: pronađene vrijednosti A I b odgovaraju najmanjoj vrijednosti funkcije , stoga su potrebni parametri za metodu najmanjih kvadrata.
Metoda najmanjih kvadrata
U završnoj lekciji teme upoznat ćemo se s najpoznatijom primjenom FNP, koji nalazi najširu primjenu u raznim područjima znanosti i praktične djelatnosti. To može biti fizika, kemija, biologija, ekonomija, sociologija, psihologija i tako dalje, tako dalje. Voljom sudbine, često se moram baviti gospodarstvom, pa ću vam danas organizirati putovanje u nevjerojatnu zemlju zvanu Ekonometrija=) ...Kako ne želiš?! Tamo je jako dobro - samo se trebate odlučiti! ...Ali ono što vjerojatno sigurno želite je naučiti kako rješavati probleme metoda najmanjih kvadrata. A posebno marljivi čitatelji naučit će ih riješiti ne samo točno, već i VRLO BRZO ;-) Ali prvo opća izjava problema+ popratni primjer:
Pretpostavimo da se u nekom predmetnom području proučavaju pokazatelji koji imaju kvantitativni izraz. U isto vrijeme, postoji svaki razlog za vjerovanje da pokazatelj ovisi o pokazatelju. Ova pretpostavka može biti ili znanstvena hipoteza ili temeljena na osnovnom zdravom razumu. Ostavimo, međutim, znanost po strani i istražimo ukusnija područja – naime, trgovine mješovitom robom. Označimo sa:
– maloprodajna površina trgovine mješovitom robom, m2,
– godišnji promet trgovine mješovitom robom, milijun rubalja.
Sasvim je jasno da što je trgovina veća, to će u većini slučajeva biti veći njen promet.
Pretpostavimo da nakon promatranja/pokusa/izračunavanja/plesa uz tamburu imamo na raspolaganju brojčane podatke: 
Sa trgovinama mješovitom robom mislim da je sve jasno: - ovo je površina 1. trgovine, - njen godišnji promet, - površina 2. trgovine, - njen godišnji promet itd. Usput, uopće nije potrebno imati pristup povjerljivim materijalima - prilično točna procjena trgovinskog prometa može se dobiti pomoću matematička statistika. No, nemojmo se ometati, tečaj komercijalne špijunaže već je plaćen =)
Tablični podaci također se mogu napisati u obliku točaka i prikazati u poznatom obliku Kartezijanski sustav .
Odgovorimo na važno pitanje: Koliko bodova je potrebno za kvalitetan studij?
Što više to bolje. Minimalni prihvatljivi set sastoji se od 5-6 bodova. Osim toga, kada je količina podataka mala, "anomalni" rezultati se ne mogu uključiti u uzorak. Tako, na primjer, mala elitna trgovina može zaraditi redove veličine više od "svojih kolega", čime se iskrivljuje opći obrazac koji trebate pronaći!
Vrlo jednostavno rečeno, moramo odabrati funkciju, raspored koja prolazi što bliže točkama 
. Ova funkcija se zove aproksimirajući
(aproksimacija - aproksimacija) ili teorijska funkcija
. Općenito govoreći, ovdje se odmah pojavljuje očiti "natjecatelj" - polinom visokog stupnja, čiji graf prolazi kroz SVE točke. Ali ova je opcija komplicirana i često jednostavno netočna. (budući da će se grafikon cijelo vrijeme "petljati" i slabo odražavati glavni trend).
Dakle, tražena funkcija mora biti vrlo jednostavna i istovremeno adekvatno odražavati ovisnost. Kao što možete pogoditi, jedna od metoda za pronalaženje takvih funkcija je poziv metoda najmanjih kvadrata. Prvo, pogledajmo njegovu bit općenito. Neka neka funkcija aproksimira eksperimentalne podatke: 
Kako procijeniti točnost ove aproksimacije? Izračunajmo i razlike (odstupanja) između eksperimentalnih i funkcionalnih vrijednosti (proučavamo crtež). Prva pomisao koja nam pada na pamet je procijeniti koliki je zbroj, no problem je što razlike mogu biti negativne (Na primjer, 
)
a odstupanja kao rezultat takvog zbrajanja međusobno će se poništiti. Stoga, kao procjenu točnosti aproksimacije, moli se uzeti zbroj moduli odstupanja:
ili sažeto: (ako netko ne zna:
je ikona zbroja i
– pomoćna “brojačka” varijabla, koja uzima vrijednosti od 1 do
)
.
Aproksimacijom eksperimentalnih točaka s različitim funkcijama dobit ćemo različite vrijednosti, a očito, gdje je taj zbroj manji, ta je funkcija točnija.
Takva metoda postoji i zove se metoda najmanjeg modula. Međutim, u praksi je postalo mnogo raširenije metoda najmanjih kvadrata, u kojem se moguće negativne vrijednosti eliminiraju ne modulom, već kvadratiranjem odstupanja:
, nakon čega se pokušava odabrati takva funkcija da je zbroj kvadrata odstupanja 
bila što manja. Zapravo, odatle dolazi naziv metode.
A sada se vraćamo na još jednu važnu točku: kao što je gore navedeno, odabrana funkcija bi trebala biti prilično jednostavna - ali postoji i mnogo takvih funkcija: linearni , hiperboličan , eksponencijalni , logaritamski , kvadratni itd. I, naravno, ovdje bih odmah želio "smanjiti polje djelovanja". Koju klasu funkcija trebam odabrati za istraživanje? Primitivna, ali učinkovita tehnika:
– Najlakše je prikazati bodove na crtežu i analizirati njihov položaj. Ako imaju tendenciju da trče u ravnoj liniji, onda biste trebali tražiti jednadžba pravca 
s optimalnim vrijednostima i . Drugim riječima, zadatak je pronaći TAKVE koeficijente da zbroj kvadrata odstupanja bude najmanji.
Ako se točke nalaze, na primjer, duž hiperbola, onda je očito jasno da će linearna funkcija dati lošu aproksimaciju. U ovom slučaju tražimo "najpovoljnije" koeficijente za jednadžbu hiperbole 
– one koje daju minimalni zbroj kvadrata 
.
Sada imajte na umu da u oba slučaja govorimo o funkcije dviju varijabli, čiji su argumenti traženi parametri ovisnosti:
I u biti trebamo riješiti standardni problem - pronaći minimalna funkcija dviju varijabli.
Sjetimo se našeg primjera: pretpostavimo da su točke "pohrane" obično smještene u ravnoj liniji i postoji svaki razlog za vjerovanje prisutnosti linearna ovisnost promet od prodajnog prostora. Nađimo TAKVE koeficijente “a” i “be” takve da zbroj kvadrata odstupanja 
bio najmanji. Sve je kao i obično - prvo Parcijalne derivacije 1. reda. Prema pravilo linearnosti Možete razlikovati odmah ispod ikone zbroja: 
Ako želite koristiti ove informacije za esej ili seminarski rad, bit ću vam vrlo zahvalan za poveznicu na popisu izvora, tako ćete detaljne izračune pronaći na nekoliko mjesta: 
Kreirajmo standardni sustav: 
Svaku jednadžbu smanjujemo za "dva" i dodatno "rastavljamo" zbrojeve: 
Bilješka
: samostalno analizirati zašto se “a” i “be” mogu izbaciti izvan ikone zbroja. Usput, formalno se to može učiniti sa zbrojem 
Prepišimo sustav u "primijenjenom" obliku: 
nakon čega se počinje pojavljivati algoritam za rješavanje našeg problema:
Znamo li koordinate točaka? mi znamo Iznosi 
možemo li ga pronaći? Lako. Napravimo najjednostavnije sustav dviju linearnih jednadžbi s dvije nepoznanice("a" i "biti"). Sustav rješavamo npr. Cramerova metoda, uslijed čega dobivamo stacionarnu točku. Provjeravanje dovoljan uvjet za ekstrem, možemo potvrditi da je u ovom trenutku funkcija 
doseže točno minimum. Provjera uključuje dodatne izračune i stoga ćemo je ostaviti iza scene (po potrebi se može vidjeti okvir koji nedostajeOvdje
)
. Izvodimo konačni zaključak:
Funkcija 
na najbolji mogući način (barem u usporedbi s bilo kojom drugom linearnom funkcijom) približava eksperimentalne točke . Grubo govoreći, njegov graf prolazi što je moguće bliže tim točkama. U tradiciji ekonometrija naziva se i rezultirajuća aproksimirajuća funkcija jednadžba uparene linearne regresije
.
Problem koji se razmatra je od velike praktične važnosti. U našoj primjernoj situaciji, jednadžba omogućuje vam da predvidite koji trgovinski promet ("Igrek") trgovina će imati jednu ili drugu vrijednost prodajnog prostora (jedno ili ono značenje "x"). Da, rezultirajuća prognoza bit će samo prognoza, ali će se u mnogim slučajevima pokazati prilično točnom.
Analizirat ću samo jedan problem s "pravim" brojevima, jer u njemu nema poteškoća - svi izračuni su na razini školskog programa za 7.-8. U 95 posto slučajeva od vas će se tražiti da pronađete samo linearnu funkciju, no na samom kraju članka pokazat ću da nije ništa teže pronaći jednadžbe optimalne hiperbole, eksponencijalne i nekih drugih funkcija.
Zapravo, sve što ostaje je podijeliti obećane dobrote - kako biste naučili rješavati takve primjere ne samo točno, već i brzo. Pažljivo proučavamo standard:
Zadatak
Kao rezultat proučavanja odnosa između dva pokazatelja, dobiveni su sljedeći parovi brojeva: 
Koristeći metodu najmanjih kvadrata, pronađite linearnu funkciju koja najbolje aproksimira empirijsku (iskusan) podaci. Napravite crtež na kojem ćete konstruirati eksperimentalne točke i graf aproksimacijske funkcije u kartezijskom pravokutnom koordinatnom sustavu 
. Pronađite zbroj kvadrata odstupanja između empirijskih i teoretskih vrijednosti. Saznajte bi li značajka bila bolja (sa stajališta metode najmanjih kvadrata) približiti eksperimentalne točke.
Imajte na umu da su značenja "x" prirodna, a ovo ima karakteristično smisleno značenje, o kojem ću govoriti malo kasnije; ali oni, naravno, mogu biti i frakcijski. Osim toga, ovisno o sadržaju određenog zadatka, i vrijednosti "X" i "igra" mogu biti potpuno ili djelomično negativne. Pa, dobili smo “bezlični” zadatak i počinjemo ga otopina:
Koeficijente optimalne funkcije nalazimo kao rješenje sustava: 
Radi kompaktnijeg bilježenja varijablu “brojač” možemo izostaviti jer je već jasno da se zbrajanje provodi od 1 do .
Pogodnije je izračunati potrebne količine u tabličnom obliku: 
Izračuni se mogu provesti na mikrokalkulatoru, ali puno je bolje koristiti Excel - i brže i bez pogrešaka; pogledajte kratki video:
Dakle, dobivamo sljedeće sustav:
Ovdje možete pomnožiti drugu jednadžbu s 3 i oduzmite 2. od 1. jednadžbe član po član. Ali to je sreća - u praksi sustavi često nisu dar, au takvim slučajevima štedi Cramerova metoda:
, što znači da sustav ima jedinstveno rješenje.
Provjerimo. Razumijem da ne želite, ali zašto preskakati pogreške tamo gdje ih se apsolutno ne može propustiti? Zamijenimo pronađeno rješenje u lijevu stranu svake jednadžbe sustava:
Dobivene su desne strane odgovarajućih jednadžbi, što znači da je sustav ispravno riješen.
Dakle, željena aproksimativna funkcija: – od sve linearne funkcije Ona je ta koja najbolje približava eksperimentalne podatke.
Za razliku od izravni
ovisnost prometa trgovine o njezinoj površini, utvrđena ovisnost je obrnuti
(princip “što više, to manje”), a tu činjenicu odmah otkriva negativ nagib. Funkcija 
govori nam da se povećanjem određenog pokazatelja za 1 jedinicu smanjuje vrijednost ovisnog pokazatelja u prosjeku za 0,65 jedinica. Kako kažu, što je cijena heljde veća, to se manje prodaje.
Da bismo nacrtali funkciju aproksimacije, pronađimo njezine dvije vrijednosti:
i izvršite crtež: 
Konstruirana pravac zove se linija trenda
(naime, linearna linija trenda, tj. u općem slučaju, trend nije nužno ravna linija). Svima je poznat izraz “biti u trendu” i mislim da ovaj termin ne treba dodatno komentirati.
Izračunajmo zbroj kvadrata odstupanja 
između empirijskih i teorijskih vrijednosti. Geometrijski, to je zbroj kvadrata duljina segmenata "maline". (dva su toliko mala da se i ne vide).
Sažmimo izračune u tablicu: 
Opet, mogu se napraviti ručno, za svaki slučaj, dat ću primjer za 1. točku: 
ali puno je učinkovitije to učiniti na već poznati način:
Još jednom ponavljamo: Koje je značenje dobivenog rezultata? Iz sve linearne funkcije y funkcija indikator je najmanji, odnosno u svojoj obitelji najbolja je aproksimacija. I ovdje, usput, posljednje pitanje problema nije slučajno: što ako je predložena eksponencijalna funkcija 
bi li bilo bolje približiti eksperimentalne točke?
Nađimo odgovarajući zbroj kvadrata odstupanja - da ih razlikujemo, označit ću ih slovom "epsilon". Tehnika je potpuno ista: 
I opet, za svaki slučaj, izračuni za 1. točku: 
U Excelu koristimo standardnu funkciju EXP (sintaksu možete pronaći u Excel pomoći).
Zaključak: , što znači da eksponencijalna funkcija lošije aproksimira eksperimentalne točke nego ravna linija .
Ali ovdje treba napomenuti da je "gore". ne znači još, što je loše. Sada sam napravio graf ove eksponencijalne funkcije - i on također prolazi blizu točaka 
- toliko da je bez analitičkog istraživanja teško reći koja je funkcija točnija.
Time završavam rješenje i vraćam se na pitanje prirodnih vrijednosti argumenta. U raznim studijama, obično ekonomskim ili sociološkim, prirodni "X" koriste se za numeriranje mjeseci, godina ili drugih jednakih vremenskih intervala. Razmotrimo, na primjer, sljedeći problem:
O prometu trgovine na malo za prvo polugodište dostupni su sljedeći podaci:
Analitičkim pravocrtnim poravnanjem odredite obim prometa za srpanj.
Da, nema problema: mjesece označavamo brojevima 1, 2, 3, 4, 5, 6 i koristimo uobičajeni algoritam, na temelju čega dobivamo jednadžbu - jedino što se tiče vremena, obično koriste slovo "te" (iako to nije kritično). Dobivena jednadžba pokazuje da je u prvom polugodištu promet u trgovini u prosjeku porastao za 27,74 jedinica. mjesečno. Uzmimo prognozu za srpanj (mjesec br. 7): d.e.
A ovakvih je zadataka bezbroj. Oni koji žele mogu koristiti dodatnu uslugu, odnosno moju Excel kalkulator (demo verzija), koji rješava analizirani problem gotovo trenutno! Dostupna je radna verzija programa na razmjeni ili za simbolična naknada.
Na kraju lekcije kratke informacije o pronalaženju ovisnosti nekih drugih vrsta. Zapravo, nema se puno za reći, budući da temeljni pristup i algoritam rješenja ostaju isti.
Pretpostavimo da raspored eksperimentalnih točaka nalikuje hiperboli. Zatim, da biste pronašli koeficijente najbolje hiperbole, trebate pronaći minimum funkcije - svatko može provesti detaljne izračune i doći do sličnog sustava: 
S formalno tehničkog gledišta, dobiva se iz "linearnog" sustava 
(označimo zvjezdicom) zamjena "x" sa . Pa, što je s iznosima? 
izračunati, nakon čega do optimalnih koeficijenata “a” i “be” pri ruci.
Ako postoji svaki razlog vjerovati da bodovi nalaze se duž logaritamske krivulje, a zatim za pronalaženje optimalnih vrijednosti nalazimo minimum funkcije 
. Formalno, u sustavu (*) treba zamijeniti sa: 
Kada izvodite izračune u Excelu, koristite funkciju LN. Priznajem da mi ne bi bilo osobito teško stvoriti kalkulatore za svaki od razmatranih slučajeva, ali ipak bi bilo bolje da sami "programirate" izračune. Video lekcije za pomoć.
S eksponencijalnom ovisnošću situacija je malo kompliciranija. Da svedemo stvar na linearni slučaj, uzimamo logaritam funkcije i koristimo svojstva logaritma:
Sada, uspoređujući dobivenu funkciju s linearnom funkcijom, dolazimo do zaključka da u sustavu (*) treba zamijeniti s , a – s . Radi praktičnosti, označimo: 
Imajte na umu da je sustav riješen s obzirom na i, stoga, nakon pronalaženja korijena, ne smijete zaboraviti pronaći sam koeficijent.
Približiti eksperimentalne točke optimalna parabola 
, treba pronaći minimalna funkcija tri varijable 
. Nakon izvođenja standardnih radnji, dobivamo sljedeće "radne" sustav:
Da, naravno, ovdje ima više iznosa, ali nema nikakvih poteškoća kada koristite svoju omiljenu aplikaciju. I na kraju, reći ću vam kako brzo izvršiti provjeru pomoću programa Excel i izgraditi željenu liniju trenda: izradite raspršeni dijagram, odaberite bilo koju točku mišem i desnom tipkom miša odaberite opciju "Dodaj liniju trenda". Zatim odaberite vrstu grafikona i na kartici "Opcije" aktivirati opciju "Prikaži jednadžbu na dijagramu". U REDU
Kao i uvijek, želim završiti članak nekom lijepom rečenicom, a skoro sam upisala “Budi u trendu!” No, na vrijeme se predomislio. I to ne zato što je stereotipno. Ne znam kako je kome, ali ja baš i ne želim slijediti propagirani američki, a pogotovo europski trend =) Stoga želim da se svaka od vas drži svoje linije!
http://www.grandars.ru/student/vysshaya-matematika/metod-naimenshih-kvadratov.html
Metoda najmanjih kvadrata jedna je od najčešćih i najrazvijenijih zbog svoje jednostavnost i učinkovitost metoda za procjenu parametara linearnih ekonometrijskih modela. U isto vrijeme, kada ga koristite, treba biti oprezan, budući da modeli konstruirani pomoću njega možda neće zadovoljiti niz zahtjeva za kvalitetom svojih parametara i, kao rezultat toga, ne odražavaju obrasce razvoja procesa "dobro" dovoljno.
Razmotrimo detaljnije postupak procjene parametara linearnog ekonometrijskog modela metodom najmanjih kvadrata. Takav se model općenito može prikazati jednadžbom (1.2):
y t = a 0 + a 1 x 1t +...+ a n x nt + ε t.
Početni podatak pri procjeni parametara a 0 , a 1 ,..., a n je vektor vrijednosti zavisne varijable g= (y 1 , y 2 , ... , y T)" i matrica vrijednosti nezavisnih varijabli
u kojem prvi stupac, koji se sastoji od jedinica, odgovara koeficijentu modela.
Metoda najmanjih kvadrata dobila je naziv na temelju osnovnog načela da procjene parametara dobivene na temelju nje moraju zadovoljiti: zbroj kvadrata pogreške modela trebao bi biti minimalan.
Primjeri rješavanja zadataka metodom najmanjih kvadrata
Primjer 2.1. Trgovačko poduzeće ima mrežu od 12 trgovina, čije su aktivnosti prikazane u tablici. 2.1.
Menadžment poduzeća želi znati kako veličina godišnjeg prometa ovisi o maloprodajnom prostoru trgovine.
Tablica 2.1
| Broj trgovine | Godišnji promet, milijun rubalja. | Maloprodajna površina, tisuća m2 |
| 19,76 | 0,24 | |
| 38,09 | 0,31 | |
| 40,95 | 0,55 | |
| 41,08 | 0,48 | |
| 56,29 | 0,78 | |
| 68,51 | 0,98 | |
| 75,01 | 0,94 | |
| 89,05 | 1,21 | |
| 91,13 | 1,29 | |
| 91,26 | 1,12 | |
| 99,84 | 1,29 | |
| 108,55 | 1,49 |
Rješenje najmanjih kvadrata. Označimo godišnji promet th trgovine, milijuna rubalja; - maloprodajna površina prodavaonice, tisuća m2.
sl.2.1. Dijagram raspršenosti za primjer 2.1
Kako bismo odredili oblik funkcionalnog odnosa između varijabli i konstruirat ćemo dijagram raspršenosti (slika 2.1).
Na temelju dijagrama raspršenosti možemo zaključiti da godišnji promet pozitivno ovisi o maloprodajnom prostoru (tj. y će rasti s povećanjem ). Najprikladniji oblik funkcionalne veze je linearni.
Podaci za daljnje izračune prikazani su u tablici. 2.2. Koristeći metodu najmanjih kvadrata, procjenjujemo parametre linearnog jednofaktorskog ekonometrijskog modela
Tablica 2.2
| t | y t | x 1t | y t 2 | x 1t 2 | x 1t y t |
| 19,76 | 0,24 | 390,4576 | 0,0576 | 4,7424 | |
| 38,09 | 0,31 | 1450,8481 | 0,0961 | 11,8079 | |
| 40,95 | 0,55 | 1676,9025 | 0,3025 | 22,5225 | |
| 41,08 | 0,48 | 1687,5664 | 0,2304 | 19,7184 | |
| 56,29 | 0,78 | 3168,5641 | 0,6084 | 43,9062 | |
| 68,51 | 0,98 | 4693,6201 | 0,9604 | 67,1398 | |
| 75,01 | 0,94 | 5626,5001 | 0,8836 | 70,5094 | |
| 89,05 | 1,21 | 7929,9025 | 1,4641 | 107,7505 | |
| 91,13 | 1,29 | 8304,6769 | 1,6641 | 117,5577 | |
| 91,26 | 1,12 | 8328,3876 | 1,2544 | 102,2112 | |
| 99,84 | 1,29 | 9968,0256 | 1,6641 | 128,7936 | |
| 108,55 | 1,49 | 11783,1025 | 2,2201 | 161,7395 | |
| S | 819,52 | 10,68 | 65008,554 | 11,4058 | 858,3991 |
| Prosjek | 68,29 | 0,89 |
dakle,
Stoga, s povećanjem maloprodajnog prostora za 1 tisuću m2, pod istim uvjetima, prosječni godišnji promet povećava se za 67,8871 milijuna rubalja.
Primjer 2.2. Uprava poduzeća primijetila je da godišnji promet ne ovisi samo o prodajnom prostoru trgovine (vidi primjer 2.1), već io prosječnom broju posjetitelja. Relevantne informacije prikazane su u tablici. 2.3.
Tablica 2.3
Otopina. Označimo - prosječan broj posjetitelja trgovine dnevno, tisuća ljudi.
Kako bismo odredili oblik funkcionalnog odnosa između varijabli i konstruirat ćemo dijagram raspršenosti (slika 2.2).
Na temelju dijagrama raspršenosti možemo zaključiti da godišnji promet pozitivno ovisi o prosječnom broju posjetitelja po danu (tj. y će rasti s povećanjem ). Oblik funkcionalne ovisnosti je linearan.
Riža. 2.2. Dijagram raspršenosti za primjer 2.2
Tablica 2.4
| t | x 2t | x 2t 2 | y t x 2t | x 1t x 2t |
| 8,25 | 68,0625 | 163,02 | 1,98 | |
| 10,24 | 104,8575 | 390,0416 | 3,1744 | |
| 9,31 | 86,6761 | 381,2445 | 5,1205 | |
| 11,01 | 121,2201 | 452,2908 | 5,2848 | |
| 8,54 | 72,9316 | 480,7166 | 6,6612 | |
| 7,51 | 56,4001 | 514,5101 | 7,3598 | |
| 12,36 | 152,7696 | 927,1236 | 11,6184 | |
| 10,81 | 116,8561 | 962,6305 | 13,0801 | |
| 9,89 | 97,8121 | 901,2757 | 12,7581 | |
| 13,72 | 188,2384 | 1252,0872 | 15,3664 | |
| 12,27 | 150,5529 | 1225,0368 | 15,8283 | |
| 13,92 | 193,7664 | 1511,016 | 20,7408 | |
| S | 127,83 | 1410,44 | 9160,9934 | 118,9728 |
| Prosjek | 10,65 |
Općenito, potrebno je odrediti parametre dvofaktorskog ekonometrijskog modela
y t = a 0 + a 1 x 1t + a 2 x 2t + ε t
Podaci potrebni za daljnje izračune prikazani su u tablici. 2.4.
Procijenimo parametre linearnog dvofaktorskog ekonometrijskog modela koristeći metodu najmanjih kvadrata.
dakle,
Procjena koeficijenta =61,6583 pokazuje da će, pod istim uvjetima, s povećanjem maloprodajnog prostora za 1 tisuću m 2, godišnji promet porasti u prosjeku za 61,6583 milijuna rubalja.
Procjena koeficijenta = 2,2748 pokazuje to, uz ostale jednake uvjete, uz povećanje prosječnog broja posjetitelja na 1 tisuću stanovnika. dnevno, godišnji promet će se povećati u prosjeku za 2,2748 milijuna rubalja.
Primjer 2.3. Koristeći informacije prikazane u tablici. 2.2 i 2.4, procjenjuju parametar jednofaktorskog ekonometrijskog modela
gdje je središnja vrijednost godišnjeg prometa te trgovine, milijun rubalja; - centrirana vrijednost prosječnog dnevnog broja posjetitelja t-te trgovine, tisuća ljudi. (vidi primjere 2.1-2.2).
Otopina. Dodatne informacije potrebne za izračun prikazane su u tablici. 2.5.
Tablica 2.5
| -48,53 | -2,40 | 5,7720 | 116,6013 | |
| -30,20 | -0,41 | 0,1702 | 12,4589 | |
| -27,34 | -1,34 | 1,8023 | 36,7084 | |
| -27,21 | 0,36 | 0,1278 | -9,7288 | |
| -12,00 | -2,11 | 4,4627 | 25,3570 | |
| 0,22 | -3,14 | 9,8753 | -0,6809 | |
| 6,72 | 1,71 | 2,9156 | 11,4687 | |
| 20,76 | 0,16 | 0,0348 | 3,2992 | |
| 22,84 | -0,76 | 0,5814 | -17,413 | |
| 22,97 | 3,07 | 9,4096 | 70,4503 | |
| 31,55 | 1,62 | 2,6163 | 51,0267 | |
| 40,26 | 3,27 | 10,6766 | 131,5387 | |
| Iznositi | 48,4344 | 431,0566 |
Koristeći formulu (2.35), dobivamo
dakle,
http://www.cleverstudents.ru/articles/mnk.html
Primjer.
Eksperimentalni podaci o vrijednostima varijabli X I na dati su u tablici. 
Kao rezultat njihovog poravnanja dobiva se funkcija 
Korištenje metoda najmanjih kvadrata, te podatke aproksimirajte linearnom ovisnošću y=ax+b(pronađi parametre A I b). Utvrdite koja od dvije linije bolje (u smislu metode najmanjih kvadrata) usklađuje eksperimentalne podatke. Napravite crtež.
Otopina.
U našem primjeru n=5. Ispunjavamo tablicu radi lakšeg izračunavanja iznosa koji su uključeni u formule potrebnih koeficijenata. 
Vrijednosti u četvrtom retku tablice dobivene su množenjem vrijednosti 2. retka s vrijednostima 3. retka za svaki broj. ja.
Vrijednosti u petom retku tablice dobivene su kvadriranjem vrijednosti u 2. retku za svaki broj ja.
Vrijednosti u posljednjem stupcu tablice su zbrojevi vrijednosti u redovima.
Za pronalaženje koeficijenata koristimo se formulama metode najmanjih kvadrata A I b. Zamjenjujemo odgovarajuće vrijednosti iz posljednjeg stupca tablice u njih: 
Stoga, y = 0,165x+2,184- željena aproksimativna ravna linija.
Ostaje otkriti koji od redaka y = 0,165x+2,184 ili bolje aproksimira izvorne podatke, odnosno daje procjenu metodom najmanjih kvadrata.
Dokaz.
Tako da kada se nađe A I b funkcija poprima najmanju vrijednost, potrebno je da u tom trenutku matrica kvadratnog oblika diferencijala drugog reda za funkciju 
bio pozitivno određen. Pokažimo to.
Diferencijal drugog reda ima oblik: 
To jest
Prema tome, matrica kvadratnog oblika ima oblik 
a vrijednosti elemenata ne ovise o A I b.
Pokažimo da je matrica pozitivno određena. Da biste to učinili, kutni minori moraju biti pozitivni.
Minor kuta prvog reda 
. Nejednakost je stroga, budući da točke
- Uvodna lekcija besplatno;
- Veliki broj iskusnih nastavnika (maternji i ruski);
- Tečajevi NISU za određeno razdoblje (mjesec, šest mjeseci, godina), već za određeni broj sati (5, 10, 20, 50);
- Više od 10.000 zadovoljnih kupaca.
- Trošak jedne lekcije s učiteljem koji govori ruski je od 600 rubalja, s izvornim govornikom - od 1500 rubalja
Bit metode najmanjih kvadrata je u pronalaženju parametara modela trenda koji najbolje opisuje tendenciju razvoja bilo koje slučajne pojave u vremenu ili prostoru (trend je crta koja karakterizira tendenciju tog razvoja). Zadatak metode najmanjih kvadrata (LSM) svodi se na pronalaženje ne samo nekog modela trenda, već na pronalaženje najboljeg ili optimalnog modela. Ovaj model će biti optimalan ako je zbroj kvadratnih odstupanja između promatranih stvarnih vrijednosti i odgovarajućih izračunatih vrijednosti trenda minimalan (najmanji):
gdje je kvadratno odstupanje između promatrane stvarne vrijednosti
i odgovarajuću izračunatu vrijednost trenda,
Stvarna (opažena) vrijednost fenomena koji se proučava,
Izračunata vrijednost modela trenda,
Broj opažanja fenomena koji se proučava.
MNC se rijetko koristi samostalno. U pravilu se najčešće koristi samo kao nužna tehnička tehnika u korelacijskim studijama. Treba imati na umu da informacijska osnova OLS-a može biti samo pouzdana statistička serija, a broj opažanja ne smije biti manji od 4, inače bi postupci izglađivanja OLS-a mogli izgubiti zdrav razum.
MNC alat svodi se na sljedeće postupke:
Prvi postupak. Ispostavlja se postoji li uopće tendencija promjene rezultantnog atributa kada se promijeni odabrani faktor-argument, ili drugim riječima, postoji li veza između “ na "I" X ».
Drugi postupak. Utvrđuje se koja linija (trajektorija) može najbolje opisati ili okarakterizirati ovaj trend.
Treći postupak.
Primjer. Recimo da imamo informacije o prosječnom prinosu suncokreta za farmu koja se proučava (tablica 9.1).
Tablica 9.1
|
Broj opažanja |
||||||||||
|
Produktivnost, c/ha |
Budući da je razina tehnologije proizvodnje suncokreta u našoj zemlji ostala praktički nepromijenjena u posljednjih 10 godina, to znači da su, po svemu sudeći, kolebanja prinosa tijekom analiziranog razdoblja uvelike ovisila o kolebanjima vremenskih i klimatskih prilika. Je li ovo stvarno istina?
Prvi OLS postupak. Provjerena je hipoteza o postojanju trenda promjene prinosa suncokreta ovisno o promjenama vremenskih i klimatskih uvjeta tijekom analiziranih 10 godina.
U ovom primjeru, za " g " preporučljivo je uzeti prinos suncokreta, a za " x » – broj promatrane godine u analiziranom razdoblju. Testiranje hipoteze o postojanju bilo kakvog odnosa između " x "I" g „može se obaviti na dva načina: ručno i korištenjem računalnih programa. Naravno, ako imate računalnu tehnologiju, ovaj problem se može riješiti sam po sebi. Ali kako bismo bolje razumjeli MNC alate, preporučljivo je testirati hipotezu o postojanju odnosa između " x "I" g » ručno, kada su vam pri ruci samo olovka i obični kalkulator. U takvim slučajevima hipotezu o postojanju trenda najbolje je vizualno provjeriti mjestom na kojem se nalazi grafička slika analiziranog niza dinamike - korelacijsko polje:
Korelacijsko polje u našem primjeru nalazi se oko linije koja se polako povećava. To samo po sebi ukazuje na postojanje određenog trenda u promjenama prinosa suncokreta. Nemoguće je govoriti o prisutnosti bilo kakve tendencije samo kada korelacijsko polje izgleda kao krug, krug, strogo okomit ili strogo vodoravan oblak, ili se sastoji od kaotično razbacanih točaka. U svim ostalim slučajevima hipoteza o postojanju odnosa između “ x "I" g ", i nastaviti istraživanje.
Drugi OLS postupak. Utvrđuje se koja linija (trajektorija) može najbolje opisati ili karakterizirati trend promjene prinosa suncokreta tijekom analiziranog razdoblja.
Ako imate računalnu tehnologiju, odabir optimalnog trenda događa se automatski. U "ručnoj" obradi, izbor optimalne funkcije provodi se, u pravilu, vizualno - prema položaju korelacijskog polja. Odnosno, na temelju vrste grafikona odabire se jednadžba linije koja najbolje odgovara empirijskom trendu (stvarna putanja).
Kao što je poznato, u prirodi postoji velika raznolikost funkcionalnih ovisnosti, pa je vrlo teško vizualno analizirati čak i mali dio njih. Srećom, u stvarnoj ekonomskoj praksi većina odnosa može se prilično točno opisati ili parabolom, ili hiperbolom, ili ravnom crtom. S tim u vezi, s “ručnom” opcijom odabira najbolje funkcije možete se ograničiti samo na ova tri modela.
|
Hiperbola: |
||
|
|
|
Parabola drugog reda: 
:
Lako je vidjeti da se u našem primjeru trend promjene prinosa suncokreta tijekom analiziranih 10 godina najbolje karakterizira ravnom linijom, pa će regresijska jednadžba biti jednadžba pravca.
Treći postupak. Izračunavaju se parametri regresijske jednadžbe koji karakteriziraju ovu liniju, odnosno, drugim riječima, utvrđuje se analitička formula koja opisuje najbolji model trenda.
Pronalaženje vrijednosti parametara regresijske jednadžbe, u našem slučaju parametara i , srž je OLS-a. Taj se proces svodi na rješavanje sustava normalnih jednadžbi.
(9.2)
Ovaj sustav jednadžbi može se prilično jednostavno riješiti Gaussovom metodom. Podsjetimo se da su kao rezultat rješenja, u našem primjeru, pronađene vrijednosti parametara i . Dakle, pronađena regresijska jednadžba će imati sljedeći oblik: 
Široko se koristi u ekonometriji u obliku jasne ekonomske interpretacije svojih parametara.
Linearna regresija se svodi na pronalaženje jednadžbe oblika
ili
Jednadžba oblika omogućuje na temelju navedenih vrijednosti parametara X imaju teorijske vrijednosti rezultantne karakteristike, zamjenjujući stvarne vrijednosti faktora u nju X.
Konstrukcija linearne regresije svodi se na procjenu njezinih parametara - A I V. Procjene parametara linearne regresije mogu se pronaći različitim metodama.
Klasični pristup procjeni parametara linearne regresije temelji se na metoda najmanjih kvadrata(MNC).
Metoda najmanjih kvadrata omogućuje nam dobivanje takvih procjena parametara A I V, pri čemu je zbroj kvadrata odstupanja stvarnih vrijednosti rezultantne karakteristike (y) od izračunatog (teorijskog) minimum:
Da biste pronašli minimum funkcije, morate izračunati parcijalne derivacije za svaki od parametara A I b i postaviti ih jednake nuli.
Označimo sa S, tada:
Transformacijom formule dobivamo sljedeći sustav normalnih jednadžbi za procjenu parametara A I V:
Rješavajući sustav normalnih jednadžbi (3.5) bilo metodom sekvencijalnog uklanjanja varijabli ili metodom determinanti, nalazimo tražene ocjene parametara A I V.
Parametar V koji se naziva koeficijent regresije. Njegova vrijednost pokazuje prosječnu promjenu rezultata s promjenom faktora za jednu jedinicu.
Regresijska jednadžba uvijek je dopunjena pokazateljem bliskosti veze. Kada se koristi linearna regresija, takav pokazatelj je koeficijent linearne korelacije. Postoje različite modifikacije formule linearnog koeficijenta korelacije. Neki od njih su navedeni u nastavku:
Kao što je poznato, linearni koeficijent korelacije je u granicama: -1 ≤ ≤ 1.
Za procjenu kvalitete odabira linearne funkcije izračunava se kvadrat
Koeficijent linearne korelacije tzv koeficijent determinacije. Koeficijent determinacije karakterizira udio varijance rezultirajuće karakteristike y, objašnjeno regresijom, u ukupnoj varijanci dobivenog svojstva:
Prema tome, vrijednost 1 karakterizira udio varijance y, uzrokovan utjecajem drugih faktora koji nisu uzeti u obzir u modelu.
Pitanja za samokontrolu
1. Bit metode najmanjih kvadrata?
2. Koliko varijabli nudi parna regresija?
3. Koji koeficijent određuje bliskost veze između promjena?
4. U kojim granicama se određuje koeficijent determinacije?
5. Procjena parametra b u korelacijsko-regresijskoj analizi?
1. Christopher Dougherty. Uvod u ekonometriju. - M.: INFRA - M, 2001. - 402 str.
2. S.A. Borodich. Ekonometrija. Minsk LLC “Novo znanje” 2001.
3. R.U. Rakhmetova Kratki tečaj ekonometrije. Vodič za učenje. Almaty. 2004. -78 str.
4. I.I. Eliseeva. - M.: “Financije i statistika”, 2002
5. Mjesečni informativno-analitički časopis.
Nelinearni ekonomski modeli. Nelinearni regresijski modeli. Transformacija varijabli.
Nelinearni ekonomski modeli..
Transformacija varijabli.
Koeficijent elastičnosti.
Ako postoje nelinearni odnosi između ekonomskih pojava, onda se oni izražavaju pomoću odgovarajućih nelinearnih funkcija: na primjer, jednakostranične hiperbole , parabole drugog stupnja itd.
Postoje dvije klase nelinearne regresije:
1. Regresije koje su nelinearne u odnosu na eksplanatorne varijable uključene u analizu, ali linearne u odnosu na procijenjene parametre, na primjer:
Polinomi raznih stupnjeva - , ;
Jednakostrana hiperbola - ;
Semilogaritamska funkcija - .
2. Regresije koje su nelinearne u parametrima koji se procjenjuju, na primjer:
Snaga - ;
Demonstrativno - ;
Eksponencijalni - .
Ukupni zbroj kvadrata odstupanja pojedinačnih vrijednosti rezultirajuće karakteristike na od prosječne vrijednosti uzrokovana je utjecajem mnogih razloga. Uvjetno podijelimo cijeli niz razloga u dvije skupine: faktor koji se proučava x I drugi faktori.
Ako faktor ne utječe na rezultat, tada je regresijska linija na grafikonu paralelna s osi Oh I
Tada je cjelokupna varijanca rezultirajuće karakteristike posljedica utjecaja drugih čimbenika i ukupni zbroj kvadrata odstupanja će se podudarati s ostatkom. Ako drugi čimbenici ne utječu na rezultat, onda y vezani S X funkcionalno i rezidualni zbroj kvadrata je nula. U ovom slučaju, zbroj kvadrata odstupanja objašnjen regresijom jednak je ukupnom zbroju kvadrata.
Budući da ne leže sve točke korelacijskog polja na regresijskoj liniji, njihovo rasipanje uvijek nastaje kao rezultat utjecaja faktora X, odnosno regresiju na Po X, a uzrokovane drugim uzrocima (neobjašnjena varijacija). Prikladnost regresijske linije za predviđanje ovisi o tome koji je dio ukupne varijacije svojstva na objašnjava objašnjenu varijaciju
Očito, ako je zbroj kvadrata odstupanja uslijed regresije veći od rezidualnog zbroja kvadrata, tada je regresijska jednadžba statistički značajna i faktor X ima značajan utjecaj na rezultat u.
, tj. s brojem slobode neovisne varijacije obilježja. Broj stupnjeva slobode povezan je s brojem jedinica populacije n i brojem konstanti određenih iz toga. U odnosu na problem koji se proučava, broj stupnjeva slobode trebao bi pokazati koliko neovisnih odstupanja od n
Ocjena značajnosti regresijske jednadžbe u cjelini dana je pomoću F-Fisherov kriterij. U ovom slučaju postavlja se nulta hipoteza da je koeficijent regresije jednak nuli, tj. b = 0, a time i faktor X ne utječe na rezultat u.
Neposrednom izračunu F-testa prethodi analiza varijance. Središnje mjesto u njoj zauzima dekompozicija ukupnog zbroja kvadrata odstupanja varijable na od prosječne vrijednosti na na dva dijela - "objašnjeno" i "neobjašnjeno":
Ukupni zbroj kvadrata odstupanja;
Zbroj kvadrata odstupanja objašnjen regresijom;
Preostali zbroj kvadrata odstupanja.
Svaki zbroj kvadrata odstupanja povezan je s brojem stupnjeva slobode , tj. s brojem slobode neovisne varijacije obilježja. Broj stupnjeva slobode povezan je s brojem populacijskih jedinica n i s iz njega određenim brojem konstanti. U odnosu na problem koji se proučava, broj stupnjeva slobode trebao bi pokazati koliko neovisnih odstupanja od n moguće potrebne za formiranje zadanog zbroja kvadrata.
Disperzija po stupnju slobodeD.
F-omjeri (F-test):
Ako je nulta hipoteza istinita, tada se varijance faktora i reziduala ne razlikuju jedna od druge. Za H 0 potrebno je opovrgavanje kako bi disperzija faktora nekoliko puta premašila rezidualnu disperziju. Engleski statističar Snedekor izradio je tablice kritičnih vrijednosti F-relacije na različitim razinama značajnosti nulte hipoteze i različitim brojevima stupnjeva slobode. Vrijednost tablice F-kriterij je najveća vrijednost omjera varijanci koja se može pojaviti u slučaju slučajne divergencije za zadanu razinu vjerojatnosti prisutnosti nulte hipoteze. Izračunata vrijednost F-relacije se smatraju pouzdanima ako je o veće od tablice.
U ovom slučaju odbacuje se nulta hipoteza o nepostojanju odnosa između znakova i donosi se zaključak o značaju tog odnosa: F činjenica > F tablica H 0 je odbijen.
Ako je vrijednost manja od tablice F činjenica ‹, F tablica, tada je vjerojatnost nulte hipoteze viša od određene razine i ne može se odbaciti bez ozbiljnog rizika izvlačenja pogrešnog zaključka o prisutnosti odnosa. U tom se slučaju regresijska jednadžba smatra statistički beznačajnom. Ali on ne odstupa.
Standardna pogreška regresijskog koeficijenta
Da bi se procijenila značajnost koeficijenta regresije, njegova se vrijednost uspoređuje s njegovom standardnom pogreškom, tj. utvrđuje se stvarna vrijednost t-Studentov t-test: koji se zatim uspoređuje s vrijednošću tablice na određenoj razini značajnosti i broju stupnjeva slobode ( n- 2).
Standardna greška parametra A:
Značajnost linearnog koeficijenta korelacije provjerava se na temelju veličine pogreške koeficijent korelacije t r:
Ukupna varijanca osobina X:
Višestruka linearna regresija
Izgradnja modela
Višestruka regresija predstavlja regresiju efektivnog obilježja s dva ili više faktora, odnosno model oblika
Regresija može dati dobre rezultate u modeliranju ako se može zanemariti utjecaj drugih čimbenika koji utječu na predmet proučavanja. Ponašanje pojedinih ekonomskih varijabli nije moguće kontrolirati, odnosno nije moguće osigurati jednakost svih ostalih uvjeta za ocjenu utjecaja jednog promatranog čimbenika. U tom slučaju trebali biste pokušati identificirati utjecaj drugih čimbenika njihovim uvođenjem u model, tj. konstruirati jednadžbu višestruke regresije: y = a+b 1 x 1 +b 2 +…+b p x p + .
Glavni cilj višestruke regresije je izgraditi model s velikim brojem faktora, pri čemu se utvrđuje utjecaj svakog od njih zasebno, kao i njihov zajednički utjecaj na modelirani pokazatelj. Specifikacija modela uključuje dva niza pitanja: izbor faktora i izbor tipa regresijske jednadžbe
