Koja nalazi najširu primenu u raznim oblastima nauke i praktične delatnosti. To može biti fizika, hemija, biologija, ekonomija, sociologija, psihologija i tako dalje i tako dalje. Voljom sudbine, često moram da se bavim ekonomijom, i zato ću danas za vas organizovati putovanje u neverovatnu zemlju tzv. Ekonometrija=) ...Kako ne želiš?! Tamo je jako dobro - samo treba da se odlučite! ...Ali ono što sigurno želite je naučiti kako rješavati probleme metoda najmanjih kvadrata. A posebno marljivi čitaoci naučiće da ih rešavaju ne samo precizno, već i VEOMA BRZO ;-) Ali prvo opšta izjava o problemu+ prateći primjer:
Proučavajmo indikatore u određenoj predmetnoj oblasti koji imaju kvantitativni izraz. Istovremeno, postoje svi razlozi za vjerovanje da indikator ovisi o indikatoru. Ova pretpostavka može biti ili naučna hipoteza ili zasnovana na osnovnom zdravom razumu. Ostavimo, međutim, nauku po strani i istražimo privlačnija područja – naime, trgovine prehrambenim proizvodima. Označimo sa:
– maloprodajni prostor trgovine, m2,
– godišnji promet prehrambene prodavnice, milion rubalja.
Apsolutno je jasno da što je veća površina prodavnice, to će u većini slučajeva biti veći njen promet.
Pretpostavimo da nakon izvođenja zapažanja/eksperimenata/proračunavanja/plesa uz tamburu imamo na raspolaganju numeričke podatke: 
Sa prehrambenim prodavnicama mislim da je sve jasno: - ovo je površina 1. prodavnice, - njen godišnji promet, - površina 2. prodavnice, - njen godišnji promet itd. Uzgred, uopšte nije potrebno imati pristup klasifikovanim materijalima - prilično tačna procena trgovinskog prometa može se dobiti pomoću matematičke statistike. Međutim, nemojmo se ometati, kurs komercijalne špijunaže je već plaćen =)
Tabelarni podaci se također mogu napisati u obliku tačaka i prikazati u poznatom obliku Kartezijanski sistem .
Odgovorimo na jedno važno pitanje: Koliko bodova je potrebno za kvalitativnu studiju?
Više to bolje. Minimalni prihvatljivi set se sastoji od 5-6 bodova. Osim toga, kada je količina podataka mala, “anomalni” rezultati se ne mogu uključiti u uzorak. Tako, na primjer, mala elitna radnja može zaraditi redove veličine više od "njegovih kolega", čime se iskrivljuje opći obrazac koji trebate pronaći!
Vrlo jednostavno rečeno, moramo odabrati funkciju, raspored koji prolazi što bliže tačkama 
. Ova funkcija se zove aproksimirajući
(aproksimacija - aproksimacija) ili teorijska funkcija
. Uopšteno govoreći, ovdje se odmah pojavljuje očigledan "konkurent" - polinom visokog stepena, čiji graf prolazi kroz SVE tačke. Ali ova opcija je komplikovana i često jednostavno netočna. (pošto će se grafikon stalno "petljati" i loše odražavati glavni trend).
Dakle, tražena funkcija mora biti prilično jednostavna i istovremeno adekvatno odražavati ovisnost. Kao što možete pretpostaviti, jedna od metoda za pronalaženje takvih funkcija se zove metoda najmanjih kvadrata. Prvo, pogledajmo njegovu suštinu općenito. Neka neka funkcija aproksimira eksperimentalne podatke: 
Kako procijeniti tačnost ove aproksimacije? Izračunajmo i razlike (odstupanja) između eksperimentalne i funkcionalne vrijednosti (učimo crtež). Prva misao koja vam pada na pamet je procijeniti koliki je zbroj, ali problem je što razlike mogu biti negativne (Na primjer, 
)
a odstupanja kao rezultat takvog zbrajanja će se poništiti. Stoga, kao procjenu tačnosti aproksimacije, treba uzeti zbir moduli odstupanja:
ili srušeno: (u slučaju da neko ne zna: – ovo je ikona sume, i – pomoćna varijabla „brojača“, koja uzima vrijednosti od 1 do ).
Aproksimacijom eksperimentalnih tačaka različitim funkcijama dobićemo različite vrijednosti, a očito, tamo gdje je ovaj zbir manji, ta funkcija je tačnija.
Takav metod postoji i zove se metoda najmanjeg modula. Međutim, u praksi je postao mnogo rašireniji metoda najmanjih kvadrata, u kojem se moguće negativne vrijednosti eliminiraju ne modulom, već kvadriranjem odstupanja:
, nakon čega se radi na odabiru funkcije takve da je zbir kvadrata odstupanja 
bio što manji. Zapravo, odatle potiče naziv metode.
A sada se vraćamo na još jednu važnu točku: kao što je gore navedeno, odabrana funkcija bi trebala biti prilično jednostavna - ali postoji i mnogo takvih funkcija: linearno , hiperbolično, eksponencijalna, logaritamski, kvadratni itd. I, naravno, ovdje bih odmah želio „smanjiti polje aktivnosti“. Koju klasu funkcija trebam odabrati za istraživanje? Primitivna, ali efikasna tehnika:
– Najlakši način je da prikažete tačke 
na crtežu i analizirati njihovu lokaciju. Ako imaju tendenciju da trče u pravoj liniji, onda biste trebali potražiti jednačina prave 
sa optimalnim vrijednostima i . Drugim riječima, zadatak je pronaći TAKVE koeficijente tako da zbir kvadrata odstupanja bude najmanji.
Ako se tačke nalaze, na primjer, uzduž hiperbola, onda je očito jasno da će linearna funkcija dati lošu aproksimaciju. U ovom slučaju tražimo najpovoljnije koeficijente za jednadžbu hiperbole 
– oni koji daju minimalni zbir kvadrata 
.
Sada imajte na umu da u oba slučaja govorimo funkcije dvije varijable, čiji su argumenti pretraživali parametre zavisnosti:
A u suštini moramo riješiti standardni problem - pronaći minimalna funkcija dvije varijable.
Prisjetimo se našeg primjera: pretpostavimo da se tačke "prodavnice" obično nalaze u pravoj liniji i postoji svaki razlog vjerovati u prisutnost linearna zavisnost promet od maloprodajnog prostora. Nađimo TAKVE koeficijente “a” i “be” takve da je zbir kvadrata odstupanja 
bio najmanji. Sve je kao i obično - prvo Parcijalni derivati 1. reda. Prema pravilo linearnosti Možete razlikovati odmah ispod ikone sume: 
Ako želite da iskoristite ove informacije za esej ili seminarski rad, bit ću vam veoma zahvalan na linku na listi izvora, na nekoliko mjesta ćete naći ovako detaljne proračune: 
Kreirajmo standardni sistem: 
Svaku jednačinu smanjujemo za "dva" i, pored toga, "razbijamo" zbrojeve: 
Napomena
: nezavisno analizirati zašto se “a” i “be” mogu izdvojiti izvan ikone zbira. Inače, formalno se to može učiniti sa sumom
Prepišimo sistem u "primijenjenom" obliku: 
nakon čega počinje da se pojavljuje algoritam za rješavanje našeg problema:
Znamo li koordinate tačaka? Znamo. Iznosi 
možemo li ga naći? Lako. Hajde da napravimo najjednostavnije sistem dvije linearne jednadžbe u dvije nepoznate(“a” i “biti”). Rešavamo sistem, npr. Cramerova metoda, kao rezultat toga dobijamo stacionarnu tačku. Provjeravam dovoljan uslov za ekstrem, možemo potvrditi da je u ovom trenutku funkcija 
dostiže tačno minimum. Provjera uključuje dodatne proračune i stoga ćemo je ostaviti iza scene (ako je potrebno, okvir koji nedostaje može se vidjeti). Izvlačimo konačan zaključak:
Funkcija 
na najbolji mogući način (barem u usporedbi s bilo kojom drugom linearnom funkcijom) približava eksperimentalne tačke 
. Grubo govoreći, njegov graf prolazi što je moguće bliže ovim tačkama. U tradiciji ekonometrija rezultirajuća aproksimirajuća funkcija se također poziva uparena jednačina linearne regresije
.
Problem koji se razmatra je od velike praktične važnosti. U našem primjeru, jednadžba. 
omogućava vam da predvidite koji trgovinski promet ("Igrek") trgovina će imati jednu ili drugu vrijednost prodajnog prostora (jedno ili drugo značenje "x"). Da, rezultirajuća prognoza će biti samo prognoza, ali će se u mnogim slučajevima pokazati prilično tačnom.
Analiziraću samo jedan problem sa „stvarnim“ brojevima, jer u tome nema poteškoća - svi proračuni su na nivou nastavnog plana i programa 7.-8. U 95 posto slučajeva od vas će se tražiti da pronađete samo linearnu funkciju, ali na samom kraju članka pokazaću da nije teže pronaći jednadžbe optimalne hiperbole, eksponencijalne i nekih drugih funkcija.
U stvari, ostaje samo distribuirati obećane dobrote - tako da možete naučiti rješavati takve primjere ne samo precizno, već i brzo. Pažljivo proučavamo standard:
Zadatak
Kao rezultat proučavanja odnosa između dva indikatora, dobijeni su sljedeći parovi brojeva: 
Koristeći metodu najmanjih kvadrata, pronađite linearnu funkciju koja najbolje aproksimira empirijsku (iskusan) podaci. Napravite crtež na kojem ćete konstruirati eksperimentalne točke i graf aproksimirajuće funkcije u kartezijanskom pravokutnom koordinatnom sistemu 
. Pronađite zbroj kvadrata odstupanja između empirijske i teorijske vrijednosti. Saznajte da li bi ova funkcija bila bolja (sa stanovišta metode najmanjih kvadrata) približiti eksperimentalne tačke.
Imajte na umu da su značenja “x” prirodna, a ovo ima karakteristično smisleno značenje, o kojem ću govoriti malo kasnije; ali one, naravno, mogu biti i razlomke. Osim toga, ovisno o sadržaju određenog zadatka, vrijednosti "X" i "igra" mogu biti potpuno ili djelomično negativne. Pa, dobili smo zadatak „bez lica“ i počinjemo ga rješenje:
Nalazimo koeficijente optimalne funkcije kao rješenje sistema: 
U svrhu kompaktnijeg snimanja, varijabla “counter” može se izostaviti, jer je već jasno da se zbrajanje vrši od 1 do .
Pogodnije je izračunati potrebne količine u obliku tabele: 
Izračuni se mogu izvršiti na mikrokalkulatoru, ali je mnogo bolje koristiti Excel - i brže i bez grešaka; pogledajte kratak video:
Tako dobijamo sledeće sistem:
Ovdje možete pomnožiti drugu jednačinu sa 3 i oduzmi 2. od 1. jednačine član po član. Ali to je sreća - u praksi sistemi često nisu dar, au takvim slučajevima štedi Cramerova metoda:
, što znači da sistem ima jedinstveno rješenje.
Hajde da proverimo. Razumijem da ne želite, ali zašto preskakati greške gdje se apsolutno ne mogu propustiti? Zamenimo pronađeno rešenje u levu stranu svake jednačine sistema:
Dobijene su desne strane odgovarajućih jednačina, što znači da je sistem ispravno riješen.
Dakle, željena aproksimirajuća funkcija: – od sve linearne funkcije Ona je ta koja najbolje aproksimira eksperimentalne podatke.
Za razliku od direktno
zavisnost prometa prodavnice od njene površine, pronađena zavisnost je obrnuto
(princip "što više, to manje"), a ovu činjenicu odmah otkriva negativac nagib. Funkcija 
nam govori da povećanjem određenog indikatora za 1 jedinicu, vrijednost zavisnog indikatora opada u prosjeku za 0,65 jedinica. Kako kažu, što je veća cijena heljde, to se manje prodaje.
Da bismo nacrtali graf aproksimirajuće funkcije, nalazimo njene dvije vrijednosti:
i izvedite crtež: 
Konstruisana prava linija se zove linija trenda
(naime, linearna linija trenda, tj. u opštem slučaju, trend nije nužno ravna linija). Svima je poznat izraz „biti u trendu“ i mislim da ovaj termin ne treba dodatno komentarisati.
Izračunajmo zbir kvadrata odstupanja 
između empirijskih i teorijskih vrijednosti. Geometrijski, ovo je zbir kvadrata dužina segmenata "maline" (od kojih su dva toliko mala da se ni ne vide).
Sumiramo proračune u tabeli: 
Opet, mogu se raditi ručno za svaki slučaj, dat ću primjer za 1. točku: 
ali mnogo je efikasnije to učiniti na već poznati način:
Ponavljamo još jednom: Šta znači dobijeni rezultat? Od sve linearne funkcije y funkcija 
indikator je najmanji, odnosno u svojoj porodici je najbolja aproksimacija. I ovdje, usput, konačno pitanje problema nije slučajno: šta ako predložena eksponencijalna funkcija 
da li bi bilo bolje približiti eksperimentalne tačke?
Nađimo odgovarajući zbir kvadrata odstupanja - da bismo ih razlikovali, označit ću ih slovom "epsilon". Tehnika je potpuno ista: 
I opet, za svaki slučaj, kalkulacije za 1. tačku: 
U Excelu koristimo standardnu funkciju EXP (sintaksu možete pronaći u Excel pomoći).
Zaključak: , što znači da eksponencijalna funkcija aproksimira eksperimentalne tačke lošije od prave linije 
.
Ali ovdje treba napomenuti da je „gore“. ne znači još, što je loše. Sada sam napravio graf ove eksponencijalne funkcije - i on takođe prolazi blizu tačaka 
- toliko da je bez analitičkog istraživanja teško reći koja je funkcija preciznija.
Ovim je rješenje završeno i vraćam se na pitanje prirodnih vrijednosti argumenta. U različitim studijama, obično ekonomskim ili sociološkim, prirodni „X“ se koriste za broj mjeseci, godina ili drugih jednakih vremenskih intervala. Razmotrite, na primjer, sljedeći problem.
Primjer.
Eksperimentalni podaci o vrijednostima varijabli X I at date su u tabeli.
Kao rezultat njihovog poravnanja, dobija se funkcija
Koristeći metoda najmanjih kvadrata, aproksimira ove podatke linearnom zavisnošću y=ax+b(pronaći parametre A I b). Saznajte koja od dvije linije bolje (u smislu metode najmanjih kvadrata) poravnava eksperimentalne podatke. Napravite crtež.
Suština metode najmanjih kvadrata (LSM).
>Zadatak je pronaći koeficijente linearne zavisnosti na kojima je funkcija dvije varijable A I b uzima najmanju vrijednost. Odnosno, dato A I b zbir kvadrata odstupanja eksperimentalnih podataka od pronađene prave će biti najmanji. Ovo je cijela poenta metode najmanjih kvadrata.
Dakle, rješavanje primjera se svodi na pronalaženje ekstrema funkcije dvije varijable.
Izvođenje formula za pronalaženje koeficijenata.
>Sastavlja se i rješava sistem od dvije jednačine sa dvije nepoznate. Pronalaženje parcijalnih izvoda funkcije u odnosu na varijable A I b, izjednačavamo ove izvode sa nulom.
Rezultirajući sistem jednačina rješavamo bilo kojom metodom (npr metodom supstitucije ili ) i dobiju formule za pronalaženje koeficijenata koristeći metodu najmanjih kvadrata (LSM).
Dato A I b funkcija uzima najmanju vrijednost. Dat je dokaz ove činjenice.
To je cijela metoda najmanjih kvadrata. Formula za pronalaženje parametra a sadrži sume , , , i parametar n- količina eksperimentalnih podataka. Preporučujemo da se vrijednosti ovih iznosa izračunaju zasebno. Koeficijent b nalazi se nakon izračuna a.
Vrijeme je da se prisjetimo originalnog primjera.
Rješenje.
U našem primjeru n=5. Ispunjavamo tablicu radi praktičnosti izračunavanja iznosa koji su uključeni u formule potrebnih koeficijenata.
Vrijednosti u četvrtom redu tabele dobijaju se množenjem vrijednosti 2. retka sa vrijednostima 3. reda za svaki broj i.
Vrijednosti u petom redu tabele dobijaju se kvadriranjem vrijednosti u 2. redu za svaki broj i.
Vrijednosti u posljednjoj koloni tabele su zbroji vrijednosti u redovima.
Za pronalaženje koeficijenata koristimo formule metode najmanjih kvadrata A I b. U njih zamjenjujemo odgovarajuće vrijednosti iz posljednje kolone tabele:
dakle, y = 0,165x+2,184- željena aproksimirajuća prava linija.
Ostaje da saznamo koja od linija y = 0,165x+2,184 ili bolje aproksimira originalne podatke, odnosno procjenjuje metodom najmanjih kvadrata.
Procjena greške metode najmanjih kvadrata.
>Da biste to učinili, morate izračunati zbir kvadrata odstupanja originalnih podataka od ovih linija I , manja vrijednost odgovara liniji koja bolje aproksimira originalne podatke u smislu metode najmanjih kvadrata.
Od , onda ravno y = 0,165x+2,184 bolje aproksimira originalne podatke.
Grafička ilustracija metode najmanjih kvadrata (LS).
>Sve je jasno vidljivo na grafikonima. Crvena linija je pronađena ravna linija y = 0,165x+2,184, plava linija je , ružičaste tačke su originalni podaci.
Zašto je to potrebno, čemu sve ove aproksimacije?
Ja ga lično koristim za rješavanje problema ujednačavanja podataka, interpolacije i ekstrapolacije (u originalnom primjeru od njih bi se možda tražilo da pronađu vrijednost uočene vrijednosti y at x=3 ili kada x=6 koristeći metodu najmanjih kvadrata). Ali o tome ćemo više govoriti kasnije u drugom dijelu stranice.
Dokaz.
Tako da kada se nađe A I b funkcija uzima najmanju vrijednost, potrebno je da u ovom trenutku matrica kvadratnog oblika diferencijala drugog reda za funkciju bilo pozitivno određeno. Hajde da to pokažemo.
Diferencijal drugog reda ima oblik:
To je
Prema tome, matrica kvadratnog oblika ima oblik
a vrijednosti elemenata ne ovise o A I b.
Pokažimo da je matrica pozitivno određena. Da biste to učinili, ugaoni minori moraju biti pozitivni.
Ugaoni minor prvog reda . Nejednakost je stroga jer se tačke ne poklapaju. U nastavku ćemo to implicirati.
Ugaoni minor drugog reda
Dokažimo to metodom matematičke indukcije.
Zaključak: pronađene vrijednosti A I b odgovaraju najmanjoj vrijednosti funkcije , dakle, su potrebni parametri za metodu najmanjih kvadrata.
Metoda najmanjih kvadrata
U završnoj lekciji teme upoznaćemo se sa najpoznatijom aplikacijom FNP, koji nalazi najširu primjenu u različitim oblastima nauke i praktične djelatnosti. To može biti fizika, hemija, biologija, ekonomija, sociologija, psihologija i tako dalje i tako dalje. Voljom sudbine, često moram da se bavim ekonomijom, i zato ću danas za vas organizovati putovanje u neverovatnu zemlju tzv. Ekonometrija=) ...Kako ne želiš?! Tamo je jako dobro - samo treba da se odlučite! ...Ali ono što sigurno želite je naučiti kako rješavati probleme metoda najmanjih kvadrata. A posebno marljivi čitaoci naučiće da ih rešavaju ne samo precizno, već i VEOMA BRZO ;-) Ali prvo opšta izjava o problemu+ prateći primjer:
Proučavajmo indikatore u određenoj predmetnoj oblasti koji imaju kvantitativni izraz. Istovremeno, postoje svi razlozi za vjerovanje da indikator ovisi o indikatoru. Ova pretpostavka može biti ili naučna hipoteza ili zasnovana na osnovnom zdravom razumu. Ostavimo, međutim, nauku po strani i istražimo privlačnija područja – naime, trgovine prehrambenim proizvodima. Označimo sa:
– maloprodajni prostor trgovine, m2,
– godišnji promet prehrambene prodavnice, milion rubalja.
Apsolutno je jasno da što je veća površina prodavnice, to će u većini slučajeva biti veći njen promet.
Pretpostavimo da nakon izvođenja zapažanja/eksperimenata/proračunavanja/plesa uz tamburu imamo na raspolaganju numeričke podatke: 
Sa prehrambenim prodavnicama mislim da je sve jasno: - ovo je površina 1. prodavnice, - njen godišnji promet, - površina 2. prodavnice, - njen godišnji promet itd. Uzgred, uopšte nije potrebno imati pristup klasifikovanim materijalima - prilično tačna procena trgovinskog prometa može se dobiti pomoću matematičke statistike. Međutim, nemojmo se ometati, kurs komercijalne špijunaže je već plaćen =)
Tabelarni podaci se također mogu napisati u obliku tačaka i prikazati u poznatom obliku Kartezijanski sistem .
Odgovorimo na jedno važno pitanje: Koliko bodova je potrebno za kvalitativnu studiju?
Više to bolje. Minimalni prihvatljivi set se sastoji od 5-6 bodova. Osim toga, kada je količina podataka mala, “anomalni” rezultati se ne mogu uključiti u uzorak. Tako, na primjer, mala elitna radnja može zaraditi redove veličine više od "njegovih kolega", čime se iskrivljuje opći obrazac koji trebate pronaći!
Vrlo jednostavno rečeno, moramo odabrati funkciju, raspored koji prolazi što bliže tačkama 
. Ova funkcija se zove aproksimirajući
(aproksimacija - aproksimacija) ili teorijska funkcija
. Uopšteno govoreći, ovdje se odmah pojavljuje očigledan "konkurent" - polinom visokog stepena, čiji graf prolazi kroz SVE tačke. Ali ova opcija je komplikovana i često jednostavno netočna. (pošto će se grafikon stalno "petljati" i loše odražavati glavni trend).
Dakle, tražena funkcija mora biti prilično jednostavna i istovremeno adekvatno odražavati ovisnost. Kao što možete pretpostaviti, jedna od metoda za pronalaženje takvih funkcija se zove metoda najmanjih kvadrata. Prvo, pogledajmo njegovu suštinu općenito. Neka neka funkcija aproksimira eksperimentalne podatke: 
Kako ocijeniti tačnost ove aproksimacije? Izračunajmo i razlike (odstupanja) između eksperimentalne i funkcionalne vrijednosti (učimo crtež). Prva misao koja vam pada na pamet je procijeniti koliki je zbroj, ali problem je što razlike mogu biti negativne (Na primjer, 
)
a odstupanja kao rezultat takvog zbrajanja će se poništiti. Stoga, kao procjenu tačnosti aproksimacije, treba uzeti zbir moduli odstupanja:
ili srušeno: (u slučaju da neko ne zna:
je ikona zbira, i
– pomoćna varijabla „counter“, koja uzima vrijednosti od 1 do
)
.
Aproksimacijom eksperimentalnih tačaka sa različitim funkcijama dobićemo različite vrednosti, a očigledno, tamo gde je ovaj zbir manji, ta funkcija je tačnija.
Takav metod postoji i zove se metoda najmanjeg modula. Međutim, u praksi je postao mnogo rašireniji metoda najmanjih kvadrata, u kojem se moguće negativne vrijednosti eliminiraju ne modulom, već kvadriranjem odstupanja:
, nakon čega se radi na odabiru funkcije takve da je zbir kvadrata odstupanja 
bio što manji. Zapravo, odatle potiče naziv metode.
A sada se vraćamo na još jednu važnu točku: kao što je gore navedeno, odabrana funkcija bi trebala biti prilično jednostavna - ali postoji i mnogo takvih funkcija: linearno , hiperbolično , eksponencijalna , logaritamski , kvadratni itd. I, naravno, ovdje bih odmah želio „smanjiti polje aktivnosti“. Koju klasu funkcija trebam odabrati za istraživanje? Primitivna, ali efikasna tehnika:
– Najlakši način je da prikažete tačke na crtežu i analizirati njihovu lokaciju. Ako imaju tendenciju da trče u pravoj liniji, onda biste trebali potražiti jednačina prave 
sa optimalnim vrijednostima i . Drugim riječima, zadatak je pronaći TAKVE koeficijente tako da zbir kvadrata odstupanja bude najmanji.
Ako se tačke nalaze, na primjer, uzduž hiperbola, onda je očito jasno da će linearna funkcija dati lošu aproksimaciju. U ovom slučaju tražimo najpovoljnije koeficijente za jednadžbu hiperbole 
– oni koji daju minimalni zbir kvadrata 
.
Sada imajte na umu da u oba slučaja govorimo funkcije dvije varijable, čiji su argumenti pretraživali parametre zavisnosti:
A u suštini moramo riješiti standardni problem - pronaći minimalna funkcija dvije varijable.
Prisjetimo se našeg primjera: pretpostavimo da se tačke "prodavnice" obično nalaze u pravoj liniji i postoji svaki razlog vjerovati u prisutnost linearna zavisnost promet od maloprodajnog prostora. Nađimo TAKVE koeficijente “a” i “be” takve da je zbir kvadrata odstupanja 
bio najmanji. Sve je kao i obično - prvo Parcijalni derivati 1. reda. Prema pravilo linearnosti Možete razlikovati odmah ispod ikone sume: 
Ako želite da iskoristite ove informacije za esej ili seminarski rad, bit ću vam veoma zahvalan na linku na listi izvora, na nekoliko mjesta ćete naći ovako detaljne proračune: 
Kreirajmo standardni sistem: 
Svaku jednačinu smanjujemo za "dva" i, pored toga, "razbijamo" zbrojeve: 
Napomena
: nezavisno analizirati zašto se “a” i “be” mogu izdvojiti izvan ikone zbira. Inače, formalno se to može učiniti sa sumom 
Prepišimo sistem u "primijenjenom" obliku: 
nakon čega počinje da se pojavljuje algoritam za rješavanje našeg problema:
Znamo li koordinate tačaka? Znamo. Iznosi 
možemo li ga naći? Lako. Hajde da napravimo najjednostavnije sistem dvije linearne jednadžbe u dvije nepoznate(“a” i “biti”). Rešavamo sistem, npr. Cramerova metoda, kao rezultat toga dobijamo stacionarnu tačku. Provjeravam dovoljan uslov za ekstrem, možemo potvrditi da je u ovom trenutku funkcija 
dostiže tačno minimum. Provjera uključuje dodatne proračune i stoga ćemo je ostaviti iza scene (ako je potrebno, okvir koji nedostaje može se vidjetiEvo
)
. Izvlačimo konačan zaključak:
Funkcija 
na najbolji mogući način (barem u usporedbi s bilo kojom drugom linearnom funkcijom) približava eksperimentalne tačke . Grubo govoreći, njegov graf prolazi što je moguće bliže ovim tačkama. U tradiciji ekonometrija rezultirajuća aproksimirajuća funkcija se također poziva uparena jednačina linearne regresije
.
Problem koji se razmatra je od velike praktične važnosti. U našem primjeru, jednadžba. omogućava vam da predvidite koji trgovinski promet ("Igrek") trgovina će imati jednu ili drugu vrijednost prodajnog prostora (jedno ili drugo značenje "x"). Da, rezultirajuća prognoza će biti samo prognoza, ali će se u mnogim slučajevima pokazati prilično tačnom.
Analiziraću samo jedan problem sa „stvarnim“ brojevima, jer u tome nema poteškoća - svi proračuni su na nivou nastavnog plana i programa 7.-8. U 95 posto slučajeva od vas će se tražiti da pronađete samo linearnu funkciju, ali na samom kraju članka pokazaću da nije teže pronaći jednadžbe optimalne hiperbole, eksponencijalne i nekih drugih funkcija.
U stvari, ostaje samo distribuirati obećane dobrote - tako da možete naučiti rješavati takve primjere ne samo precizno, već i brzo. Pažljivo proučavamo standard:
Zadatak
Kao rezultat proučavanja odnosa između dva indikatora, dobijeni su sljedeći parovi brojeva: 
Koristeći metodu najmanjih kvadrata, pronađite linearnu funkciju koja najbolje aproksimira empirijsku (iskusan) podaci. Napravite crtež na kojem ćete konstruirati eksperimentalne točke i graf aproksimirajuće funkcije u kartezijanskom pravokutnom koordinatnom sistemu 
. Pronađite zbroj kvadrata odstupanja između empirijske i teorijske vrijednosti. Saznajte da li bi ova funkcija bila bolja (sa stanovišta metode najmanjih kvadrata) približiti eksperimentalne tačke.
Imajte na umu da su značenja “x” prirodna, a ovo ima karakteristično smisleno značenje, o kojem ću govoriti malo kasnije; ali one, naravno, mogu biti i razlomke. Osim toga, ovisno o sadržaju određenog zadatka, vrijednosti "X" i "igra" mogu biti potpuno ili djelomično negativne. Pa, dobili smo zadatak „bez lica“ i počinjemo ga rješenje:
Nalazimo koeficijente optimalne funkcije kao rješenje sistema: 
U svrhu kompaktnijeg snimanja, varijabla “counter” može se izostaviti, jer je već jasno da se zbrajanje vrši od 1 do .
Pogodnije je izračunati potrebne količine u obliku tabele: 
Izračuni se mogu izvršiti na mikrokalkulatoru, ali je mnogo bolje koristiti Excel - i brže i bez grešaka; pogledajte kratak video:
Tako dobijamo sledeće sistem:
Ovdje možete pomnožiti drugu jednačinu sa 3 i oduzmi 2. od 1. jednačine član po član. Ali to je sreća - u praksi sistemi često nisu dar, au takvim slučajevima štedi Cramerova metoda:
, što znači da sistem ima jedinstveno rješenje.
Hajde da proverimo. Razumijem da ne želite, ali zašto preskakati greške gdje se apsolutno ne mogu propustiti? Zamenimo pronađeno rešenje u levu stranu svake jednačine sistema:
Dobijene su desne strane odgovarajućih jednačina, što znači da je sistem ispravno riješen.
Dakle, željena aproksimirajuća funkcija: – od sve linearne funkcije Ona je ta koja najbolje aproksimira eksperimentalne podatke.
Za razliku od direktno
zavisnost prometa prodavnice od njene površine, pronađena zavisnost je obrnuto
(princip "što više, to manje"), a ovu činjenicu odmah otkriva negativac nagib. Funkcija 
nam govori da povećanjem određenog indikatora za 1 jedinicu, vrijednost zavisnog indikatora opada u prosjeku za 0,65 jedinica. Kako kažu, što je veća cijena heljde, to se manje prodaje.
Da bismo nacrtali graf aproksimirajuće funkcije, nalazimo njene dvije vrijednosti:
i izvedite crtež: 
Konstruisana prava linija se zove linija trenda
(naime, linearna linija trenda, tj. u opštem slučaju, trend nije nužno ravna linija). Svima je poznat izraz „biti u trendu“ i mislim da ovaj termin ne treba dodatno komentarisati.
Izračunajmo zbir kvadrata odstupanja 
između empirijskih i teorijskih vrijednosti. Geometrijski, ovo je zbir kvadrata dužina segmenata "maline" (od kojih su dva toliko mala da se ni ne vide).
Sumiramo proračune u tabeli: 
Opet, mogu se raditi ručno za svaki slučaj, dat ću primjer za 1. točku: 
ali mnogo je efikasnije to učiniti na već poznati način:
Ponavljamo još jednom: Šta znači dobijeni rezultat? Od sve linearne funkcije y funkcija indikator je najmanji, odnosno u svojoj porodici je najbolja aproksimacija. I ovdje, usput, konačno pitanje problema nije slučajno: šta ako predložena eksponencijalna funkcija 
da li bi bilo bolje približiti eksperimentalne tačke?
Nađimo odgovarajući zbir kvadrata odstupanja - da bismo ih razlikovali, označit ću ih slovom "epsilon". Tehnika je potpuno ista: 
I opet, za svaki slučaj, kalkulacije za 1. tačku: 
U Excelu koristimo standardnu funkciju EXP (sintaksu možete pronaći u Excel pomoći).
Zaključak: , što znači da eksponencijalna funkcija aproksimira eksperimentalne tačke lošije od prave linije .
Ali ovdje treba napomenuti da je „gore“. ne znači još, što je loše. Sada sam napravio graf ove eksponencijalne funkcije - i on takođe prolazi blizu tačaka 
- toliko da je bez analitičkog istraživanja teško reći koja je funkcija preciznija.
Ovim je rješenje završeno i vraćam se na pitanje prirodnih vrijednosti argumenta. U različitim studijama, obično ekonomskim ili sociološkim, prirodni „X” se koriste za broj mjeseci, godina ili drugih jednakih vremenskih intervala. Razmotrite, na primjer, sljedeći problem:
Dostupni su sljedeći podaci o prometu trgovine na malo za prvu polovicu godine:
Koristeći analitičko pravolinijsko poravnanje, odredite obim prometa za jul.
Da, nema problema: numerišemo mjesece 1, 2, 3, 4, 5, 6 i koristimo uobičajeni algoritam, kao rezultat toga dobijamo jednačinu - jedino što se, kada je vrijeme u pitanju, obično koriste slovo "te" (iako ovo nije kritično). Rezultirajuća jednačina pokazuje da je u prvoj polovini godine trgovinski promet porastao u prosjeku za 27,74 jedinice. mjesečno. Hajde da dobijemo prognozu za jul (mjesec br. 7): d.e.
A ovakvih zadataka je bezbroj. Oni koji žele mogu koristiti dodatnu uslugu i to moju Excel kalkulator (demo verzija), koji rješava analizirani problem gotovo trenutno! Dostupna je radna verzija programa na razmjeni ili za simbolična naknada.
Na kraju lekcije, kratke informacije o pronalaženju zavisnosti nekih drugih vrsta. Zapravo, nema mnogo toga za reći, budući da osnovni pristup i algoritam rješenja ostaju isti.
Pretpostavimo da raspored eksperimentalnih tačaka liči na hiperbolu. Zatim, da biste pronašli koeficijente najbolje hiperbole, morate pronaći minimum funkcije - svako može izvršiti detaljne proračune i doći do sličnog sistema: 
Sa formalne tehničke tačke gledišta, dobija se iz “linearnog” sistema 
(označimo ga zvjezdicom) zamjenjujući "x" sa . Pa, šta je sa iznosima? 
izračunati, nakon čega do optimalnih koeficijenata “a” i “be” pri ruci.
Ako postoje svi razlozi za vjerovanje da su bodovi nalaze se duž logaritamske krivulje, a zatim za pronalaženje optimalnih vrijednosti nalazimo minimum funkcije 
. Formalno, u sistemu (*) treba zamijeniti sa: 
Kada obavljate proračune u Excelu, koristite funkciju LN. Priznajem da mi ne bi bilo posebno teško napraviti kalkulatore za svaki od razmatranih slučajeva, ali bi ipak bilo bolje da sami „programirate“ proračune. Video zapisi lekcija za pomoć.
Sa eksponencijalnom zavisnošću situacija je malo komplikovanija. Da bismo stvar sveli na linearni slučaj, uzimamo funkciju logaritam i koristimo svojstva logaritma:
Sada, upoređujući rezultujuću funkciju sa linearnom funkcijom, dolazimo do zaključka da u sistemu (*) mora biti zamenjeno sa , i – sa . Radi praktičnosti, označimo: 
Imajte na umu da je sistem riješen u odnosu na i, stoga, nakon pronalaženja korijena, ne smijete zaboraviti pronaći sam koeficijent.
Da približim eksperimentalne tačke optimalna parabola 
, trebalo bi da se nađe minimalna funkcija tri varijable 
. Nakon izvođenja standardnih radnji, dobijamo sljedeće "radi" sistem:
Da, naravno, ovdje ima više iznosa, ali nema nikakvih poteškoća pri korištenju vaše omiljene aplikacije. I na kraju, reći ću vam kako brzo izvršiti provjeru koristeći Excel i izgraditi željenu liniju trenda: kreirajte dijagram raspršenja, odaberite bilo koju od tačaka mišem i desnim klikom odaberite opciju "Dodaj liniju trenda". Zatim odaberite vrstu grafikona i na kartici "Opcije" aktivirati opciju "Prikaži jednačinu na dijagramu". OK
Kao i uvijek, želim završiti članak s nekom lijepom frazom, a zamalo sam otkucala “Budi u trendu!” Ali na vrijeme se predomislio. I ne zato što je to stereotipno. Ne znam kako je nikome, ali ne želim baš da pratim promovirani američki, a pogotovo evropski trend =) Zato želim da se svako od vas drži svoje linije!
http://www.grandars.ru/student/vysshaya-matematika/metod-naimenshih-kvadratov.html
Metoda najmanjih kvadrata jedna je od najčešćih i najrazvijenijih zbog svoje jednostavnost i efikasnost metoda za procjenu parametara linearnih ekonometrijskih modela. Istovremeno, kada se koristi, treba biti oprezan, jer modeli konstruirani pomoću njega možda neće zadovoljiti niz zahtjeva za kvalitetom svojih parametara i, kao rezultat toga, ne „dobro“ odražavaju obrasce razvoja procesa. .
Razmotrimo detaljnije postupak za procjenu parametara linearnog ekonometrijskog modela metodom najmanjih kvadrata. Takav model općenito se može predstaviti jednadžbom (1.2):
y t = a 0 + a 1 x 1t +...+ a n x nt + ε t.
Početni podaci pri procjeni parametara a 0 , a 1 ,..., a n je vektor vrijednosti zavisne varijable y= (y 1 , y 2 , ... , y T)" i matrica vrijednosti nezavisnih varijabli
u kojoj prva kolona, koja se sastoji od jedinica, odgovara koeficijentu modela.
Metoda najmanjih kvadrata dobila je ime na osnovu osnovnog principa da procjene parametara dobijene na njenoj osnovi moraju zadovoljiti: zbir kvadrata greške modela treba biti minimalan.
Primjeri rješavanja zadataka metodom najmanjih kvadrata
Primjer 2.1. Trgovačko preduzeće ima mrežu od 12 prodavnica, informacije o aktivnostima koje su prikazane u tabeli. 2.1.
Menadžment preduzeća želi da zna kako veličina godišnjeg prometa zavisi od maloprodajnog prostora prodavnice.
Tabela 2.1
| Broj prodavnice | Godišnji promet, milion rubalja. | Maloprodajna površina, hiljada m2 |
| 19,76 | 0,24 | |
| 38,09 | 0,31 | |
| 40,95 | 0,55 | |
| 41,08 | 0,48 | |
| 56,29 | 0,78 | |
| 68,51 | 0,98 | |
| 75,01 | 0,94 | |
| 89,05 | 1,21 | |
| 91,13 | 1,29 | |
| 91,26 | 1,12 | |
| 99,84 | 1,29 | |
| 108,55 | 1,49 |
Rješenje najmanjih kvadrata. Označimo godišnji promet te prodavnice, milion rubalja; - maloprodajna površina te radnje, hiljada m2.
Sl.2.1. Dijagram raspršenosti za primjer 2.1
Da bismo odredili oblik funkcionalnog odnosa između varijabli i konstruisaćemo dijagram raspršenja (slika 2.1).
Na osnovu dijagrama raspršenosti možemo zaključiti da godišnji promet pozitivno ovisi o maloprodajnom prostoru (tj. y će rasti s povećanjem). Najprikladniji oblik funkcionalnog povezivanja je linearno.
Informacije za dalje proračune prikazane su u tabeli. 2.2. Koristeći metodu najmanjih kvadrata, procjenjujemo parametre linearnog jednofaktorskog ekonometrijskog modela
Tabela 2.2
| t | y t | x 1t | y t 2 | x 1t 2 | x 1t y t |
| 19,76 | 0,24 | 390,4576 | 0,0576 | 4,7424 | |
| 38,09 | 0,31 | 1450,8481 | 0,0961 | 11,8079 | |
| 40,95 | 0,55 | 1676,9025 | 0,3025 | 22,5225 | |
| 41,08 | 0,48 | 1687,5664 | 0,2304 | 19,7184 | |
| 56,29 | 0,78 | 3168,5641 | 0,6084 | 43,9062 | |
| 68,51 | 0,98 | 4693,6201 | 0,9604 | 67,1398 | |
| 75,01 | 0,94 | 5626,5001 | 0,8836 | 70,5094 | |
| 89,05 | 1,21 | 7929,9025 | 1,4641 | 107,7505 | |
| 91,13 | 1,29 | 8304,6769 | 1,6641 | 117,5577 | |
| 91,26 | 1,12 | 8328,3876 | 1,2544 | 102,2112 | |
| 99,84 | 1,29 | 9968,0256 | 1,6641 | 128,7936 | |
| 108,55 | 1,49 | 11783,1025 | 2,2201 | 161,7395 | |
| S | 819,52 | 10,68 | 65008,554 | 11,4058 | 858,3991 |
| Prosjek | 68,29 | 0,89 |
dakle,
Dakle, sa povećanjem maloprodajnog prostora za 1 hiljadu m2, pod jednakim uslovima, prosječni godišnji promet raste za 67,8871 miliona rubalja.
Primjer 2.2. Menadžment kompanije je primetio da godišnji promet zavisi ne samo od prodajnog prostora prodavnice (vidi primer 2.1), već i od prosečnog broja posetilaca. Relevantne informacije su prikazane u tabeli. 2.3.
Tabela 2.3
Rješenje. Označimo - prosječan broj posjetilaca te prodavnice dnevno, hiljada ljudi.
Da bismo odredili oblik funkcionalnog odnosa između varijabli i konstruisaćemo dijagram raspršenja (slika 2.2).
Na osnovu dijagrama raspršenosti možemo zaključiti da godišnji promet pozitivno zavisi od prosječnog broja posjetitelja dnevno (tj. y će rasti s povećanjem). Oblik funkcionalne zavisnosti je linearan.
Rice. 2.2. Dijagram raspršenosti za primjer 2.2
Tabela 2.4
| t | x 2t | x 2t 2 | y t x 2t | x 1t x 2t |
| 8,25 | 68,0625 | 163,02 | 1,98 | |
| 10,24 | 104,8575 | 390,0416 | 3,1744 | |
| 9,31 | 86,6761 | 381,2445 | 5,1205 | |
| 11,01 | 121,2201 | 452,2908 | 5,2848 | |
| 8,54 | 72,9316 | 480,7166 | 6,6612 | |
| 7,51 | 56,4001 | 514,5101 | 7,3598 | |
| 12,36 | 152,7696 | 927,1236 | 11,6184 | |
| 10,81 | 116,8561 | 962,6305 | 13,0801 | |
| 9,89 | 97,8121 | 901,2757 | 12,7581 | |
| 13,72 | 188,2384 | 1252,0872 | 15,3664 | |
| 12,27 | 150,5529 | 1225,0368 | 15,8283 | |
| 13,92 | 193,7664 | 1511,016 | 20,7408 | |
| S | 127,83 | 1410,44 | 9160,9934 | 118,9728 |
| Prosjek | 10,65 |
Općenito, potrebno je odrediti parametre dvofaktorskog ekonometrijskog modela
y t = a 0 + a 1 x 1t + a 2 x 2t + ε t
Informacije potrebne za dalje proračune prikazane su u tabeli. 2.4.
Procijenimo parametre linearnog dvofaktorskog ekonometrijskog modela koristeći metodu najmanjih kvadrata.
dakle,
Procjena koeficijenta =61,6583 pokazuje da će, pod istim uvjetima, povećanjem maloprodajnog prostora za 1 hiljadu m 2, godišnji promet porasti u prosjeku za 61,6583 miliona rubalja.
Procjena koeficijenta = 2,2748 to pokazuje, pod jednakim uslovima, uz povećanje prosječnog broja posjetilaca na hiljadu stanovnika. dnevno, godišnji promet će se povećati u prosjeku za 2,2748 miliona rubalja.
Primjer 2.3. Koristeći informacije predstavljene u tabeli. 2.2 i 2.4, procijenite parametar jednofaktorskog ekonometrijskog modela
gdje je centrirana vrijednost godišnjeg prometa te prodavnice, miliona rubalja; - centrirana vrijednost prosječnog dnevnog broja posjetilaca t-te prodavnice, hiljada ljudi. (vidi primjere 2.1-2.2).
Rješenje. Dodatne informacije potrebne za proračune prikazane su u tabeli. 2.5.
Tabela 2.5
| -48,53 | -2,40 | 5,7720 | 116,6013 | |
| -30,20 | -0,41 | 0,1702 | 12,4589 | |
| -27,34 | -1,34 | 1,8023 | 36,7084 | |
| -27,21 | 0,36 | 0,1278 | -9,7288 | |
| -12,00 | -2,11 | 4,4627 | 25,3570 | |
| 0,22 | -3,14 | 9,8753 | -0,6809 | |
| 6,72 | 1,71 | 2,9156 | 11,4687 | |
| 20,76 | 0,16 | 0,0348 | 3,2992 | |
| 22,84 | -0,76 | 0,5814 | -17,413 | |
| 22,97 | 3,07 | 9,4096 | 70,4503 | |
| 31,55 | 1,62 | 2,6163 | 51,0267 | |
| 40,26 | 3,27 | 10,6766 | 131,5387 | |
| Iznos | 48,4344 | 431,0566 |
Koristeći formulu (2.35), dobijamo
dakle,
http://www.cleverstudents.ru/articles/mnk.html
Primjer.
Eksperimentalni podaci o vrijednostima varijabli X I at date su u tabeli. 
Kao rezultat njihovog poravnanja, dobija se funkcija 
Koristeći metoda najmanjih kvadrata, aproksimira ove podatke linearnom zavisnošću y=ax+b(pronaći parametre A I b). Saznajte koja od dvije linije bolje (u smislu metode najmanjih kvadrata) poravnava eksperimentalne podatke. Napravite crtež.
Rješenje.
U našem primjeru n=5. Ispunjavamo tablicu radi praktičnosti izračunavanja iznosa koji su uključeni u formule potrebnih koeficijenata. 
Vrijednosti u četvrtom redu tabele dobijaju se množenjem vrijednosti 2. retka sa vrijednostima 3. reda za svaki broj i.
Vrijednosti u petom redu tabele dobijaju se kvadriranjem vrijednosti u 2. redu za svaki broj i.
Vrijednosti u posljednjoj koloni tabele su zbroji vrijednosti u redovima.
Za pronalaženje koeficijenata koristimo formule metode najmanjih kvadrata A I b. U njih zamjenjujemo odgovarajuće vrijednosti iz posljednje kolone tabele: 
dakle, y = 0,165x+2,184- željena aproksimirajuća prava linija.
Ostaje da saznamo koja od linija y = 0,165x+2,184 ili bolje aproksimira originalne podatke, odnosno procjenjuje metodom najmanjih kvadrata.
Dokaz.
Tako da kada se nađe A I b funkcija uzima najmanju vrijednost, potrebno je da u ovom trenutku matrica kvadratnog oblika diferencijala drugog reda za funkciju 
bilo pozitivno određeno. Hajde da to pokažemo.
Diferencijal drugog reda ima oblik: 
To je
Prema tome, matrica kvadratnog oblika ima oblik 
a vrijednosti elemenata ne ovise o A I b.
Pokažimo da je matrica pozitivno određena. Da biste to učinili, ugaoni minori moraju biti pozitivni.
Ugaoni minor prvog reda 
. Nejednakost je stroga, budući da su tačke
- Uvodna lekcija besplatno;
- Veliki broj iskusnih nastavnika (maternji i ruski);
- Kursevi NISU za određeni period (mjesec, šest mjeseci, godina), već za određeni broj časova (5, 10, 20, 50);
- Više od 10.000 zadovoljnih kupaca.
- Cijena jedne lekcije sa nastavnikom koji govori ruski je od 600 rubalja, sa izvornim govornikom - od 1500 rubalja
Suština metode najmanjih kvadrata je u pronalaženju parametara modela trenda koji najbolje opisuje tendenciju razvoja bilo koje slučajne pojave u vremenu ili prostoru (trend je linija koja karakteriše tendenciju ovog razvoja). Zadatak metode najmanjih kvadrata (LSM) svodi se na pronalaženje ne samo nekog trend modela, već na pronalaženje najboljeg ili optimalnog modela. Ovaj model će biti optimalan ako je zbroj kvadratnih odstupanja između uočenih stvarnih vrijednosti i odgovarajućih izračunatih vrijednosti trenda minimalan (najmanji):
gdje je kvadratna devijacija između uočene stvarne vrijednosti
i odgovarajuću izračunatu vrijednost trenda,
Stvarna (uočena) vrijednost fenomena koji se proučava,
Izračunata vrijednost modela trenda,
Broj zapažanja fenomena koji se proučava.
MNC se vrlo rijetko koristi samostalno. U pravilu se najčešće koristi samo kao neophodna tehnička tehnika u studijama korelacije. Treba imati na umu da informaciona osnova OLS-a može biti samo pouzdana statistička serija, a broj zapažanja ne bi trebao biti manji od 4, u suprotnom postupci izglađivanja OLS-a mogu izgubiti zdrav razum.
MNC komplet alata se svodi na sljedeće procedure:
Prva procedura. Ispostavlja se postoji li uopće tendencija promjene rezultantnog atributa kada se promijeni odabrani faktor-argument, ili drugim riječima, postoji li veza između “ at " i " X ».
Drugi postupak. Utvrđuje se koja linija (trajektorija) može najbolje opisati ili okarakterizirati ovaj trend.
Treći postupak.
Primjer. Recimo da imamo informacije o prosječnom prinosu suncokreta za farmu koja se proučava (Tabela 9.1).
Tabela 9.1
|
Broj zapažanja |
||||||||||
|
Produktivnost, c/ha |
Budući da je nivo tehnologije proizvodnje suncokreta u našoj zemlji ostao praktično nepromenjen u poslednjih 10 godina, to znači da su, očigledno, fluktuacije prinosa u analiziranom periodu u velikoj meri zavisile od fluktuacija vremenskih i klimatskih uslova. Da li je ovo zaista istina?
Prva OLS procedura. Ispituje se hipoteza o postojanju trenda promene prinosa suncokreta u zavisnosti od promena vremenskih i klimatskih uslova tokom analiziranih 10 godina.
U ovom primjeru, za " y " preporučljivo je uzeti prinos suncokreta, a za " x » – broj posmatrane godine u analiziranom periodu. Testiranje hipoteze o postojanju bilo kakvog odnosa između " x " i " y „može se uraditi na dva načina: ručno i korišćenjem kompjuterskih programa. Naravno, ako imate kompjutersku tehnologiju, ovaj problem se može sam riješiti. Ali da bismo bolje razumjeli MNC alate, preporučljivo je testirati hipotezu o postojanju veze između “ x " i " y » ručno, kada su pri ruci samo olovka i običan kalkulator. U takvim slučajevima hipotezu o postojanju trenda najbolje je vizualno provjeriti lokacijom grafičke slike analizirane serije dinamike – korelacijskog polja:
Korelacijsko polje u našem primjeru nalazi se oko linije koja se polako povećava. To samo po sebi ukazuje na postojanje određenog trenda promjene prinosa suncokreta. Nemoguće je govoriti o prisutnosti bilo kakve tendencije samo kada korelacijsko polje izgleda kao krug, krug, strogo vertikalni ili striktno horizontalni oblak, ili se sastoji od haotično raštrkanih tačaka. U svim ostalim slučajevima, hipoteza o postojanju veze između “ x " i " y “, i nastaviti istraživanje.
Druga OLS procedura. Utvrđuje se koja linija (trajektorija) najbolje može opisati ili okarakterizirati trend promjene prinosa suncokreta u analiziranom periodu.
Ako imate kompjutersku tehnologiju, odabir optimalnog trenda se dešava automatski. U "ručnoj" obradi odabir optimalne funkcije se po pravilu vrši vizualno - prema lokaciji korelacionog polja. Odnosno, na osnovu tipa grafa, bira se jednačina linije koja najbolje odgovara empirijskom trendu (stvarnoj putanji).
Kao što je poznato, u prirodi postoji ogromna raznolikost funkcionalnih ovisnosti, pa je vrlo teško vizualno analizirati čak i mali dio njih. Srećom, u realnoj ekonomskoj praksi većina odnosa može se prilično precizno opisati ili parabolom, ili hiperbolom, ili pravom linijom. S tim u vezi, uz “ručnu” opciju odabira najbolje funkcije, možete se ograničiti samo na ova tri modela.
|
hiperbola: |
||
Parabola drugog reda: :
Lako je uočiti da je u našem primjeru trend promjene prinosa suncokreta u analiziranih 10 godina najbolje okarakterisan ravnom linijom, pa će jednačina regresije biti jednačina prave linije.
Treći postupak. Izračunavaju se parametri regresione jednačine koja karakteriše ovu liniju, odnosno određuje se analitička formula koja opisuje najbolji model trenda.
Pronalaženje vrijednosti parametara jednadžbe regresije, u našem slučaju parametara i , je srž OLS-a. Ovaj proces se svodi na rješavanje sistema normalnih jednačina.
(9.2)
Ovaj sistem jednačina može se prilično lako riješiti Gaussovom metodom. Podsjetimo da su kao rezultat rješenja, u našem primjeru, pronađene vrijednosti parametara i. Dakle, pronađena jednačina regresije će imati sljedeći oblik:
Široko se koristi u ekonometriji u obliku jasne ekonomske interpretacije njenih parametara.
Linearna regresija se svodi na pronalaženje jednačine oblika
ili
Jednačina oblika dozvoljava na osnovu specificiranih vrijednosti parametara X imaju teorijske vrijednosti rezultantne karakteristike, zamjenjujući stvarne vrijednosti faktora u nju X.
Konstrukcija linearne regresije svodi se na procjenu njenih parametara - A I V. Procjene parametara linearne regresije mogu se pronaći korištenjem različitih metoda.
Klasičan pristup procjeni parametara linearne regresije temelji se na metoda najmanjih kvadrata(MNC).
Metoda najmanjih kvadrata nam omogućava da dobijemo takve procjene parametara A I V, pri čemu je zbir kvadrata odstupanja stvarnih vrijednosti rezultantne karakteristike (y) od izračunatog (teorijskog) minimum:
Da biste pronašli minimum funkcije, morate izračunati parcijalne izvode za svaki od parametara A I b i postavite ih jednakima nuli.
Označimo sa S, tada:
Transformacijom formule dobijamo sledeći sistem normalnih jednačina za procenu parametara A I V:
Rješavajući sistem normalnih jednačina (3.5) bilo metodom sekvencijalne eliminacije varijabli ili metodom determinanti, nalazimo tražene procjene parametara A I V.
Parametar V naziva se koeficijent regresije. Njegova vrijednost pokazuje prosječnu promjenu rezultata sa promjenom faktora za jednu jedinicu.
Jednačina regresije je uvijek dopunjena indikatorom bliskosti veze. Kada se koristi linearna regresija, takav pokazatelj je koeficijent linearne korelacije. Postoje različite modifikacije formule koeficijenta linearne korelacije. Neki od njih su dati u nastavku:
Kao što je poznato, koeficijent linearne korelacije je u granicama: -1 ≤ ≤ 1.
Za procjenu kvaliteta odabira linearne funkcije izračunava se kvadrat
Koeficijent linearne korelacije tzv koeficijent determinacije. Koeficijent determinacije karakterizira udio varijanse rezultirajuće karakteristike y, objašnjeno regresijom u ukupnoj varijansi rezultirajuće osobine:
Shodno tome, vrijednost 1 karakterizira udio varijanse y, uzrokovane uticajem drugih faktora koji nisu uzeti u obzir u modelu.
Pitanja za samokontrolu
1. Suština metode najmanjih kvadrata?
2. Koliko varijabli pruža parna regresija?
3. Koji koeficijent određuje bliskost veze između promjena?
4. U kojim granicama se utvrđuje koeficijent determinacije?
5. Procjena parametra b u korelaciono-regresionoj analizi?
1. Christopher Dougherty. Uvod u ekonometriju. - M.: INFRA - M, 2001 - 402 str.
2. S.A. Borodich. Ekonometrija. Minsk DOO “Novo znanje” 2001.
3. R.U. Rakhmetova Kratki kurs iz ekonometrije. Vodič za učenje. Almaty. 2004. -78p.
4. I.I. Eliseeva Econometrics. - M.: “Finansije i statistika”, 2002
5. Mjesečni informativno-analitički časopis.
Nelinearni ekonomski modeli. Modeli nelinearne regresije. Transformacija varijabli.
>Nelinearni ekonomski modeli..
Transformacija varijabli.
Koeficijent elastičnosti.
Ako postoje nelinearni odnosi između ekonomskih fenomena, onda se oni izražavaju pomoću odgovarajućih nelinearnih funkcija: na primjer, jednakostranična hiperbola , parabole drugog stepena itd.
Postoje dvije klase nelinearnih regresija
>1. Regresije koje su nelinearne u odnosu na objašnjavajuće varijable uključene u analizu, ali linearne u odnosu na procijenjene parametre, na primjer:
Polinomi različitih stupnjeva - , ;
Jednakostranična hiperbola - ;
Semilogaritamska funkcija - .
2. Regresije koje su nelinearne u parametrima koji se procjenjuju, na primjer:
Snaga - ;
Demonstrativna - ;
Eksponencijalno - .
Ukupan zbroj kvadrata odstupanja pojedinačnih vrijednosti rezultirajuće karakteristike at od prosječne vrijednosti uzrokovano je uticajem mnogih razloga. Uvjetno podijelimo cijeli niz razloga u dvije grupe: faktor koji se proučava x I drugi faktori.
Ako faktor ne utječe na rezultat, tada je linija regresije na grafu paralelna s osom Oh I
Tada je cijela varijansa rezultirajuće karakteristike posljedica utjecaja drugih faktora i ukupni zbir kvadrata odstupanja će se poklopiti sa ostatkom. Ako drugi faktori ne utiču na rezultat, onda y tied With X funkcionalno i rezidualni zbir kvadrata je nula. U ovom slučaju, zbir kvadrata odstupanja objašnjenih regresijom je isti kao i ukupni zbir kvadrata.
Kako sve tačke korelacionog polja ne leže na regresijskoj liniji, njihovo rasipanje se uvek javlja kao rezultat uticaja faktora X, odnosno regresija at By X, i uzrokovane drugim uzrocima (neobjašnjive varijacije). Pogodnost linije regresije za predviđanje zavisi od toga koji deo ukupne varijacije osobine at objašnjava objašnjenu varijaciju
Očigledno, ako je zbir kvadrata odstupanja zbog regresije veći od preostalog zbira kvadrata, tada je jednadžba regresije statistički značajna i faktor X ima značajan uticaj na rezultat u.
, tj. sa brojem slobode nezavisne varijacije karakteristike. Broj stepeni slobode povezan je sa brojem jedinica populacije n i brojem konstanti koje su određene iz njega. U odnosu na problem koji se proučava, broj stepeni slobode treba da pokaže koliko je nezavisnih odstupanja od n
Procjena značaja regresione jednačine u cjelini data je korištenjem F-Fišerov kriterijum. U ovom slučaju se postavlja nulta hipoteza da je koeficijent regresije jednak nuli, tj. b = 0, a samim tim i faktor X ne utiče na rezultat u.
Neposrednom izračunavanju F-testa prethodi analiza varijanse. Centralno mjesto u njemu zauzima dekompozicija ukupnog zbira kvadrata odstupanja varijable at od prosječne vrijednosti at na dva dijela - "objašnjeno" i "neobjašnjeno":
Ukupan zbroj kvadrata odstupanja;
Zbir kvadratnog odstupanja objašnjenog regresijom;
Preostali zbir kvadrata odstupanja.
Svaki zbir odstupanja na kvadrat povezan je sa brojem stepeni slobode , tj. sa brojem slobode nezavisne varijacije karakteristike. Broj stepena slobode povezan je sa brojem populacijskih jedinica n i sa brojem konstanti određenim iz njega. U odnosu na problem koji se proučava, broj stepeni slobode treba da pokaže koliko je nezavisnih odstupanja od n moguće potrebno za formiranje date sume kvadrata.
Disperzija po stepenu slobodeD.
F-odnosi (F-test):
Ako je nulta hipoteza tačna, tada se faktor i preostale varijanse ne razlikuju jedna od druge. Za H 0 potrebno je opovrgavanje kako bi disperzija faktora nekoliko puta premašila disperziju ostatka. Engleski statističar Snedekor razvio je tabele kritičnih vrednosti F-relacije na različitim nivoima značaja nulte hipoteze i različitog broja stepeni slobode. Vrijednost tabele F-kriterijum je maksimalna vrijednost omjera varijansi koja se može pojaviti u slučaju slučajne divergencije za dati nivo vjerovatnoće prisustva nulte hipoteze. Izračunata vrijednost F-relacije se smatraju pouzdanim ako je o veće od tabele.
U ovom slučaju se odbacuje nulta hipoteza o nepostojanju veze između znakova i izvodi se zaključak o značaju ovog odnosa: F činjenica > F tabela H 0 je odbijen.
Ako je vrijednost manja od prikazane u tabeli F činjenica ‹, F tabela, tada je vjerovatnoća nulte hipoteze veća od određenog nivoa i ne može se odbaciti bez ozbiljnog rizika od izvođenja pogrešnog zaključka o postojanju veze. U ovom slučaju, jednačina regresije se smatra statistički beznačajnom. Ali on ne odstupa.
Standardna greška koeficijenta regresije
Da bi se procijenila značajnost koeficijenta regresije, njegova vrijednost se upoređuje sa njegovom standardnom greškom, odnosno utvrđuje se stvarna vrijednost t-Studentov t-test: koji se zatim poredi sa tabelarnom vrednošću na određenom nivou značajnosti i broju stepeni slobode ( n- 2).
Standardna greška parametra A:
Značajnost koeficijenta linearne korelacije se provjerava na osnovu veličine greške koeficijent korelacije t r:
Ukupna varijansa osobina X:
Višestruka linearna regresija
Izgradnja modela
Višestruka regresija predstavlja regresiju efektivne karakteristike sa dva ili više faktora, odnosno model forme
Regresija može dati dobre rezultate u modeliranju ako se zanemari uticaj drugih faktora koji utiču na predmet proučavanja. Ponašanje pojedinih ekonomskih varijabli ne može se kontrolisati, odnosno nije moguće osigurati jednakost svih ostalih uslova za procjenu uticaja jednog faktora koji se proučava. U ovom slučaju, trebali biste pokušati identificirati utjecaj drugih faktora tako što ćete ih uvesti u model, tj. konstruirati jednadžbu višestruke regresije: y = a+b 1 x 1 +b 2 +…+b p x p + .
Osnovni cilj višestruke regresije je da se izgradi model sa velikim brojem faktora, pri čemu se utvrđuje uticaj svakog od njih posebno, kao i njihov kombinovani uticaj na modelirani indikator. Specifikacija modela uključuje dva niza pitanja: izbor faktora i izbor vrste regresijske jednačine
