Il metodo dei minimi quadrati consente. Il metodo dei minimi quadrati in Excel. Analisi di regressione. Alcuni casi particolari di applicazione pratica del LSM

Il metodo dei minimi quadrati consente. Il metodo dei minimi quadrati in Excel. Analisi di regressione. Alcuni casi particolari di applicazione pratica del LSM

Che trova la più ampia applicazione in vari campi della scienza e della pratica. Può essere fisica, chimica, biologia, economia, sociologia, psicologia e così via. Per volontà del destino, ho spesso a che fare con l'economia, e quindi oggi ti organizzerò un biglietto per un paese fantastico chiamato Econometria=) … Come fai a non volerlo?! È molto buono lì - devi solo decidere! ...Ma quello che probabilmente vuoi sicuramente è imparare a risolvere i problemi minimi quadrati. E soprattutto i lettori diligenti impareranno a risolverli non solo in modo accurato, ma anche MOLTO VELOCE ;-) Ma prima affermazione generale del problema+ esempio correlato:

Lascia che gli indicatori siano studiati in alcune aree tematiche che hanno un'espressione quantitativa. Allo stesso tempo, ci sono tutte le ragioni per credere che l'indicatore dipenda dall'indicatore. Questa ipotesi può essere sia un'ipotesi scientifica che basata sul buon senso elementare. Lasciamo da parte la scienza, tuttavia, ed esploriamo aree più appetitose, vale a dire i negozi di alimentari. Denota con:

– spazio commerciale di un negozio di alimentari, mq,
- fatturato annuo di un negozio di alimentari, milioni di rubli.

È abbastanza chiaro che maggiore è l'area del negozio, maggiore è il suo fatturato nella maggior parte dei casi.

Supponiamo che dopo aver condotto osservazioni/esperimenti/calcoli/ballando con un tamburello, abbiamo a nostra disposizione dati numerici:

Con i negozi di alimentari, penso che tutto sia chiaro: - questa è l'area del 1° negozio, - il suo fatturato annuo, - l'area del 2° negozio, - il suo fatturato annuo, ecc. A proposito, non è affatto necessario avere accesso a materiali classificati: è possibile ottenere una valutazione abbastanza accurata del fatturato utilizzando statistica matematica. Tuttavia, non distrarti, il corso di spionaggio commerciale è già pagato =)

I dati tabulari possono anche essere scritti sotto forma di punti e rappresentati nel modo consueto per noi. sistema cartesiano .

Rispondiamo a una domanda importante: quanti punti sono necessari per uno studio qualitativo?

Piu 'grande e', meglio 'e. Il set minimo ammissibile è composto da 5-6 punti. Inoltre, con una piccola quantità di dati, i risultati "anormali" non dovrebbero essere inclusi nel campione. Quindi, ad esempio, un piccolo negozio d'élite può aiutare ordini di grandezza più dei "loro colleghi", distorcendo così lo schema generale che deve essere trovato!

Se è abbastanza semplice, dobbiamo scegliere una funzione, orario che passa il più vicino possibile ai punti . Tale funzione viene chiamata approssimativo (approssimazione - approssimazione) o funzione teorica . In generale, qui appare immediatamente un ovvio "pretendente" - un polinomio di alto grado, il cui grafico passa per TUTTI i punti. Ma questa opzione è complicata e spesso semplicemente errata. (perché il grafico si "avvolgerà" continuamente e rifletterà male la tendenza principale).

Pertanto, la funzione desiderata deve essere sufficientemente semplice e allo stesso tempo riflettere adeguatamente la dipendenza. Come puoi immaginare, viene chiamato uno dei metodi per trovare tali funzioni minimi quadrati. Innanzitutto, analizziamo la sua essenza in modo generale. Lascia che qualche funzione approssimi i dati sperimentali:


Come valutare l'accuratezza di questa approssimazione? Calcoliamo anche le differenze (deviazioni) tra i valori sperimentali e funzionali (studiamo il disegno). Il primo pensiero che viene in mente è di stimare quanto è grande la somma, ma il problema è che le differenze possono essere negative. (Per esempio, ) e le deviazioni a seguito di tale somma si annulleranno a vicenda. Pertanto, come stima dell'accuratezza dell'approssimazione, si suggerisce di prendere la somma moduli deviazioni:

o in forma piegata: (all'improvviso, chi non lo sa: è l'icona della somma, ed è una variabile ausiliaria-"contatore", che assume valori da 1 a ).

Approssimando i punti sperimentali con diverse funzioni, otterremo diversi valori di , ed è ovvio che dove questa somma è minore, quella funzione è più precisa.

Tale metodo esiste e viene chiamato metodo del modulo minimo. Tuttavia, in pratica è diventato molto più diffuso. metodo dei minimi quadrati, in cui eventuali valori negativi vengono eliminati non dal modulo, ma dalla quadratura degli scostamenti:

, dopo di che gli sforzi sono diretti alla selezione di una funzione tale che la somma delle deviazioni al quadrato era il più piccolo possibile. In realtà, da qui il nome del metodo.

E ora torniamo a un altro punto importante: come notato sopra, la funzione selezionata dovrebbe essere abbastanza semplice, ma ci sono anche molte di queste funzioni: lineare , iperbolico, esponenziale, logaritmico, quadratico eccetera. E, naturalmente, qui vorrei subito "ridurre il campo di attività". Quale classe di funzioni scegliere per la ricerca? Tecnica primitiva ma efficace:

- Il modo più semplice per disegnare punti sul disegno e analizzarne la posizione. Se tendono ad essere in linea retta, allora dovresti cercare equazione di linea retta con valori ottimali e . In altre parole, il compito è trovare TALI coefficienti, in modo che la somma delle deviazioni al quadrato sia la più piccola.

Se i punti si trovano, ad esempio, lungo iperbole, allora è chiaro che la funzione lineare darà una scarsa approssimazione. In questo caso, stiamo cercando i coefficienti più "favorevoli" per l'equazione dell'iperbole - quelli che danno la somma minima dei quadrati .

Ora notate che in entrambi i casi stiamo parlando funzioni di due variabili, i cui argomenti sono opzioni di dipendenza cercate:

E in sostanza, dobbiamo risolvere un problema standard: trovare minimo di una funzione di due variabili.

Ricordiamo il nostro esempio: supponiamo che i punti "negozio" tendano a trovarsi in linea retta e ci siano tutte le ragioni per ritenere la presenza dipendenza lineare fatturato dell'area commerciale. Troviamo TALI coefficienti "a" e "be" in modo che la somma delle deviazioni al quadrato era il più piccolo. Tutto come al solito - prima derivate parziali del 1° ordine. Secondo regola di linearità puoi differenziare proprio sotto l'icona della somma:

Se vuoi usare queste informazioni per un saggio o una tesina, ti sarò molto grato per il link nell'elenco delle fonti, non troverai calcoli così dettagliati da nessuna parte:

Facciamo un sistema standard:

Riduciamo ogni equazione di un "due" e, inoltre, "dividiamo" le somme:

Nota : analizza in modo indipendente il motivo per cui "a" e "be" possono essere rimossi dall'icona della somma. A proposito, formalmente questo può essere fatto con la somma

Riscriviamo il sistema in una forma "applicata":

dopo di che inizia a disegnare l'algoritmo per risolvere il nostro problema:

Conosciamo le coordinate dei punti? Sappiamo. Somme possiamo trovare? Facilmente. Componiamo il più semplice sistema di due equazioni lineari con due incognite("a" e "beh"). Risolviamo il sistema, ad esempio Il metodo di Cramer, risultando in un punto stazionario. Controllo condizione sufficiente per un estremo, possiamo verificare che a questo punto la funzione raggiunge con precisione minimo. La verifica è associata a calcoli aggiuntivi e quindi la lasceremo dietro le quinte. (se necessario è possibile visualizzare la cornice mancante). Traiamo la conclusione finale:

Funzione il modo migliore (almeno rispetto a qualsiasi altra funzione lineare) avvicina i punti sperimentali . In parole povere, il suo grafico passa il più vicino possibile a questi punti. Nella tradizione econometria viene anche chiamata la funzione di approssimazione risultante equazione di regressione lineare accoppiata .

Il problema in esame è di grande importanza pratica. Nella situazione con il nostro esempio, l'equazione permette di prevedere che tipo di fatturato ("yig") sarà al negozio con l'uno o l'altro valore dell'area di vendita (l'uno o l'altro significato di "x"). Sì, la previsione risultante sarà solo una previsione, ma in molti casi risulterà essere abbastanza accurata.

Analizzerò solo un problema con i numeri "reali", poiché non ci sono difficoltà: tutti i calcoli sono a livello del curriculum scolastico nei gradi 7-8. Nel 95% dei casi, ti verrà chiesto di trovare solo una funzione lineare, ma alla fine dell'articolo mostrerò che non è più difficile trovare le equazioni per l'iperbole ottimale, l'esponente e alcune altre funzioni.

In effetti, resta da distribuire le chicche promesse, in modo da imparare a risolvere tali esempi non solo in modo accurato, ma anche rapido. Studiamo attentamente lo standard:

Un compito

Come risultato dello studio della relazione tra due indicatori, sono state ottenute le seguenti coppie di numeri:

Usando il metodo dei minimi quadrati, trova la funzione lineare che meglio approssima l'empirico (esperto) dati. Fare un disegno su cui, in un sistema di coordinate rettangolari cartesiane, tracciare punti sperimentali e un grafico della funzione di approssimazione . Trova la somma delle deviazioni al quadrato tra valori empirici e teorici. Scopri se la funzione è migliore (in termini di metodo dei minimi quadrati) punti sperimentali approssimativi.

Si noti che i valori "x" sono valori naturali, e questo ha un significato significativo caratteristico, di cui parlerò poco dopo; ma, ovviamente, possono essere frazionari. Inoltre, a seconda del contenuto di una particolare attività, entrambi i valori "X" e "G" possono essere completamente o parzialmente negativi. Bene, ci è stato assegnato un compito "senza volto" e lo iniziamo soluzione:

Troviamo i coefficienti della funzione ottima come soluzione del sistema:

Ai fini di una notazione più compatta, la variabile “counter” può essere omessa, poiché è già chiaro che la somma si effettua da 1 a .

È più conveniente calcolare gli importi richiesti in forma tabellare:


I calcoli possono essere eseguiti su un microcalcolatore, ma è molto meglio usare Excel, sia più veloce che senza errori; guarda un breve video:

Quindi, otteniamo quanto segue sistema:

Qui puoi moltiplicare la seconda equazione per 3 e sottrarre la 2a dalla 1a equazione termine per termine. Ma questa è fortuna: in pratica, i sistemi spesso non sono dotati e in questi casi si salva Il metodo di Cramer:
, quindi il sistema ha una soluzione unica.

Facciamo un controllo. Capisco che non voglio, ma perché saltare gli errori dove non puoi assolutamente perderli? Sostituisci la soluzione trovata nel lato sinistro di ciascuna equazione del sistema:

Si ottengono le parti giuste delle equazioni corrispondenti, il che significa che il sistema è risolto correttamente.

Pertanto, la funzione di approssimazione desiderata: – da tutte le funzioni lineari i dati sperimentali sono meglio approssimati da esso.

A differenza di dritto dipendenza del fatturato del negozio dalla sua area, la dipendenza trovata è inversione (principio "più - meno"), e questo fatto è subito rivelato dal negativo coefficiente angolare. Funzione ci informa che con un aumento di un determinato indicatore di 1 unità, il valore dell'indicatore dipendente diminuisce media di 0,65 unità. Come si suol dire, maggiore è il prezzo del grano saraceno, meno venduto.

Per tracciare la funzione di approssimazione, troviamo due dei suoi valori:

ed eseguire il disegno:


Viene chiamata la linea costruita linea di tendenza (vale a dire, una linea di tendenza lineare, ovvero nel caso generale una tendenza non è necessariamente una linea retta). Tutti conoscono l'espressione "essere di tendenza", e penso che questo termine non abbia bisogno di ulteriori commenti.

Calcola la somma delle deviazioni al quadrato tra valori empirici e teorici. Geometricamente, questa è la somma dei quadrati delle lunghezze dei segmenti "cremisi". (due dei quali sono così piccoli che non puoi nemmeno vederli).

Riassumiamo i calcoli in una tabella:


Possono essere ancora eseguiti manualmente, nel caso in cui fornirò un esempio per il 1° punto:

ma è molto più efficiente fare nel modo già noto:

Ripetiamo: qual è il significato del risultato? Da tutte le funzioni lineari funzione l'esponente è il più piccolo, cioè è la migliore approssimazione nella sua famiglia. E qui, tra l'altro, l'ultima domanda del problema non è casuale: e se la funzione esponenziale proposta sarà meglio approssimare i punti sperimentali?

Troviamo la somma corrispondente delle deviazioni al quadrato: per distinguerle, le designerò con la lettera "epsilon". La tecnica è esattamente la stessa:


E ancora per ogni calcolo del fuoco per il 1° punto:

In Excel, utilizziamo la funzione standard SCAD (La sintassi può essere trovata nella Guida di Excel).

Conclusione: , quindi la funzione esponenziale approssima i punti sperimentali peggio della retta .

Ma va notato qui che "peggio" è non significa ancora, che c'è. Ora ho costruito un grafico di questa funzione esponenziale e passa anche vicino ai punti - tanto che senza uno studio analitico è difficile dire quale funzione sia più precisa.

Questo completa la soluzione e torno alla questione dei valori naturali dell'argomento. In vari studi, di regola, economici o sociologici, mesi, anni o altri intervalli di tempo uguali sono numerati con "X" naturale. Si consideri, ad esempio, un problema del genere.

Esempio.

Dati sperimentali sui valori delle variabili X e a sono riportati nella tabella.

Come risultato del loro allineamento, la funzione

Usando metodo dei minimi quadrati, approssima questi dati con una dipendenza lineare y=ascia+b(trova opzioni un e b). Scopri quale delle due linee è migliore (nel senso del metodo dei minimi quadrati) allinea i dati sperimentali. Fai un disegno.

L'essenza del metodo dei minimi quadrati (LSM).

>

Il problema è trovare i coefficienti di dipendenza lineare per i quali la funzione di due variabili un e b assume il valore più piccolo. Cioè, dati i dati un e b la somma delle deviazioni al quadrato dei dati sperimentali dalla retta trovata sarà la più piccola. Questo è il punto centrale del metodo dei minimi quadrati.

Pertanto, la soluzione dell'esempio si riduce a trovare l'estremo di una funzione di due variabili.

Derivazione di formule per il calcolo dei coefficienti.

>

Viene compilato e risolto un sistema di due equazioni con due incognite. Trovare derivate parziali di una funzione rispetto a variabili un e b, uguagliamo queste derivate a zero.

Risolviamo il sistema di equazioni risultante con qualsiasi metodo (ad esempio metodo di sostituzione o ) e ottenere formule per trovare i coefficienti utilizzando il metodo dei minimi quadrati (LSM).

Con i dati un e b funzione assume il valore più piccolo. La prova di questo fatto è data.

Questo è l'intero metodo dei minimi quadrati. Formula per trovare il parametro un contiene le somme , , , e il parametro n- quantità di dati sperimentali. Si consiglia di calcolare separatamente i valori di queste somme. Coefficiente b trovato dopo il calcolo un.

È tempo di ricordare l'esempio originale.

Soluzione.

Nel nostro esempio n=5. Compiliamo la tabella per comodità di calcolare gli importi che sono inclusi nelle formule dei coefficienti richiesti.

I valori nella quarta riga della tabella si ottengono moltiplicando i valori della 2a riga per i valori della 3a riga per ogni numero io.

I valori della quinta riga della tabella si ottengono quadrando i valori della 2a riga per ogni numero io.

I valori dell'ultima colonna della tabella sono le somme dei valori nelle righe.

Usiamo le formule del metodo dei minimi quadrati per trovare i coefficienti un e b. Sostituiamo in essi i valori corrispondenti dall'ultima colonna della tabella:

Di conseguenza, y=0,165x+2,184è la retta approssimata desiderata.

Resta da scoprire quale delle linee y=0,165x+2,184 o approssima meglio i dati originali, ovvero per effettuare una stima utilizzando il metodo dei minimi quadrati.

Stima dell'errore del metodo dei minimi quadrati.

>

Per fare ciò, è necessario calcolare la somma delle deviazioni quadrate dei dati originali da queste linee e , un valore più piccolo corrisponde a una linea che approssima meglio i dati originali in termini di metodo dei minimi quadrati.

Dal , quindi la linea y=0,165x+2,184 approssima meglio i dati originali.

Illustrazione grafica del metodo dei minimi quadrati (LSM).

>

Tutto sembra fantastico nelle classifiche. La linea rossa è la linea trovata y=0,165x+2,184, la linea blu è , i punti rosa sono i dati originali.

A cosa serve, a cosa servono tutte queste approssimazioni?

Personalmente lo utilizzo per risolvere problemi di data smoothing, interpolazione ed estrapolazione (nell'esempio originale, ti potrebbe essere chiesto di trovare il valore del valore osservato y a x=3 o quando x=6 secondo il metodo MNC). Ma di questo parleremo più avanti in un'altra sezione del sito.

Prova.

In modo che quando trovato un e b funzione assume il valore più piccolo, è necessario che a questo punto la matrice della forma quadratica del differenziale del secondo ordine per la funzione era positivo definitivo. Mostriamolo.

Il differenziale del secondo ordine ha la forma:

Questo è

Pertanto, la matrice della forma quadratica ha la forma

e i valori degli elementi non dipendono un e b.

Dimostriamo che la matrice è definita positiva. Ciò richiede che gli angoli minori siano positivi.

Angolare minore di primo ordine . La disuguaglianza è rigorosa, poiché i punti non coincidono. Ciò sarà implicito in quanto segue.

Angolare minore di secondo ordine

Dimostriamolo con il metodo dell'induzione matematica.

Conclusione: valori trovati un e b corrispondono al valore più piccolo della funzione , pertanto, sono i parametri desiderati per il metodo dei minimi quadrati.

Metodo dei minimi quadrati

Nella lezione finale dell'argomento, conosceremo l'applicazione più famosa FNP, che trova la più ampia applicazione in vari campi della scienza e della pratica. Può essere fisica, chimica, biologia, economia, sociologia, psicologia e così via. Per volontà del destino, ho spesso a che fare con l'economia, e quindi oggi ti organizzerò un biglietto per un paese fantastico chiamato Econometria=) … Come fai a non volerlo?! È molto buono lì - devi solo decidere! ...Ma quello che probabilmente vuoi sicuramente è imparare a risolvere i problemi minimi quadrati. E soprattutto i lettori diligenti impareranno a risolverli non solo in modo accurato, ma anche MOLTO VELOCE ;-) Ma prima affermazione generale del problema+ esempio correlato:

Lascia che gli indicatori siano studiati in alcune aree tematiche che hanno un'espressione quantitativa. Allo stesso tempo, ci sono tutte le ragioni per credere che l'indicatore dipenda dall'indicatore. Questa ipotesi può essere sia un'ipotesi scientifica che basata sul buon senso elementare. Lasciamo da parte la scienza, tuttavia, ed esploriamo aree più appetitose, vale a dire i negozi di alimentari. Denota con:

– spazio commerciale di un negozio di alimentari, mq,
- fatturato annuo di un negozio di alimentari, milioni di rubli.

È abbastanza chiaro che maggiore è l'area del negozio, maggiore è il suo fatturato nella maggior parte dei casi.

Supponiamo che dopo aver condotto osservazioni/esperimenti/calcoli/ballando con un tamburello, abbiamo a nostra disposizione dati numerici:

Con i negozi di alimentari, penso che tutto sia chiaro: - questa è l'area del 1° negozio, - il suo fatturato annuo, - l'area del 2° negozio, - il suo fatturato annuo, ecc. A proposito, non è affatto necessario avere accesso a materiali classificati: è possibile ottenere una valutazione abbastanza accurata del fatturato utilizzando statistica matematica. Tuttavia, non distrarti, il corso di spionaggio commerciale è già pagato =)

I dati tabulari possono anche essere scritti sotto forma di punti e rappresentati nel modo consueto per noi. sistema cartesiano .

Rispondiamo a una domanda importante: quanti punti sono necessari per uno studio qualitativo?

Piu 'grande e', meglio 'e. Il set minimo ammissibile è composto da 5-6 punti. Inoltre, con una piccola quantità di dati, i risultati "anormali" non dovrebbero essere inclusi nel campione. Quindi, ad esempio, un piccolo negozio d'élite può aiutare ordini di grandezza più dei "loro colleghi", distorcendo così lo schema generale che deve essere trovato!



Se è abbastanza semplice, dobbiamo scegliere una funzione, orario che passa il più vicino possibile ai punti . Tale funzione viene chiamata approssimativo (approssimazione - approssimazione) o funzione teorica . In generale, qui appare immediatamente un ovvio "pretendente" - un polinomio di alto grado, il cui grafico passa per TUTTI i punti. Ma questa opzione è complicata e spesso semplicemente errata. (perché il grafico si "avvolgerà" continuamente e rifletterà male la tendenza principale).

Pertanto, la funzione desiderata deve essere sufficientemente semplice e allo stesso tempo riflettere adeguatamente la dipendenza. Come puoi immaginare, viene chiamato uno dei metodi per trovare tali funzioni minimi quadrati. Innanzitutto, analizziamo la sua essenza in modo generale. Lascia che qualche funzione approssimi i dati sperimentali:


Come valutare l'accuratezza di questa approssimazione? Calcoliamo anche le differenze (deviazioni) tra i valori sperimentali e funzionali (studiamo il disegno). Il primo pensiero che viene in mente è di stimare quanto è grande la somma, ma il problema è che le differenze possono essere negative. (Per esempio, ) e le deviazioni a seguito di tale somma si annulleranno a vicenda. Pertanto, come stima dell'accuratezza dell'approssimazione, si suggerisce di prendere la somma moduli deviazioni:

o in forma piegata: (per chi non lo sapesse: è l'icona della somma, e - variabile ausiliaria - "contatore", che assume valori da 1 a ) .

Approssimando i punti sperimentali con diverse funzioni, otterremo valori diversi, ed è ovvio dove questa somma è inferiore - quella funzione è più accurata.

Tale metodo esiste e viene chiamato metodo del modulo minimo. Tuttavia, in pratica è diventato molto più diffuso. metodo dei minimi quadrati, in cui eventuali valori negativi vengono eliminati non dal modulo, ma dalla quadratura degli scostamenti:



, dopo di che gli sforzi sono diretti alla selezione di una funzione tale che la somma delle deviazioni al quadrato era il più piccolo possibile. In realtà, da qui il nome del metodo.

E ora torniamo a un altro punto importante: come notato sopra, la funzione selezionata dovrebbe essere abbastanza semplice, ma ci sono anche molte di queste funzioni: lineare , iperbolico , esponenziale , logaritmico , quadratico eccetera. E, naturalmente, qui vorrei subito "ridurre il campo di attività". Quale classe di funzioni scegliere per la ricerca? Tecnica primitiva ma efficace:

- Il modo più semplice per disegnare punti sul disegno e analizzarne la posizione. Se tendono ad essere in linea retta, allora dovresti cercare equazione di linea retta con valori ottimali e . In altre parole, il compito è trovare TALI coefficienti, in modo che la somma delle deviazioni al quadrato sia la più piccola.

Se i punti si trovano, ad esempio, lungo iperbole, allora è chiaro che la funzione lineare darà una scarsa approssimazione. In questo caso, stiamo cercando i coefficienti più "favorevoli" per l'equazione dell'iperbole - quelli che danno la somma minima dei quadrati .

Ora notate che in entrambi i casi stiamo parlando funzioni di due variabili, i cui argomenti sono opzioni di dipendenza cercate:

E in sostanza, dobbiamo risolvere un problema standard: trovare minimo di una funzione di due variabili.

Ricordiamo il nostro esempio: supponiamo che i punti "negozio" tendano a trovarsi in linea retta e ci siano tutte le ragioni per ritenere la presenza dipendenza lineare fatturato dell'area commerciale. Troviamo TALI coefficienti "a" e "be" in modo che la somma delle deviazioni al quadrato era il più piccolo. Tutto come al solito - prima derivate parziali del 1° ordine. Secondo regola di linearità puoi differenziare proprio sotto l'icona della somma:

Se vuoi usare queste informazioni per un saggio o una tesina, ti sarò molto grato per il link nell'elenco delle fonti, non troverai calcoli così dettagliati da nessuna parte:

Facciamo un sistema standard:

Riduciamo ogni equazione di un "due" e, inoltre, "dividiamo" le somme:

Nota : analizza in modo indipendente il motivo per cui "a" e "be" possono essere rimossi dall'icona della somma. A proposito, formalmente questo può essere fatto con la somma

Riscriviamo il sistema in una forma "applicata":

dopo di che inizia a disegnare l'algoritmo per risolvere il nostro problema:

Conosciamo le coordinate dei punti? Sappiamo. Somme possiamo trovare? Facilmente. Componiamo il più semplice sistema di due equazioni lineari con due incognite("a" e "beh"). Risolviamo il sistema, ad esempio Il metodo di Cramer, risultando in un punto stazionario. Controllo condizione sufficiente per un estremo, possiamo verificare che a questo punto la funzione raggiunge con precisione minimo. La verifica è associata a calcoli aggiuntivi e quindi la lasceremo dietro le quinte. (se necessario, è possibile visualizzare la cornice mancantequi ) . Traiamo la conclusione finale:

Funzione il modo migliore (almeno rispetto a qualsiasi altra funzione lineare) avvicina i punti sperimentali . In parole povere, il suo grafico passa il più vicino possibile a questi punti. Nella tradizione econometria viene anche chiamata la funzione di approssimazione risultante equazione di regressione lineare accoppiata .

Il problema in esame è di grande importanza pratica. Nella situazione con il nostro esempio, l'equazione permette di prevedere che tipo di fatturato ("yig") sarà al negozio con l'uno o l'altro valore dell'area di vendita (l'uno o l'altro significato di "x"). Sì, la previsione risultante sarà solo una previsione, ma in molti casi risulterà essere abbastanza accurata.

Analizzerò solo un problema con i numeri "reali", poiché non ci sono difficoltà: tutti i calcoli sono a livello del curriculum scolastico nei gradi 7-8. Nel 95% dei casi, ti verrà chiesto di trovare solo una funzione lineare, ma alla fine dell'articolo mostrerò che non è più difficile trovare le equazioni per l'iperbole ottimale, l'esponente e alcune altre funzioni.

In effetti, resta da distribuire le chicche promesse, in modo da imparare a risolvere tali esempi non solo in modo accurato, ma anche rapido. Studiamo attentamente lo standard:

Un compito

Come risultato dello studio della relazione tra due indicatori, sono state ottenute le seguenti coppie di numeri:

Usando il metodo dei minimi quadrati, trova la funzione lineare che meglio approssima l'empirico (esperto) dati. Fare un disegno su cui, in un sistema di coordinate rettangolari cartesiane, tracciare punti sperimentali e un grafico della funzione di approssimazione . Trova la somma delle deviazioni al quadrato tra valori empirici e teorici. Scopri se la funzione è migliore (in termini di metodo dei minimi quadrati) punti sperimentali approssimativi.

Si noti che i valori "x" sono valori naturali, e questo ha un significato significativo caratteristico, di cui parlerò poco dopo; ma, ovviamente, possono essere frazionari. Inoltre, a seconda del contenuto di una particolare attività, entrambi i valori "X" e "G" possono essere completamente o parzialmente negativi. Bene, ci è stato assegnato un compito "senza volto" e lo iniziamo soluzione:

Troviamo i coefficienti della funzione ottima come soluzione del sistema:

Ai fini di una notazione più compatta, la variabile “counter” può essere omessa, poiché è già chiaro che la somma si effettua da 1 a .

È più conveniente calcolare gli importi richiesti in forma tabellare:


I calcoli possono essere eseguiti su un microcalcolatore, ma è molto meglio usare Excel, sia più veloce che senza errori; guarda un breve video:

Quindi, otteniamo quanto segue sistema:

Qui puoi moltiplicare la seconda equazione per 3 e sottrarre la 2a dalla 1a equazione termine per termine. Ma questa è fortuna: in pratica, i sistemi spesso non sono dotati e in questi casi si salva Il metodo di Cramer:
, quindi il sistema ha una soluzione unica.

Facciamo un controllo. Capisco che non voglio, ma perché saltare gli errori dove non puoi assolutamente perderli? Sostituisci la soluzione trovata nel lato sinistro di ciascuna equazione del sistema:

Si ottengono le parti giuste delle equazioni corrispondenti, il che significa che il sistema è risolto correttamente.

Pertanto, la funzione di approssimazione desiderata: – da tutte le funzioni lineari i dati sperimentali sono meglio approssimati da esso.

A differenza di dritto dipendenza del fatturato del negozio dalla sua area, la dipendenza trovata è inversione (principio "più - meno"), e questo fatto è subito rivelato dal negativo coefficiente angolare. Funzione ci informa che con un aumento di un determinato indicatore di 1 unità, il valore dell'indicatore dipendente diminuisce media di 0,65 unità. Come si suol dire, maggiore è il prezzo del grano saraceno, meno venduto.

Per tracciare la funzione di approssimazione, troviamo due dei suoi valori:

ed eseguire il disegno:

Viene chiamata la linea costruita linea di tendenza (vale a dire, una linea di tendenza lineare, ovvero nel caso generale una tendenza non è necessariamente una linea retta). Tutti conoscono l'espressione "essere di tendenza", e penso che questo termine non abbia bisogno di ulteriori commenti.

Calcola la somma delle deviazioni al quadrato tra valori empirici e teorici. Geometricamente, questa è la somma dei quadrati delle lunghezze dei segmenti "cremisi". (due dei quali sono così piccoli che non puoi nemmeno vederli).

Riassumiamo i calcoli in una tabella:


Possono essere ancora eseguiti manualmente, nel caso in cui fornirò un esempio per il 1° punto:

ma è molto più efficiente fare nel modo già noto:

Ripetiamo: qual è il significato del risultato? Da tutte le funzioni lineari funzione l'esponente è il più piccolo, cioè è la migliore approssimazione nella sua famiglia. E qui, tra l'altro, l'ultima domanda del problema non è casuale: e se la funzione esponenziale proposta sarà meglio approssimare i punti sperimentali?

Troviamo la somma corrispondente delle deviazioni al quadrato: per distinguerle, le designerò con la lettera "epsilon". La tecnica è esattamente la stessa:


E ancora per ogni calcolo del fuoco per il 1° punto:

In Excel, utilizziamo la funzione standard SCAD (La sintassi può essere trovata nella Guida di Excel).

Conclusione: , quindi la funzione esponenziale approssima i punti sperimentali peggio della retta .

Ma va notato qui che "peggio" è non significa ancora, che c'è. Ora ho costruito un grafico di questa funzione esponenziale e passa anche vicino ai punti - tanto che senza uno studio analitico è difficile dire quale funzione sia più precisa.

Questo completa la soluzione e torno alla questione dei valori naturali dell'argomento. In vari studi, di regola, economici o sociologici, mesi, anni o altri intervalli di tempo uguali sono numerati con "X" naturale. Si consideri, ad esempio, il seguente problema:

Abbiamo i seguenti dati sul fatturato al dettaglio del negozio per la prima metà dell'anno:

Utilizzando l'allineamento analitico in linea retta, trova il volume delle vendite per luglio.

Sì, nessun problema: numeriamo i mesi 1, 2, 3, 4, 5, 6 e utilizziamo il solito algoritmo, dal quale otteniamo un'equazione - l'unica cosa quando si tratta di tempo è solitamente la lettera "te " (anche se non è critico). L'equazione risultante mostra che nella prima metà dell'anno il fatturato è aumentato in media di 27,74 CU. al mese. Ottieni una previsione per luglio (mese #7): Unione Europea.

E compiti simili: l'oscurità è buia. Chi lo desidera può usufruire di un servizio aggiuntivo, ovvero il mio Calcolatrice Excel (versione demo), che il risolve il problema quasi istantaneamente! La versione funzionante del programma è disponibile in cambio o per pagamento simbolico.

Alla fine della lezione, una breve informazione su come trovare dipendenze di altri tipi. In realtà, non c'è niente di speciale da dire, poiché l'approccio fondamentale e l'algoritmo di soluzione rimangono gli stessi.

Assumiamo che la posizione dei punti sperimentali assomigli a un'iperbole. Quindi, per trovare i coefficienti della migliore iperbole, devi trovare il minimo della funzione: chi lo desidera può eseguire calcoli dettagliati e arrivare a un sistema simile:

Da un punto di vista tecnico formale è ottenuto dal sistema "lineare". (segniamolo con un asterisco) sostituendo "x" con . Bene, gli importi calcolare, dopodiché ai coefficienti ottimali "a" e "be" a mano.

Se ci sono tutte le ragioni per credere che i punti sono disposti lungo una curva logaritmica, quindi per cercare i valori ottimali e trovare il minimo della funzione . Formalmente, nel sistema (*) dovrebbe essere sostituito da:

Quando si calcola in Excel, utilizzare la funzione LN. Confesso che non sarà difficile per me creare calcolatrici per ciascuno dei casi in esame, ma sarà comunque meglio se "programmate" voi stessi i calcoli. Video tutorial per aiutare.

Con la dipendenza esponenziale, la situazione è leggermente più complicata. Per ridurre la questione al caso lineare, prendiamo il logaritmo della funzione e usiamo proprietà del logaritmo:

Ora, confrontando la funzione ottenuta con la funzione lineare , giungiamo alla conclusione che nel sistema (*) deve essere sostituito da , e - da . Per comodità indichiamo:

Si noti che il sistema è risolto rispetto a e , e quindi, dopo aver trovato le radici, non bisogna dimenticare di trovare il coefficiente stesso.

Per approssimare punti sperimentali parabola ottimale , dovrebbe essere trovato minimo di una funzione di tre variabili . Dopo aver eseguito le azioni standard, otteniamo il seguente "funzionamento" sistema:

Sì, certo, qui ci sono più importi, ma non ci sono difficoltà nell'utilizzo della tua applicazione preferita. E infine ti spiego come controllare velocemente usando Excel e costruire la linea di tendenza desiderata: crea un grafico a dispersione, seleziona uno qualsiasi dei punti con il mouse e fare clic con il pulsante destro del mouse sull'opzione di selezione "Aggiungi linea di tendenza". Quindi, seleziona il tipo di grafico e nella scheda "Opzioni" attivare l'opzione "Mostra equazione sul grafico". OK

Come sempre, voglio concludere l'articolo con una bella frase, e ho quasi digitato "Sii di tendenza!". Ma col tempo ha cambiato idea. E non perché sia stereotipato. Non so come nessuno, ma non voglio seguire affatto la tendenza americana promossa e soprattutto europea =) Pertanto, auguro a ciascuno di voi di attenersi alla propria linea!

http://www.grandars.ru/student/vysshaya-matematika/metod-naimenshih-kvadratov.html

Il metodo dei minimi quadrati è uno dei più comuni e più sviluppati grazie al suo semplicità ed efficienza dei metodi per la stima dei parametri dei modelli econometrici lineari. Allo stesso tempo, è necessario osservare una certa cautela nell'utilizzo, poiché i modelli costruiti utilizzandolo potrebbero non soddisfare una serie di requisiti per la qualità dei loro parametri e, di conseguenza, non riflettere "bene" i modelli di sviluppo del processo.

Consideriamo più in dettaglio la procedura per stimare i parametri di un modello econometrico lineare utilizzando il metodo dei minimi quadrati. Tale modello in forma generale può essere rappresentato dall'equazione (1.2):

y t = a 0 + a 1 x 1t +...+ a n x nt + ε t .

I dati iniziali quando si stimano i parametri a 0 , a 1 ,..., a n sono il vettore dei valori della variabile dipendente y= (y 1 , y 2 , ... , y T)" e la matrice di valori di variabili indipendenti

in cui la prima colonna, composta da uno, corrisponde al coefficiente del modello .

Il metodo dei minimi quadrati ha preso il nome in base al principio di base che le stime dei parametri ottenute sulla sua base devono soddisfare: la somma dei quadrati dell'errore del modello dovrebbe essere minima.

Esempi di risoluzione di problemi con il metodo dei minimi quadrati

Esempio 2.1. L'impresa commerciale ha una rete composta da 12 negozi, le cui informazioni sulle attività sono presentate nella tabella. 2.1.

Il management dell'azienda vorrebbe sapere in che modo l'entità del fatturato annuo dipende dallo spazio di vendita del punto vendita.

Tabella 2.1

Numero del negozio Fatturato annuo, milioni di rubli Area commerciale, migliaia di m 2
19,76 0,24
38,09 0,31
40,95 0,55
41,08 0,48
56,29 0,78
68,51 0,98
75,01 0,94
89,05 1,21
91,13 1,29
91,26 1,12
99,84 1,29
108,55 1,49

Soluzione dei minimi quadrati. Designiamo - il fatturato annuo del -esimo negozio, milioni di rubli; - area di vendita del esimo negozio, migliaia di m 2.

Fig.2.1. Grafico a dispersione per l'esempio 2.1

Determinare la forma della relazione funzionale tra le variabili e costruire un grafico a dispersione (Fig. 2.1).

Sulla base del diagramma a dispersione, possiamo concludere che il fatturato annuo dipende positivamente dall'area di vendita (cioè, y aumenterà con la crescita di ). La forma più appropriata di connessione funzionale è lineare.

Le informazioni per ulteriori calcoli sono presentate nella tabella. 2.2. Utilizzando il metodo dei minimi quadrati, stimiamo i parametri del modello econometrico lineare a un fattore

Tabella 2.2

t e t x 1t e t 2 x1t2 x 1 t y t
19,76 0,24 390,4576 0,0576 4,7424
38,09 0,31 1450,8481 0,0961 11,8079
40,95 0,55 1676,9025 0,3025 22,5225
41,08 0,48 1687,5664 0,2304 19,7184
56,29 0,78 3168,5641 0,6084 43,9062
68,51 0,98 4693,6201 0,9604 67,1398
75,01 0,94 5626,5001 0,8836 70,5094
89,05 1,21 7929,9025 1,4641 107,7505
91,13 1,29 8304,6769 1,6641 117,5577
91,26 1,12 8328,3876 1,2544 102,2112
99,84 1,29 9968,0256 1,6641 128,7936
108,55 1,49 11783,1025 2,2201 161,7395
S 819,52 10,68 65008,554 11,4058 858,3991
Media 68,29 0,89

In questo modo,

Pertanto, con un aumento dell'area commerciale di 1000 m 2, a parità di altre condizioni, il fatturato medio annuo aumenta di 67,8871 milioni di rubli.

Esempio 2.2. La direzione dell'impresa ha notato che il fatturato annuo dipende non solo dall'area di vendita del negozio (vedi esempio 2.1), ma anche dal numero medio di visitatori. Le informazioni rilevanti sono presentate in tabella. 2.3.

Tabella 2.3

Soluzione. Denota: il numero medio di visitatori del esimo negozio al giorno, migliaia di persone.

Determinare la forma della relazione funzionale tra le variabili e costruire un grafico a dispersione (Fig. 2.2).

Sulla base del diagramma a dispersione, possiamo concludere che il fatturato annuo è correlato positivamente al numero medio di visitatori al giorno (ovvero, y aumenterà con la crescita di ). La forma della dipendenza funzionale è lineare.

Riso. 2.2. Grafico a dispersione per esempio 2.2

Tabella 2.4

t x 2t x 2t 2 yt x 2t x 1 t x 2 t
8,25 68,0625 163,02 1,98
10,24 104,8575 390,0416 3,1744
9,31 86,6761 381,2445 5,1205
11,01 121,2201 452,2908 5,2848
8,54 72,9316 480,7166 6,6612
7,51 56,4001 514,5101 7,3598
12,36 152,7696 927,1236 11,6184
10,81 116,8561 962,6305 13,0801
9,89 97,8121 901,2757 12,7581
13,72 188,2384 1252,0872 15,3664
12,27 150,5529 1225,0368 15,8283
13,92 193,7664 1511,016 20,7408
S 127,83 1410,44 9160,9934 118,9728
Media 10,65

In generale, è necessario determinare i parametri del modello econometrico a due fattori

y t \u003d a 0 + a 1 x 1t + a 2 x 2t + ε t

Le informazioni necessarie per ulteriori calcoli sono presentate nella tabella. 2.4.

Stimiamo i parametri di un modello econometrico lineare a due fattori utilizzando il metodo dei minimi quadrati.

In questo modo,

La valutazione del coefficiente = 61,6583 mostra che, a parità di altre condizioni, con un aumento dell'area commerciale di 1000 m 2, il fatturato annuo aumenterà in media di 61,6583 milioni di rubli.

La stima del coefficiente = 2,2748 mostra che, a parità di altre condizioni, con un aumento del numero medio di visitatori ogni mille persone. al giorno, il fatturato annuo aumenterà in media di 2,2748 milioni di rubli.

Esempio 2.3. Utilizzando le informazioni presentate nella tabella. 2.2 e 2.4, stimare il parametro di un modello econometrico a fattore singolo

dov'è il valore centrato del fatturato annuo del -esimo negozio, milioni di rubli; - valore centrato del numero medio giornaliero di visitatori del t-esimo negozio, migliaia di persone. (vedi esempi 2.1-2.2).

Soluzione. Ulteriori informazioni richieste per i calcoli sono presentate nella tabella. 2.5.

Tabella 2.5

-48,53 -2,40 5,7720 116,6013
-30,20 -0,41 0,1702 12,4589
-27,34 -1,34 1,8023 36,7084
-27,21 0,36 0,1278 -9,7288
-12,00 -2,11 4,4627 25,3570
0,22 -3,14 9,8753 -0,6809
6,72 1,71 2,9156 11,4687
20,76 0,16 0,0348 3,2992
22,84 -0,76 0,5814 -17,413
22,97 3,07 9,4096 70,4503
31,55 1,62 2,6163 51,0267
40,26 3,27 10,6766 131,5387
Somma 48,4344 431,0566

Usando la formula (2.35), otteniamo

In questo modo,

http://www.cleverstudents.ru/articles/mnk.html

Esempio.

Dati sperimentali sui valori delle variabili X e a sono riportati nella tabella.

Come risultato del loro allineamento, la funzione

Usando metodo dei minimi quadrati, approssima questi dati con una dipendenza lineare y=ascia+b(trova opzioni un e b). Scopri quale delle due linee è migliore (nel senso del metodo dei minimi quadrati) allinea i dati sperimentali. Fai un disegno.

Soluzione.

Nel nostro esempio n=5. Compiliamo la tabella per comodità di calcolare gli importi che sono inclusi nelle formule dei coefficienti richiesti.

I valori nella quarta riga della tabella si ottengono moltiplicando i valori della 2a riga per i valori della 3a riga per ogni numero io.

I valori della quinta riga della tabella si ottengono quadrando i valori della 2a riga per ogni numero io.

I valori dell'ultima colonna della tabella sono le somme dei valori nelle righe.

Usiamo le formule del metodo dei minimi quadrati per trovare i coefficienti un e b. Sostituiamo in essi i valori corrispondenti dall'ultima colonna della tabella:

Di conseguenza, y=0,165x+2,184è la retta approssimata desiderata.

Resta da scoprire quale delle linee y=0,165x+2,184 o approssima meglio i dati originali, ovvero per effettuare una stima utilizzando il metodo dei minimi quadrati.

Prova.

In modo che quando trovato un e b funzione assume il valore più piccolo, è necessario che a questo punto la matrice della forma quadratica del differenziale del secondo ordine per la funzione era positivo definitivo. Mostriamolo.

Il differenziale del secondo ordine ha la forma:

Questo è

Pertanto, la matrice della forma quadratica ha la forma

e i valori degli elementi non dipendono un e b.

Dimostriamo che la matrice è definita positiva. Ciò richiede che gli angoli minori siano positivi.

Angolare minore di primo ordine . La disuguaglianza è rigorosa, poiché i punti

  • lezione introduttiva è libero;
  • Un gran numero di insegnanti esperti (madrelingua e di lingua russa);
  • Corsi NON per un determinato periodo (mese, sei mesi, anno), ma per un determinato numero di lezioni (5, 10, 20, 50);
  • Oltre 10.000 clienti soddisfatti.
  • Il costo di una lezione con un insegnante di lingua russa - da 600 rubli, con madrelingua - da 1500 rubli

L'essenza del metodo dei minimi quadrati è nel trovare i parametri di un modello di trend che meglio descriva il trend di sviluppo di qualche fenomeno casuale nel tempo o nello spazio (un trend è una linea che caratterizza il trend di questo sviluppo). Il compito del metodo dei minimi quadrati (OLS) è trovare non solo un modello di tendenza, ma anche il modello migliore o ottimale. Questo modello sarà ottimale se la somma delle deviazioni al quadrato tra i valori effettivi osservati e i corrispondenti valori di tendenza calcolati è minima (la più piccola):

dove è la deviazione standard tra il valore effettivo osservato

e il corrispondente valore di tendenza calcolato,

Il valore effettivo (osservato) del fenomeno in esame,

Valore stimato del modello di trend,

Il numero di osservazioni del fenomeno in studio.

MNC è usato raramente da solo. Di norma, molto spesso viene utilizzato solo come tecnica necessaria negli studi di correlazione. Va ricordato che la base informativa del LSM può essere solo una serie statistica affidabile e il numero di osservazioni non deve essere inferiore a 4, altrimenti le procedure di smoothing del LSM potrebbero perdere il loro buon senso.

Il toolkit OLS si riduce alle seguenti procedure:

Prima procedura. Si scopre se c'è qualche tendenza a cambiare l'attributo risultante quando cambia l'argomento fattore selezionato, o in altre parole, se c'è una connessione tra " a " e " X ».

Seconda procedura. Si determina quale linea (traiettoria) è in grado di descrivere o caratterizzare meglio questa tendenza.

Terza procedura.

Esempio. Supponiamo di avere informazioni sulla resa media di girasole per l'azienda in esame (Tabella 9.1).

Tabella 9.1

Numero di osservazione

Produttività, c/ha

Poiché il livello di tecnologia nella produzione di girasole nel nostro Paese non è cambiato molto negli ultimi 10 anni, significa che, molto probabilmente, le fluttuazioni della resa nel periodo analizzato sono dipese molto dalle fluttuazioni delle condizioni meteorologiche e climatiche. È vero?

Prima procedura MNC. E' in corso di verifica l'ipotesi circa l'esistenza di un andamento della variazione della resa del girasole in funzione delle variazioni delle condizioni meteorologiche e climatiche nel corso dei 10 anni analizzati.

In questo esempio, per " y » si consiglia di prendere la resa di girasole, e per « X » è il numero dell'anno osservato nel periodo analizzato. Testare l'ipotesi sull'esistenza di qualsiasi relazione tra " X " e " y » può essere fatto in due modi: manualmente e con l'ausilio di programmi per computer. Naturalmente, con la disponibilità della tecnologia informatica, questo problema si risolve da solo. Ma, per comprendere meglio il toolkit OLS, è opportuno verificare l'ipotesi sull'esistenza di una relazione tra " X " e " y » manualmente, quando sono a portata di mano solo una penna e una normale calcolatrice. In questi casi, l'ipotesi dell'esistenza di un trend è meglio verificata visivamente dalla posizione dell'immagine grafica della serie storica analizzata - il campo di correlazione:

Il campo di correlazione nel nostro esempio si trova attorno a una linea che aumenta lentamente. Questo di per sé indica l'esistenza di una certa tendenza nel cambiamento della resa del girasole. È impossibile parlare della presenza di una qualsiasi tendenza solo quando il campo di correlazione si presenta come un cerchio, un cerchio, una nuvola rigorosamente verticale o rigorosamente orizzontale, o è costituito da punti sparsi casualmente. In tutti gli altri casi, occorre confermare l'ipotesi dell'esistenza di una relazione tra " X " e " y e continuare la ricerca.

Seconda procedura MNC. Viene determinata quale linea (traiettoria) è in grado di descrivere o caratterizzare meglio l'andamento delle variazioni della resa del girasole per il periodo analizzato.

Con la disponibilità della tecnologia informatica, la selezione dell'andamento ottimale avviene automaticamente. Con l'elaborazione "manuale", la scelta della funzione ottimale viene effettuata, di norma, in modo visivo, dalla posizione del campo di correlazione. Cioè, in base al tipo di grafico, viene selezionata l'equazione della linea, che è più adatta all'andamento empirico (alla traiettoria effettiva).

Come sapete, in natura esiste un'enorme varietà di dipendenze funzionali, quindi è estremamente difficile analizzare visivamente anche una piccola parte di esse. Fortunatamente, nella pratica economica reale, la maggior parte delle relazioni può essere accuratamente descritta da una parabola, un'iperbole o una linea retta. A tal proposito, con l'opzione "manuale" per la selezione della funzione migliore, puoi limitarti a questi tre modelli.

Iperbole:

Parabola del secondo ordine: :

È facile vedere che nel nostro esempio, l'andamento delle variazioni della resa del girasole nei 10 anni analizzati è meglio caratterizzato da una linea retta, quindi l'equazione di regressione sarà un'equazione di linea retta.

Terza procedura. Si calcolano i parametri dell'equazione di regressione che caratterizza questa retta, ovvero si determina una formula analitica che descrive il miglior modello di trend.

Trovare i valori dei parametri dell'equazione di regressione, nel nostro caso, i parametri e , è il nucleo del LSM. Questo processo si riduce alla risoluzione di un sistema di equazioni normali.

(9.2)

Questo sistema di equazioni è facilmente risolvibile con il metodo di Gauss. Ricordiamo che come risultato della soluzione, nel nostro esempio, si trovano i valori dei parametri e. Pertanto, l'equazione di regressione trovata avrà la seguente forma:

È ampiamente utilizzato in econometria sotto forma di una chiara interpretazione economica dei suoi parametri.

La regressione lineare si riduce alla ricerca di un'equazione della forma

o

Digita equazione consente valori di parametro dati X avere valori teorici della caratteristica effettiva, sostituendo in essa i valori effettivi del fattore X.

Costruire una regressione lineare si riduce alla stima dei suoi parametri − un e in. Le stime dei parametri di regressione lineare possono essere trovate con metodi diversi.

Si basa sull'approccio classico alla stima dei parametri di regressione lineare minimi quadrati(MNK).

LSM consente di ottenere tali stime dei parametri un e in, sotto il quale la somma delle deviazioni al quadrato dei valori effettivi del tratto risultante (y) da calcolato (teorico) minimo-minimo:

Per trovare il minimo di una funzione, è necessario calcolare le derivate parziali rispetto a ciascuno dei parametri un e b e li equipara a zero.

Indichiamo con S, quindi:

Trasformando la formula, otteniamo il seguente sistema di equazioni normali per la stima dei parametri un e in:

Risolvendo il sistema di equazioni normali (3.5) o con il metodo della successiva eliminazione di variabili o con il metodo delle determinanti, troviamo le stime dei parametri desiderati un e in.

Parametro in chiamato coefficiente di regressione. Il suo valore mostra la variazione media del risultato con una variazione del fattore di un'unità.

L'equazione di regressione è sempre integrata con un indicatore della tenuta della relazione. Quando si utilizza la regressione lineare, il coefficiente di correlazione lineare funge da indicatore. Ci sono varie modifiche alla formula del coefficiente di correlazione lineare. Alcuni di essi sono elencati di seguito:

Come sapete, il coefficiente di correlazione lineare rientra nei limiti: -1 ≤ ≤ 1.

Per valutare la qualità della selezione di una funzione lineare, viene calcolato il quadrato

Un coefficiente di correlazione lineare chiamato coefficiente di determinazione. Il coefficiente di determinazione caratterizza la proporzione della varianza della caratteristica effettiva si, spiegato dalla regressione, nella varianza totale del tratto risultante:

Di conseguenza, il valore 1 - caratterizza la proporzione di dispersione si, causati dall'influenza di altri fattori non presi in considerazione nel modello.

Domande per l'autocontrollo

1. L'essenza del metodo dei minimi quadrati?

2. Quante variabili forniscono una regressione a coppie?

3. Quale coefficiente determina la tenuta della connessione tra le modifiche?

4. Entro quali limiti viene determinato il coefficiente di determinazione?

5. Stima del parametro b nell'analisi di correlazione-regressione?

1. Christopher Dougherty. Introduzione all'econometria. - M.: INFRA - M, 2001 - 402 pag.

2. SA Borodich. Econometria. Minsk LLC "Nuova conoscenza" 2001.


3. RU Rakhmetova Corso breve di econometria. Esercitazione. Almaty. 2004. -78s.

4. I.I. Eliseeva Econometria. - M.: "Finanza e statistica", 2002

5. Rivista mensile di informazione e analisi.

Modelli economici non lineari. Modelli di regressione non lineare. Conversione variabile.

>

Modelli economici non lineari..

Conversione variabile.

coefficiente di elasticità.

Se esistono relazioni non lineari tra fenomeni economici, allora vengono espresse utilizzando le corrispondenti funzioni non lineari: ad esempio un'iperbole equilatera , parabole di secondo grado, ecc.

Esistono due classi di regressioni non lineari

>

1. Regressioni non lineari rispetto alle variabili esplicative incluse nell'analisi, ma lineari rispetto ai parametri stimati, ad esempio:

Polinomi di vari gradi - , ;

Iperbole equilatero - ;

Funzione semilogaritmica - .

2. Regressioni non lineari nei parametri stimati, ad esempio:

Potenza - ;

dimostrativo -;

Esponenziale - .

La somma totale delle deviazioni al quadrato dei singoli valori dell'attributo risultante a dal valore medio è causato dall'influenza di molti fattori. Dividiamo condizionatamente l'intero insieme di motivi in due gruppi: fattore x studiato e altri fattori.

Se il fattore non influisce sul risultato, la linea di regressione sul grafico è parallela all'asse oh e

Quindi l'intera dispersione dell'attributo risultante è dovuta all'influenza di altri fattori e la somma totale delle deviazioni al quadrato coinciderà con il residuo. Se altri fattori non influiscono sul risultato, allora hai legato Insieme a X funzionalmente e la somma residua dei quadrati è zero. In questo caso, la somma delle deviazioni al quadrato spiegate dalla regressione è uguale alla somma totale dei quadrati.

Poiché non tutti i punti del campo di correlazione giacciono sulla retta di regressione, la loro dispersione avviene sempre come dovuta all'influenza del fattore X, cioè regressione a Su X, e causato dall'azione di altre cause (variazione inspiegabile). L'idoneità della retta di regressione per la previsione dipende da quale parte della variazione totale del tratto a spiega la variazione spiegata

Ovviamente, se la somma delle deviazioni al quadrato dovute alla regressione è maggiore della somma residua dei quadrati, allora l'equazione di regressione è statisticamente significativa e il fattore X ha un impatto significativo sul risultato. y.

, cioè con il numero di libertà di variazione indipendente della caratteristica. Il numero di gradi di libertà è correlato al numero di unità della popolazione n e al numero di costanti da essa determinate. In relazione al problema in esame, il numero di gradi di libertà dovrebbe mostrare da quante deviazioni indipendenti P

La valutazione della significatività dell'equazione di regressione nel suo insieme viene fornita con l'aiuto di F- Il criterio di Fisher. In questo caso, viene avanzata un'ipotesi nulla che il coefficiente di regressione sia uguale a zero, cioè b= 0, e quindi il fattore X non pregiudica il risultato y.

Il calcolo diretto del criterio F è preceduto da un'analisi della varianza. Al centro c'è l'espansione della somma totale delle deviazioni quadrate della variabile a dal valore medio a in due parti - "spiegato" e "non spiegato":

Somma totale delle deviazioni al quadrato;

Somma dei quadrati della deviazione spiegata dalla regressione;

Somma residua della deviazione al quadrato.

Qualsiasi somma di deviazioni al quadrato è correlata al numero di gradi di libertà , cioè con il numero di libertà di variazione indipendente della caratteristica. Il numero di gradi di libertà è correlato al numero di unità di popolazione n e con il numero di costanti da esso determinato. In relazione al problema in esame, il numero di gradi di libertà dovrebbe mostrare da quante deviazioni indipendenti P possibile è necessario per formare una data somma di quadrati.

Dispersione per grado di libertàD.

Rapporti F (criterio F):

Se l'ipotesi nulla è vera, allora il fattore e le varianze residue non differiscono tra loro. Per H 0, è necessaria una confutazione in modo che la varianza del fattore superi più volte il residuo. Lo statistico inglese Snedecor ha sviluppato tabelle di valori critici F-relazioni a diversi livelli di significatività dell'ipotesi nulla ea un diverso numero di gradi di libertà. Valore della tabella F-criterio è il valore massimo del rapporto di varianze che possono verificarsi se divergono casualmente per un dato livello di probabilità della presenza di un'ipotesi nulla. Valore calcolato F-la relazione è riconosciuta affidabile se o è maggiore di quella tabulare.

In questo caso, l'ipotesi nulla sull'assenza di una relazione di caratteristiche viene respinta e si trae una conclusione sul significato di questa relazione: F fatto > tabella F H 0 viene rifiutato.

Se il valore è inferiore alla tabella Fatto F ‹, tabella F, allora la probabilità dell'ipotesi nulla è maggiore di un dato livello e non può essere rifiutata senza un serio rischio di trarre conclusioni errate sulla presenza di una relazione. In questo caso, l'equazione di regressione è considerata statisticamente insignificante. No non devia.

Errore standard del coefficiente di regressione

Per valutare la significatività del coefficiente di regressione, il suo valore viene confrontato con il suo errore standard, ovvero viene determinato il valore effettivo t-Test dello studente: che viene poi confrontato con il valore della tabella ad un certo livello di significatività e il numero di gradi di libertà ( n- 2).

Errore standard del parametro un:

La significatività del coefficiente di correlazione lineare viene verificata in base all'entità dell'errore coefficiente di correlazione r:

Varianza totale di una caratteristica X:

Regressione lineare multipla

Costruzione di modelli

Regressione multiplaè una regressione di una caratteristica effettiva con due o più fattori, cioè un modello della forma

La regressione può dare un buon risultato nella modellazione se si può trascurare l'influenza di altri fattori che influenzano l'oggetto di studio. Il comportamento delle singole variabili economiche non può essere controllato, ovvero non è possibile garantire l'uguaglianza di tutte le altre condizioni per valutare l'influenza di un fattore oggetto di studio. In questo caso, dovresti cercare di identificare l'influenza di altri fattori introducendoli nel modello, ovvero costruire un'equazione di regressione multipla: y = a+b 1 x 1 +b 2 +…+b p x p + .

L'obiettivo principale della regressione multipla è costruire un modello con un gran numero di fattori, determinando al contempo l'influenza di ciascuno di essi individualmente, nonché il loro impatto cumulativo sull'indicatore modellato. La specificazione del modello comprende due aree di domande: la selezione dei fattori e la scelta del tipo di equazione di regressione

© 2022 hozferma.vip - Guida al giardinaggio. Aiuole, paesaggistica, agricoltura