Eine kurze Einführung in die moderne Zeitreihe Definition Eine Zeitreihe ist eine Zufallsfunktion x t eines Arguments t in einer Menge T. Mit anderen Worten, eine Zeitreihe ist eine Familie von Zufallsvariablen. X t-1. X t. X t1. Die allen Elementen in der Menge T entsprechen, wobei T eine abzählbare unendliche Menge sein soll. Definition Eine beobachtete Zeitreihe t t e T o T gilt als Teil einer Realisierung einer Zufallsfunktion x t. Eine unendliche Menge möglicher Verwirklichungen, die beobachtet werden könnten, wird Ensemble genannt. Um die Dinge strenger zu formulieren, ist die Zeitreihe (oder zufällige Funktion) eine reelle Funktion x (w, t) der beiden Variablen w und t mit ww und t T. Wenn wir den Wert von w festlegen. Haben wir eine reelle Funktion x (t w) der Zeit t, die eine Realisierung der Zeitreihen ist. Wenn wir den Wert von t festlegen, haben wir eine Zufallsvariable x (wt). Für einen gegebenen Zeitpunkt gibt es eine Wahrscheinlichkeitsverteilung über x. Somit kann eine Zufallsfunktion x (w, t) entweder als eine Familie von Zufallsvariablen oder als eine Familie von Realisierungen betrachtet werden. Definition Wir definieren die Verteilungsfunktion der Zufallsvariablen w mit t 0 als P o) x (x). Ähnlich können wir die gemeinsame Verteilung für n Zufallsvariablen definieren. Die Punkte, die die Zeitreihenanalyse von gewöhnlichen statistischen Analysen unterscheiden, sind folgende: (1) Die Abhängigkeit von Beobachtungen zu verschiedenen Zeitpunkten spielt eine wesentliche Rolle. Mit anderen Worten, die Reihenfolge der Beobachtungen ist wichtig. In der gewöhnlichen statistischen Analyse wird davon ausgegangen, daß die Beobachtungen voneinander unabhängig sind. (2) Die Domäne von t ist unendlich. (3) Wir müssen eine Schlussfolgerung aus einer Erkenntnis machen. Die Realisierung der Zufallsgröße kann nur einmal zu jedem Zeitpunkt beobachtet werden. In der multivariaten Analyse haben wir viele Beobachtungen über eine endliche Anzahl von Variablen. Dieser kritische Unterschied erfordert die Annahme der Stationarität. Definition Die Zufallsfunktion x t ist streng stationär, wenn alle endlichen Dimensionsverteilungsfunktionen x t gleich bleiben, auch wenn die ganze Gruppe von Punkten t 1. T 2. T n entlang der Zeitachse verschoben wird. Das heißt, wenn für irgendwelche ganzen Zahlen t & sub1; T 2. T n und k. Grafisch könnte man die Realisierung einer streng stationären Reihe als mit nicht nur dem gleichen Pegel in zwei verschiedenen Intervallen abbilden, sondern auch die gleiche Verteilungsfunktion bis hin zu den Parametern, die sie definieren. Die Annahme der Stationarität macht unser Leben einfacher und weniger kostspielig. Ohne Stationarität müssten wir den Prozeß häufig zu jedem Zeitpunkt abtasten, um eine Charakterisierung der Verteilungsfunktionen in der früheren Definition aufzubauen. Stationarität bedeutet, dass wir unsere Aufmerksamkeit auf einige der einfachsten numerischen Funktionen, d. H. Auf die Momente der Verteilungen, beschränken können. Die zentralen Momente sind gegeben durch Definition (i) Der Mittelwert der Zeitreihe t ist d. h. das Moment erster Ordnung. (Ii) Die Autokovarianzfunktion von t ist d. h. das zweite Moment um den Mittelwert. Wenn ts, dann haben Sie die Varianz von x t. Wir wollen die Autokovarianz einer stationären Reihe bezeichnen, wobei k die Differenz zwischen t und s bezeichnet. (Iii) Die Autokorrelationsfunktion (ACF) von t wird verwendet, um die Autokorrelation einer stationären Reihe zu bezeichnen, wobei k die Differenz zwischen t und s bezeichnet. (Iv) Die partielle Autokorrelation (PACF). F kk. Ist die Korrelation zwischen z t und z tk nach Entfernung ihrer gegenseitigen linearen Abhängigkeit von den dazwischenliegenden Variablen z t1. Z t2. Z tk-1. Ein einfacher Weg, die partielle Autokorrelation zwischen z t und z tk zu berechnen, besteht darin, die beiden Regressionen auszuführen und dann die Korrelation zwischen den beiden Restvektoren zu berechnen. Oder, nachdem die Variablen als Abweichung von ihren Mitteln gemessen wurden, kann die partielle Autokorrelation als der LS-Regressionskoeffizient auf zt in dem Modell gefunden werden, wo der Punkt über der Variable anzeigt, dass er als eine Abweichung von seinem Mittel gemessen wird. (V) Die Yule-Walker-Gleichungen liefern eine wichtige Beziehung zwischen den partiellen Autokorrelationen und den Autokorrelationen. Multiplizieren Sie beide Seiten der Gleichung 10 mit z tk-j und nehmen Sie Erwartungen. Dieser Vorgang ergibt die folgende Differenzengleichung in den Autokovarianzen bzw. in den Autokorrelationen. Diese scheinbar einfache Darstellung ist wirklich ein mächtiges Ergebnis. Für j1,2. K können wir das vollständige System von Gleichungen schreiben, bekannt als die Yule-Walker-Gleichungen. Aus der linearen Algebra wissen Sie, dass die Matrix von r s von vollem Rang ist. Daher ist es möglich, die Cramers-Regel sukzessive für k1,2 anzuwenden. Um das System für die partiellen Autokorrelationen zu lösen. Die ersten drei sind Wir haben drei wichtige Ergebnisse auf streng stationäre Serien. Die Implikation ist, dass wir jede endliche Realisierung der Sequenz verwenden können, um den Mittelwert zu schätzen. Zweite . Wenn t streng stationär ist und E t 2 lt dann die Implikation ist, dass die Autokovarianz nur von der Differenz zwischen t und s abhängt, nicht von ihrem chronologischen Zeitpunkt. Wir könnten jedes Paar von Intervallen bei der Berechnung der Autokovarianz verwenden, solange die Zeit zwischen ihnen konstant war. Und wir können jede endliche Realisierung der Daten verwenden, um die Autokovarianzen abzuschätzen. Drittens ist die Autokorrelationsfunktion im Falle einer strengen Stationarität gegeben durch Die Implikation ist, daß die Autokorrelation auch nur von der Differenz zwischen t und s abhängt und wiederum durch eine endliche Realisierung der Daten abgeschätzt werden kann. Wenn unser Ziel darin besteht, Parameter zu schätzen, die die möglichen Realisierungen der Zeitreihen beschreiben, dann ist vielleicht eine strenge Stationarität zu restriktiv. Wenn zum Beispiel der Mittelwert und die Kovarianz von xt konstant sind und unabhängig vom chronologischen Zeitpunkt sind, dann ist es vielleicht nicht wichtig, dass die Verteilungsfunktion für verschiedene Zeitintervalle gleich ist. Definition Eine zufällige Funktion ist im weiten Sinne stationär oder schwach stationär oder stationär im Khinchins-Sinne oder Kovarianz stationär, wenn m 1 (t) m und m 11 (t, s) stationär ist. Strenge Stationarität bedeutet für sich genommen keine schwache Stationarität. Eine schwache Stationarität bedeutet keine strenge Stationarität. Strenge Stationarität mit E t 2 lt bedeutet schwache Stationarität. Ergodische Theoreme beschäftigen sich mit der Frage nach den notwendigen und hinreichenden Bedingungen, um aus einer einzigen Realisierung einer Zeitreihe Schlußfolgerungen zu ziehen. Grundsätzlich geht es darum, schwache Stationarität vorauszusetzen. Theorem Ist t schwach stationär mit mittlerer m und Kovarianzfunktion, so existiert für jedes gegebene e gt 0 und h gt 0 eine Anzahl T o, so dass für alle T gt T o. Wenn und nur wenn diese notwendige und hinreichende Bedingung ist, dass die Autokovarianzen aussterben, wobei in diesem Fall die Stichprobe ein konsistenter Schätzer für das Bevölkerungsmittel ist. Korollar Wenn t mit E tk xt 2 lt für alle t schwach stationär ist und E tk xtx tsk x ts unabhängig von t für irgendeine ganze Zahl s ist, dann genau dann, wenn A eine Konsequenz der Korollarfolge die Annahme ist, dass xtx tk ist Schwach stationär. Das Ergodische Theorem ist nicht mehr als ein Gesetz von großer Zahl, wenn die Beobachtungen korreliert werden. Man könnte an dieser Stelle über die praktischen Implikationen der Stationarität fragen. Die häufigste Anwendung der Verwendung von Zeitreihen-Techniken ist die Modellierung makroökonomischer Daten, sowohl theoretische als auch atheoretische. Als Beispiel für das erstere könnte man ein Multiplikator-Beschleuniger-Modell haben. Damit das Modell stationär ist, müssen die Parameter bestimmte Werte haben. Ein Test des Modells soll dann die relevanten Daten sammeln und die Parameter abschätzen. Wenn die Schätzungen nicht mit der Stationarität übereinstimmen, muss man entweder das theoretische Modell oder das statistische Modell oder beide überdenken. Wir haben jetzt genügend Maschinen, um über die Modellierung von univariaten Zeitreihendaten zu sprechen. Es gibt vier Schritte in dem Prozess. 1. Modellmodelle aus theoretischen und / oder erfahrungswissenschaftlichen Erkenntnissen 2. Identifizierung von Modellen anhand der Daten (beobachtete Reihen) 3. Modellierung der Modelle (Schätzung der Modellparameter) 4. Modellprüfung Wenn im vierten Schritt wir Nicht zufrieden sind, kehren wir zu Schritt eins zurück. Der Prozess ist iterativ, bis eine weitere Überprüfung und Anpassung keine weitere Ergebnisverbesserung ergibt. Schematische Darstellung Einige einfache Operationen umfassen die folgenden: Der Rückschaltoperator Bx tx t-1 Der Vorwärtsoperator Fx tx t1 Der Differenzoperator 1 - B xtxt - x t-1 Der Differenzoperator verhält sich in einer Weise, die mit der Konstanten in einer unendlichen Reihe übereinstimmt . Das heißt, sein Inverses ist die Grenze einer unendlichen Summe. Das heißt, -1 (1-B) -1 1 / (1-B) 1BB 2. Der Integrationsoperator S -1 Da es der Inverse des Differenzoperators ist, dient der Integrationsoperator der Konstruktion der Summe. MODELLBAU In diesem Abschnitt bieten wir einen kurzen Überblick über die häufigsten Arten von Zeitreihenmodellen. Ausgehend von den Kenntnissen des Datenerzeugungsprozesses greift eine Klasse von Modellen zur Identifikation und Schätzung aus den folgenden Möglichkeiten auf. Definition Angenommen, Ex t m ist unabhängig von t. Ein Modell wie mit den Merkmalen wird das autoregressive Modell der Ordnung p, AR (p) genannt. Definition Wenn eine zeitabhängige Variable (stochastischer Prozeß) t genügt, dann heißt t die Eigenschaft von Markov. Auf der LHS ist die Erwartung auf die unendliche Geschichte von x t bedingt. Auf der RHS ist es nur auf einen Teil der Geschichte bedingt. Aus den Definitionen wird ein AR (p) - Modell gesehen, um die Markov-Eigenschaft zu erfüllen. Mit Hilfe des Backshift-Operators können wir unser AR-Modell als Theorem schreiben. Eine notwendige und hinreichende Bedingung für den stationären Zustand des AR (p) - Modells ist, dass alle Wurzeln des Polynoms außerhalb des Einheitskreises liegen. Beispiel 1 Betrachten Sie die AR (1) Die einzige Wurzel von 1 - f 1 B 0 ist B 1 / f 1. Voraussetzung für die Stationarität ist die. Wenn dann die beobachtete Reihe sehr frenetisch erscheinen wird. Z. B. Wobei der weiße Rauschterm eine Normalverteilung mit einem Nullmittelwert und einer Varianz von Eins aufweist. Die Beobachtungen wechseln Schild mit fast jeder Beobachtung. Wenn auf der anderen Seite, dann wird die beobachtete Reihe viel glatter sein. In dieser Reihe neigt eine Beobachtung dazu, über 0 zu sein, wenn ihr Vorgänger über Null war. Die Varianz von e t ist s e 2 für alle t. Die Varianz von xt. Wenn es null bedeutet, ist gegeben durch Da die Reihe stationär ist, können wir schreiben. Die Autokovarianzfunktion einer AR (1) - Serie ist also ohne Verlust der Allgemeingültigkeit m 0. Um zu sehen, wie dies in den AR-Parametern aussieht, machen wir von der Tatsache Gebrauch, dass wir xt wie folgt schreiben können: Multiplizieren mit x Tk und nehmen Erwartungen Beachten Sie, dass die Autokovarianzen sterben, wie k wächst. Die Autokorrelationsfunktion ist die Autokovarianz geteilt durch die Varianz des weißen Rauschterms. Oder, . Mit Hilfe der früheren Yule-Walker-Formeln für die partiellen Autokorrelationen haben wir für ein AR (1) die Autokorrelationen exponentiell abgestorben und die partiellen Autokorrelationen weisen eine Spike bei einer Verzögerung auf und sind danach null. Beispiel 2 Betrachten Sie das AR (2) Das zugehörige Polynom im Lag-Operator. Die Wurzeln konnten unter Verwendung der quadratischen Formel gefunden werden. Die Wurzeln sind Wenn die Wurzeln real sind und als Folge wird die Serie exponentiell in Reaktion auf einen Schock abnehmen. Wenn die Wurzeln komplex sind und die Reihe als gedämpfte Vorzeichenwelle erscheinen wird. Der Stationaritätssatz legt die folgenden Bedingungen für die AR-Koeffizienten fest Die Autokovarianz für einen AR (2) - Prozeß mit Nullmittelwert wird durch die Varianz von xt dividiert Durch die Varianz von xt ergibt sich die Autokorrelationsfunktion Da wir schreiben können Ähnlich für die zweite und dritte Autokorrelation Die andere Autokorrelationen werden rekursiv gelöst. Ihr Muster wird durch die Wurzeln der linearen Differenzgleichung zweiter Ordnung geregelt. Wenn die Wurzeln reell sind, werden die Autokorrelationen exponentiell abnehmen. Wenn die Wurzeln komplex sind, erscheinen die Autokorrelationen als gedämpfte Sinuswelle. Unter Verwendung der Yule-Walker-Gleichungen sind die partiellen Autokorrelationen wieder, die Autokorrelationen sterben langsam ab. Die partielle Autokorrelation hingegen ist sehr charakteristisch. Es hat Spikes an ein und zwei Lags und ist danach null. Theorem Ist x t ein stationärer AR (p) - Prozeß, so kann er äquivalent als lineares Filtermodell geschrieben werden. Das heißt, das Polynom im Rückschaltoperator kann invertiert werden und das AR (p) als ein gleitender Durchschnitt von unendlicher Ordnung stattdessen geschrieben werden. Beispiel Angenommen, z t ist ein AR (1) Prozess mit Null-Mittelwert. Was für die aktuelle Periode gilt, muss auch für vorherige Perioden gelten. Durch rekursive Substitution können wir quadratisch beide Seiten schreiben und Erwartungen nehmen, die rechte Seite verschwindet als k seit f lt 1. Daher konvergiert die Summe zu zt im quadratischen Mittel. Wir können das AR (p) - Modell als linearen Filter umschreiben, den wir als stationär kennen. Die Autokorrelationsfunktion und die partielle Autokorrelation allgemein Angenommen, dass eine stationäre Reihe z t mit mittlerem Nullpunkt als autoregressiv bekannt ist. Die Autokorrelationsfunktion eines AR (p) wird gefunden, indem die Erwartungen und die Durchdringung durch die Varianz von zt erfüllt werden. Dies besagt, daß rk eine Linearkombination der vorherigen Autokorrelationen ist. Wir können dies bei der Anwendung der Cramers-Regel auf (i) beim Lösen von fkk verwenden. Insbesondere können wir sehen, dass diese lineare Abhängigkeit f kk 0 für k gt p bewirkt. Diese Besonderheit der Autoregressive-Serie wird sehr nützlich sein, wenn es um die Identifizierung einer unbekannten Serie kommt. Wenn Sie entweder MathCAD oder MathCAD Explorer haben, dann können Sie experimentieren interactivley mit einigen der AR (p) Ideen präsentiert hier. Moving Average Models Betrachten Sie ein dynamisches Modell, in dem die Reihe von Interesse hängt nur von einem Teil der Geschichte des weißen Rausch Begriff. Schematisch kann dies als Definition dargestellt werden Definition Angenommen, t ist eine unkorrelierte Folge von i. i.d. Zufallsvariablen mit null Mittelwert und endlicher Varianz. Dann ist ein gleitender Durchschnittsprozess der Ordnung q, MA (q) gegeben durch Theorem: Ein gleitender Durchschnittsprozess ist immer stationär. Beweis: Anstatt mit einem allgemeinen Beweis zu beginnen, machen wir es für einen bestimmten Fall. Angenommen, z t ist MA (1). Dann. Natürlich hat ein t null mittlere und endliche Varianz. Der Mittelwert von zt ist stets Null. Die Autokovarianzen werden gegeben durch Sie können sehen, dass der Mittelwert der Zufallsvariablen nicht von der Zeit in irgendeiner Weise abhängt. Sie können auch sehen, dass die Autokovarianz hängt nur von den Offset s, nicht auf, wo in der Reihe, die wir beginnen. Wir können das gleiche Resultat allgemeiner mit dem beginnen, das die alternierende gleitende mittlere Darstellung hat. Man betrachte zunächst die Varianz von zt. Durch rekursive Substitution können Sie zeigen, dass dies gleich der Summe ist, die wir kennen, um eine konvergente Reihe zu sein, so dass die Varianz endlich ist und von der Zeit unabhängig ist. Die Kovarianzen sind z. B. Sie können auch sehen, dass die Auto-Kovarianzen nur von den relativen Zeitpunkten abhängen, nicht vom chronologischen Zeitpunkt. Unsere Schlussfolgerung ist, dass ein MA () - Prozess stationär ist. Für den allgemeinen MA (q) - Prozeß ist die Autokorrelationsfunktion gegeben durch Die partielle Autokorrelationsfunktion stirbt glatt ab. Sie können dies sehen, indem Sie den Prozess invertieren, um einen AR () - Prozess zu erhalten. Wenn Sie entweder MathCAD oder MathCAD Explorer haben, können Sie interaktiv mit einigen der hier vorgestellten MA (q) Ideen experimentieren. Mixed Autoregressive - Moving Average Models Definition Eine t ist eine unkorrelierte Folge von i. i.d. Zufallsvariablen mit null Mittelwert und endlicher Varianz. Dann ist ein autoregressiver, gleitender Durchschnittsprozess der Ordnung (p, q), ARMA (p, q) gegeben. Die Wurzeln des autoregressiven Operators müssen alle außerhalb des Einheitskreises liegen. Die Anzahl der Unbekannten ist pq2. Die p und q sind offensichtlich. Die 2 enthält die Ebene des Prozesses, m. Und die Varianz des weißen Rauschterms sa 2. Angenommen, wir kombinieren unsere AR - und MA-Darstellungen so, dass das Modell und die Koeffizienten so normiert sind, dass bo1. Dann wird diese Darstellung als ARMA (p, q) bezeichnet Wurzeln von (1) liegen alle außerhalb des Einheitskreises. Angenommen, die y t werden als Abweichungen vom Mittelwert gemessen, so dass wir ein o fallen lassen können. Dann wird die Autokovarianz-Funktion abgeleitet, wenn jgtq dann die MA-Begriffe ausfallen in Erwartung zu geben, Das ist, die Autokovarianz-Funktion sieht aus wie eine typische AR für Lags nach q sie sterben glatt nach q, aber wir können nicht sagen, wie 1,2,133, Q aussehen wird. Wir können auch die PACF für diese Klasse von Modell zu untersuchen. Das Modell kann geschrieben werden. Wir können dies als MA (inf) - Prozeß schreiben, der nahelegt, daß die PACFs langsam aussterben. Mit einiger Arithmetik konnten wir zeigen, dass dies nur nach den ersten p Spikes des AR-Teils geschieht. Empirisches Gesetz Tatsächlich kann eine stationäre Zeitreihe durch p 2 und q 2 repräsentiert werden. Wenn Ihr Unternehmen eine gute Annäherung an die Realität und die Güte der Anpassung liefern soll, ist Ihr Kriterium dann ein verschwenderisches Modell bevorzugt. Wenn Ihr Interesse prädiktive Effizienz ist, dann ist das sparsame Modell bevorzugt. Experimentieren Sie mit den ARMA Ideen, die oben mit einem MathCAD Arbeitsblatt. Autoregressive Integrate Moving Average Modelle MA Filter AR Filter Filter integrieren Manchmal ist der Prozess oder die Serie, die wir zu modellieren versuchen, nicht stationär in Ebenen. Aber es könnte stationär sein in, sagen wir, erste Unterschiede. Das heißt, in seiner ursprünglichen Form sind die Autokovarianzen für die Reihe nicht unabhängig vom chronologischen Zeitpunkt. Wenn wir jedoch eine neue Serie konstruieren, die die ersten Unterschiede der ursprünglichen Reihe ist, so erfüllt diese neue Reihe die Definition der Stationarität. Dies ist oft der Fall mit wirtschaftlichen Daten, die sehr trendorientiert ist. Definition Nehmen wir an, daß zt nicht stationär ist, aber zt - zt-1 die Definition der Stationarität erfüllt. Auch bei, das weiße Rauschen Begriff hat endlichen Mittelwert und Varianz. Wir können das Modell als Dies ist ein ARIMA (p, d, q) - Modell zu schreiben. P identifiziert die Reihenfolge des AR-Operators, d identifiziert das Einschalten. Q identifiziert die Reihenfolge des MA-Operators. Liegen die Wurzeln von f (B) außerhalb des Einheitskreises, so können wir ARIMA (p, d, q) als lineares Filter umschreiben. D. h. Kann er als MA () geschrieben werden. Wir behalten uns die Diskussion über die Erkennung von Einheitswurzeln für einen anderen Teil der Vorlesungsunterlagen vor. Man betrachte ein dynamisches System mit x t als Eingangsreihe und y t als Ausgangsreihe. Schematisch haben wir Diese Modelle sind eine diskrete Analogie der linearen Differentialgleichungen. Wir nehmen die folgende Beziehung an, wobei b eine reine Verzögerung anzeigt. Daran erinnern, dass (1-B). Wenn das Koeffizientenpolynom auf yt invertiert werden kann, dann kann das Modell geschrieben werden, da V (B) als Impulsantwortfunktion bekannt ist. Wir werden diese Terminologie wieder in unserer späteren Diskussion der Vektor autoregressive kommen. Kointegrations - und Fehlerkorrekturmodellen. MODEL-IDENTIFIKATION Nachdem man sich für eine Klasse von Modellen entschieden hat, muss man nun die Reihenfolge der Prozesse identifizieren, die die Daten erzeugen. Das heißt, man muss die Vermutungen hinsichtlich der Reihenfolge der AR - und MA-Prozesse, die die stationäre Serie treiben, gut abschätzen. Eine stationäre Serie ist vollständig durch ihre Mittelwerte und Autokovarianzen charakterisiert. Aus analytischen Gründen arbeiten wir meistens mit Autokorrelationen und partiellen Autokorrelationen. Diese beiden grundlegenden Werkzeuge haben einzigartige Muster für stationäre AR - und MA-Prozesse. Man könnte Beispielabschätzungen der Autokorrelation und partiellen Autokorrelationsfunktionen berechnen und sie mit den tabellierten Ergebnissen für Standardmodelle vergleichen. Beispiel Autokovarianz Funktion Stichprobe Autokorrelationsfunktion Die Beispielteilautokorrelationen werden die Autokorrelationen verwenden und partielle Autokorrelationen sind im Prinzip einfach. Angenommen, wir haben eine Folge zt. Mit Nullmittelwert, der AR (1) ist. Wenn wir die Regression von z t2 auf z t1 und z t ausführen würden, würden wir erwarten, daß der Koeffizient auf zt nicht von Null verschieden ist, da diese partielle Autokorrelation Null sein sollte. Andererseits sollten die Autokorrelationen für diese Reihe exponentiell abnehmen, um die Verzögerungen zu erhöhen (siehe das obige Beispiel AR (1)). Angenommen, die Serie ist wirklich ein gleitender Durchschnitt. Die Autokorrelation sollte überall Null sein, aber bei der ersten Verzögerung. Die partielle Autokorrelation sollte exponentiell absterben. Sogar von unserem sehr flüchtigen Rummel durch die Grundlagen der Zeitreihenanalyse wird deutlich, dass es eine Dualität zwischen AR - und MA-Prozessen gibt. Diese Dualität kann in der folgenden Tabelle zusammengefasst werden. In dieser Vorlesung studieren wir Kovarianz stationäre lineare stochastische Prozesse, eine Klasse von Modellen routinemäßig verwendet, um ökonomische und finanzielle Zeitreihen zu studieren Diese Klasse hat den Vorteil, einfach genug, um von einem eleganten und beschrieben werden Umfassende Theorie relativ breit in Bezug auf die Arten der Dynamik, die es darstellen können Wir betrachten diese Modelle in der Zeit-und Frequenzbereich ARMA-Prozesse Wir werden viel Aufmerksamkeit auf lineare Kovarianz stationäre Modelle mit einer endlichen Anzahl von Parametern Im Besonderen werden wir Studieren stationäre ARMA-Prozesse, die einen Eckpfeiler der Standardtheorie der Zeitreihenanalyse bilden Es ist bekannt, dass alle ARMA-Prozesse im linearen Zustandraum dargestellt werden können. Jedoch besitzt ARMA eine wichtige Struktur, die es wertvoll macht, sie separat zu studieren Spektralanalyse Im Frequenzbereich wird auch Spektralanalyse genannt. Im Wesentlichen bietet die Spektralanalyse eine alternative Repräsentation der Autokovarianz eines kovarianten stationären Prozesses. Eine zweite Repräsentation dieses wichtigen Objekts leuchtet ein neues Licht auf die Dynamik des betreffenden Prozesses, ermöglicht eine einfachere, Mehr traktierbare Repräsentation in bestimmten wichtigen Fällen Die berühmte Fourier-Transformation und ihre Inversen werden verwendet, um zwischen den beiden Darstellungen abzubilden. Anderes Lesen Lesen Sie hierzu eine Sequenz von Zufallsvariablen (), die durch (t in mathbb Z) indiziert sind und Werte in ( Mathbb R) So beginnt () in der unendlichen Vergangenheit und erstreckt sich auf die unendliche Zukunft 8212 eine bequeme und standardmäßige Annahme Wie in anderen Bereichen erfordert eine erfolgreiche ökonomische Modellierung typischerweise die Identifizierung einiger tiefer Struktur in diesem Prozess, die relativ konstant über die Zeit ist (Xt, X, ldots) liefert zusätzliche Informationen darüber 8212, wie wir aus Daten lernen. Aus diesem Grund werden wir uns im Folgenden auf Prozesse konzentrieren, die stationär 8212 sind oder nach einer Transformation so werden (Differentialgleichung, Kointegration usw.) Definitionen Ein reellwertiger stochastischer Prozess () heißt Kovarianz stationär, wenn sein Mittelwert (mu: mathbb E Xt) nicht von (t) abhängt. Für alle (k) in (mathbb Z). Ist die (k) - te Autokovarianz (gamma (k): mathbb E (Xt - mu) (X - mu)) endlich und hängt nur von (k) ab. Die Funktion (Gammakolon mathbb Z bis mathbb R) wird Autokovarianz genannt Funktion des Prozesses In dieser Vorlesung arbeiten wir ausschließlich mit Null-Mittelwert (dh (mu 0)) Kovarianz stationären Prozessen Die Null-Mittel-Annahme kostet nichts in der Allgemeinheit, da die Arbeit mit Prozessen ohne Null-Null-Mittel nicht mehr geht Als eine Konstante addieren Beispiel 1: Weißes Rauschen Vielleicht ist die einfachste Klasse von kovarianz stationären Prozessen die weißen Rauschenprozesse Ein Prozess () wird ein weißes Rauschen prozess genannt, wenn (mathbb E epsilont 0) (gamma (k) sigma2 mathbf 1) für einige Beispiel 2: Allgemeine lineare Prozesse Aus dem einfachen Baustein, der durch weißes Rauschen zur Verfügung gestellt wird, können wir eine sehr flexible Kovarianzfamilie konstruieren (sigma gt 0) (Hier ist mathbf 1 als 1 definiert, wenn (k 0) Stationäre Prozesse 8212 die allgemeinen linearen Prozesse (1) Xt sum psij epsilon, qquad t in mathbb Z Die Sequenz () wird oft als linearer Filter bezeichnet. Manipulationen lassen sich bestätigen, dass die Autokovarianzfunktion für (1) bei Cauchy liegt - Schwartz-Ungleichung kann man zeigen, dass der letzte Ausdruck endlich ist. Es ist klar, dass es nicht von (t) abhängt. Wold8217s Zerlegung Bemerkenswert ist, dass die Klasse der allgemeinen linearen Prozesse einen langen Weg zur Beschreibung der gesamten Klasse der Null-Mittel-Kovarianz-stationären Prozesse bringt. Insbesondere sagt der Satz von Wold8217, dass jeder Null-Mittelwert-Kovarianz - ) Kann als Xt sum geschrieben werden psij epsilon etat () ist weißes Rauschen () ist quadratisch summierbar (etat) kann als lineare Funktion von (X, X, ldots) ausgedrückt werden und ist vollkommen vorhersehbar über willkürlich lange Horizonte Für Intuition und weiter Diskussion, s. Sar87. P. 286 AR und MA Allgemeine lineare Prozesse sind eine sehr breite Klasse von Prozessen, und es zahlt sich oft aus, auf diejenigen zu spezialisieren, für die es eine Repräsentation mit nur endlich vielen Parametern gibt (In der Tat zeigt die Erfahrung, dass Modelle mit einer relativ geringen Anzahl von Parametern typischerweise Ein sehr einfaches Beispiel für ein solches Modell ist das AR (1) - Prozeß. Durch direkte Substitution ist es leicht zu verifizieren, daß (Xt sum phij epsilon) Hence () ein allgemeiner linearer Prozeß ist (2) zum vorherigen Ausdruck für (Xt). (Sigma 1) Ein weiteres sehr einfaches Verfahren ist das MA (1) - Verfahren Xt epsilont theta epsilon Sie werden in der Lage sein, diese Funktion für (phi 0.8) und (phi -0.8) (0) sigma2 (1 theta2), quad gamma (1) sigma2 theta, quad text quad gamma (k) 0 quad forall, k gt 1end Das AR (1) kann zu einem AR verallgemeinert werden (p )) Und ebenso für das MA (1) Setzt man dies alles zusammen, erhalten wir die ARMA-Prozesse Ein stochastischer Prozess () wird als autoregressiver gleitender Durchschnittsprozess bezeichnet. Oder ARMA ((p, q)), wenn es geschrieben werden kann als (5) Xt phi1 X cdots phip X epsilont theta1 epsilon cdots thetaq epsilon wobei () ist weißes Rauschen Es gibt eine alternative Schreibweise für ARMA-Prozesse in der gemeinsamen Verwendung Um den Lag-Operator (L) Def. Bei beliebiger Variable (Yt). (Lk Yt: Y) Es stellt sich heraus, dass LAG-Operatoren zu sehr prägnanten Ausdrücken für lineare stochastische Prozesse führen können. Algebraische Manipulationen, die den Lag-Operator als gewöhnlichen Skalar behandeln, sind häufig legitim. Können wir die Polynome (phi (z)) und (theta (z)) zulassen (5), da (6) L0 Xt - phi1 L1 Xt - cdots - phip Lp Xt L0 epsilont theta1 L1 epsilont cdots thetaq Lq epsilont (7) phi (z): 1 - phi1 z - cdots - phip zp Quadtext quad theta (z): 1 theta1 z cdots thetaq zq Dann ist (6) Epsilont Im Folgenden gehen wir immer davon aus, dass die Wurzeln des Polynoms (phi (z)) außerhalb des Einheitskreises in der komplexen Ebene liegen. Diese Bedingung genügt, um sicherzustellen, dass der ARMA ((p, q)) - Prozess eine Konvarianz ist Das bedeutet, dass bei Vorliegen eines ARMA ((p, q)) - Prozesses (), der die Einheitskreisbedingung erfüllt, eine quadratische summierbare Folge () mit (Xt sum psij) existiert Epsilon) für alle (t) Die Sequenz () kann durch eine rekursive Prozedur erhalten werden, die auf Seite 79 von CC08 umrissen wird. In diesem Zusammenhang wird die Funktion (t mapsto psit) oft als Impulsantwortfunktion bezeichnet. Autokovarianzfunktionen bieten eine Vielzahl von Informationen Über Kovarianz-stationäre Prozesse Tatsächlich charakterisiert die Autokovarianz-Funktion für Null-Mittel-Gaußsche Prozesse die gesamte gemeinsame Verteilung. Auch für nicht-Gaußsche Prozesse liefert sie eine signifikante Menge an Informationen. Es zeigt sich, dass es eine alternative Repräsentation der Autokovarianz-Funktion von Ein Kovarianz-stationärer Vorgang, die so genannte Spektraldichte. Manchmal ist die Spektraldichte leichter ableitbar, einfacher zu manipulieren und bietet zusätzliche Intuition. Komplexe Zahlen Bevor wir die Spektraldichte diskutieren, laden wir Sie ein, die Haupteigenschaften komplexer Zahlen zu erinnern (oder überspringen zu (X, y) in mathbb R2), die mit einem spezifischen Begriff der Multiplikation ausgestattet sind, wenn ((x, y)) als betrachtet wird Eine komplexe Zahl, (x) heißt Realteil und (y) heißt Imaginärteil. Der Modul oder Absolutwert einer komplexen Zahl (z (x, y)) ist nur seine euklidische Norm in (mathbb R2). Sondern wird gewöhnlich als (z) anstelle von (z) geschrieben. Das Produkt zweier komplexer Zahlen ((x, y)) und ((u, v)) wird als (xu - vy, xv yu) definiert. Während Addition mit standardmäßigen punktartigen Vektoradditionen Wenn mit diesen Vorstellungen von Multiplikation und Addition begabt wird, bildet die Menge der komplexen Zahlen ein Feld 8212 Addition und Multiplikation gut zusammen, genau wie sie in (mathbb R) Die komplexe Zahl ((x, y )) Wird oft als (xiy) geschrieben. Wobei (i) die imaginäre Einheit genannt wird. (Xiy) (uiv) xu - yv i (xv yu) (xiy) (xiy) (xiy) (xiy) (xiy) ) Konvertiert zurück zu unserer ersten Notation, wird dies ((xu - vy, xv yu)). ((X, y)) und ((u, v)) aus unserer vorherigen Definition. Die komplexen Zahlen werden auch manchmal in ihrer polaren Form (r e) ausgedrückt. (K) 2 lt infty) Die spektrale Dichte (f) von () ist definiert als die diskrete Zeit-Fourier-Transformation von (Gamma), die als spektrale Dichte interpretiert werden soll Seine Autokovarianz-Funktion (Gamma) (Einige Autoren normalisieren den Ausdruck auf der rechten Seite durch Konstanten wie (1 / pi) 8212 die gewählte Konvention macht wenig Unterschied, sofern Sie konsistent sind) Mit der Tatsache, dass (Gamma) gerade ist. In dem Sinne, dass (gamma (t) gamma (-t)) für alle (t). (F (omega) gamma (k) cos (omega k)) Es ist nicht schwer zu bestätigen, daß (f) F (omega)) für alle (omega) Daraus folgt, daß die Werte von (f) auf (0, pi) Bestimmen Sie die Werte von (f) auf allen (mathbb R) 8212 Der Beweis ist eine Übung Aus diesem Grund ist es üblich, die Spektraldichte nur im Intervall (0, pi) aufzuzeichnen. Beispiel 1: Weißes Rauschen Betrachten wir ein Weißrauschverfahren () Mit Standardabweichung (sigma) Es ist einfach zu prüfen, dass wir in diesem Fall (f (omega) sigma2) haben. Insbesondere ist (f) eine konstante Funktion. Wie wir sehen werden, kann dies so interpretiert werden, dass 8220all Frequenzen gleichermaßen vorhanden sind8221 (Weißes Licht hat diese Eigenschaft, wenn sich die Frequenz auf das sichtbare Spektrum bezieht, eine Verbindung, die die Ursprünge des Begriffs liefert Beispiel 2: AR und MA und ARMA Es ist eine Aufgabe, zu zeigen, daß das MA (1) - Verfahren (Xt theta epsilon epsilont) eine spektrale Dichte (10) f (omega) sigma2 (1 2 theta cos (omega) theta2 aufweist ) Mit etwas mehr Anstrengung ist es möglich, die spektrale Dichte des AR (1) - Verfahrens (Xt phi X epsilont) zu zeigen (s. S. 261 von Sar87). Allgemeiner lässt sich zeigen, dass die spektrale Dichte der ARMA-Prozess (5) ist (Sigma) die Standardabweichung des Weißrauschens () sind die Polynome (phi (cdot)) und (theta (cdot)) wie in (7) definiert Daß Faltungen unter Fourier-Transformationen zu Produkten werden. Der Beweis ist elegant und findet sich an vielen Stellen, z. B. Sar87. (10) und (11) sind in der Tat spezielle Fälle von (12) Die Interpretation der spektralen Dichte (11) zeigt die Form der Spektraldichte für das AR (1) - Modell (Phi) nimmt die Werte 0.8 bzw. -0.8 an Diese Spektraldichten entsprechen den Autocovarianzfunktionen für den oben gezeigten AR (1) - Prozeß Informell ist die Spektraldichte bei diesen (omega in 0, pi) so groß, daß Die Autokovarianz-Funktion zeigt signifikante Zyklen an dieser 8220-Frequenz8221 Um zu sehen, die Idee, let8217s überlegen, warum in der unteren Tafel der vorangegangenen Figur ist die spektrale Dichte für den Fall (phi -0,8) groß bei (omega pi) Beachten Sie, dass die spektrale Dichte (Omega) gamma (0) 2 Summe gamma (k) cos (omega k) gamma (0) 2 sum (-0.8) k cos (omega k) Wenn wir dies bei (omega pi ). Erhalten wir eine große Zahl, weil (cos (pi k)) groß und positiv ist, wenn ((-0.8) k) positiv und groß im absoluten Wert und negativ, wenn ((-0.8) k) negativ ist Groß und positiv ist und daher die Summe der Produkte auf der rechten Seite von (13) groß ist. Diese Ideen sind in der nächsten Abbildung dargestellt, die (k) auf der horizontalen Achse (zum Vergrößern anklicken) , Wenn wir (f (omega)) bei (omega pi / 3) auswerten. Dann ist die Sequenz (gamma (k) cos (omega k)) sowohl positive als auch negative Terme und daher ist die Summe dieser Terme viel kleiner. Zusammenfassend ist die Spektraldichte bei Frequenzen (omega) Wo die Autokovarianz-Funktion Zyklen zeigt Invertierung der Transformation Wir haben gerade gesehen, dass die spektrale Dichte ist in dem Sinne nützlich, dass es eine frequenzbasierte Perspektive auf die Autokovarianz-Struktur eines Kovarianz stationären Prozess Ein weiterer Grund, dass die spektrale Dichte nützlich ist, ist, dass es Kann 8220invertiert werden8221, um die Autokovarianzfunktion über die inverse Fourier-Transformation zurückzugewinnen. Insbesondere für alle (k in mathbb Z). Wir haben dies in Situationen, in denen die spektrale Dichte einfacher zu berechnen und zu manipulieren ist als die Autokovarianzfunktion (Beispielsweise ist der Ausdruck (12) für die ARMA-Spektraldichte viel leichter zu bearbeiten als der Ausdruck für die ARMA-Autokovarianz) Mathematisch Theorie Dieser Abschnitt basiert auf Sar87. P. 249-253, und für diejenigen, die ein bisschen mehr Einblick in spektrale Dichten möchten und haben mindestens einen Hintergrund in der Hilbert-Raumtheorie Andere sollten fühlen sich frei, zum nächsten Abschnitt 8212 überspringen keines dieser Material ist notwendig, um Fortschritte zur Berechnung Recall Dass jeder trennbare Hilbert-Raum (H) eine abzählbare Orthonormalbasis hat () Das Schöne an einer solchen Basis ist, dass jedes (f in H) die Summe von f (x) (F) kann in beliebiger Genauigkeit durch lineare Kombination von Basisvektoren dargestellt werden. Die Skalarsequenz (alpha) wird als Fourierkoeffizienten von (f) bezeichnet. Und erfüllt (sumk alphak2 lt infty) Mit anderen Worten, (alpha) ist in (ell2). Der Satz von quadratischen summierbaren Sequenzen Betrachten wir einen Operator (T), der (alpha in ell2) in seine Expansion (sumk alphak hk in H) abbildet. Die Fourierkoeffizienten von (Talpha) sind nur (alpha). (Alpha, hk rangle alphak) Mit Hilfe elementarer Ergebnisse aus der Hilbertraumtheorie lässt sich zeigen, dass (T) eindeutig ist, wenn (alpha) und (beta) eindeutig sind (Ell2). Dann sind ihre Expansionen in (H) (T) auf 8212, wenn (f in H) dann ihr Vorbild in (ell2) die durch (alphak langle f, hk rangle) gegebene Folge (alpha) ist Zusammenfassend lässt sich sagen, dass jeder trennbare Hilbert-Raum isometrisch isomorph zu (ell2) ist. Im Wesentlichen bedeutet dies, dass jeder trennbare Hilbertraum, den wir betrachten, ein anderer ist (Ell2) In diesem Sinne haben wir uns auf eine Einstellung spezialisiert, bei der (gamma in ell2) die Autokovarianzfunktion eines kovarianten stationären Prozesses ist, und (f) die spektrale Dichte (H L2). Wobei (L2) die Menge der quadratischen summierbaren Funktionen im Intervall (-pi, pi) ist. (Omega) h (omega) d omega) () die Orthonormalbasis für (L2), die durch die Menge der trigonometrischen Funktionen hk (omega) frac, quad k in mathbb Z, Quad gegeben wird Omega in - pi, pi Mit der Definition von (T) von oben und der Tatsache, dass (f) gerade ist, haben wir mit anderen Worten, abgesehen von einem skalaren Vielfachen ist die Spektraldichte nur eine Transformation von (gamma in ell2 ) Unter einer bestimmten linearen Isometrie 8212 eine andere Sichtweise (gamma) Insbesondere ist es eine Erweiterung der Autokovarianzfunktion bezüglich der trigonometrischen Basisfunktionen in (L2) Wie oben diskutiert, sind die Fourierkoeffizienten von (T gamma) Gegeben durch die Sequenz (gamma). (Gamma (k) langle T gamma, hk rangle) Umwandlung dieses inneren Produkts in seinen integralen Ausdruck und Verwendung von (16) ergibt (14). Rechtfertigen unsere früheren Ausdruck für die inverse Transformation Die meisten Code für die Arbeit mit Kovarianz stationären Modellen befasst sich mit ARMA-Modelle Julia-Code für das Studium ARMA-Modelle finden Sie in der DSP. jl-Paket Da dieser Code doesn8217t ganz decken unsere Bedürfnisse 8212 besonders vis-a-vis Spektralanalyse 8212 we8217ve zusammengestellt das Modul arma. jl. Die Teil des QuantEcon. jl-Pakets ist. Das Modul bietet Funktionen zur Abbildung von ARMA ((p, q)) - Modellen in ihre Impulsantwortfunktion simulierte Zeitreihe Autokovarianzfunktion Spektraldichte Zusätzlich zu den einzelnen Diagrammen dieser Einheiten bieten wir Funktionalität, um 2x2 Plots zu erzeugen, die alle diese Informationen enthalten , Wollen wir die Diagramme auf den Seiten 68821169 von LS12 Here8217s ein Beispiel entsprechend dem Modell (Xt 0,5 X epsilont - 0,8 epsilon) replizieren Für interest8217s sorgt arma. jl unten eine Instanz lp, die die ARMA ((p, Q)) Modell Xt phi1 X. Phip X epsilont theta1 epsilon. Thetaq epsilon Wenn phi und theta Arrays oder Sequenzen sind, dann ist die Interpretation phi der Vektor der Parameter ((phi1, phi2. Phip)) Theta hält den Vektor der Parameter ((theta1, theta2, thetaq)) Der Parameter sigma ist Immer ein Skalar, die Standardabweichung des weißen Rauschens Wir erlauben auch, dass phi und theta Skalare sind, wobei in diesem Fall das Modell als Xt phi X interpretiert wird. Epsilont theta epsilon Die beiden numerischen Pakete, die für die Arbeit mit ARMA-Modellen am nützlichsten sind, sind DSP. Jl und die fft-Routine in Julia Berechnen der Autokovarianz-Funktion Wie oben diskutiert, hat die Spektraldichte für ARMA-Prozesse eine einfache Darstellung, die relativ einfach zu berechnen ist. Angesichts dieser Tatsache besteht der einfachste Weg, die Autokovarianzfunktion zu erhalten, darin, sie aus dem Spektralbereich zu gewinnen Dichte über die inverse Fourier-Transformation Hier verwenden wir Julia8217s Fourier-Transformationsroutine fft. (A0, A1, ldots, A) und gibt die durch (a0, a1, ldots, a) definierte Folge (a0, a1, ldots, a) zurück Wenn wir also (At f (omegat)) setzen. Wobei (f) die Spektraldichte und (omegat: 2 pi t / n) ist. Im Fall von (14) haben wir nun gezeigt, daß für (n) genügend große (ak approx gamma (k)) 8212 genau das ist, was genau ist Was wir berechnen wollen
No comments:
Post a Comment