ZeitreihenanalyseWS 2004/2005Michael Hauhs / Gunnar Lischeid
• Definition einer Zeitreihe, Eigenschafte Tests und Trenderkennung bei Zeitreihen
• Beispiele (ACF, Tests), Fouriertransformationen, Powerspektrum
• Zeitreihenmodellierung der ARMA-Klasse• Modellierung von Zeitreihen mit langem Gedächtnis• Nicht-lineare Methoden:
– Wiederkehrdiagramme– Komplexität und Information von Zeitreihen– Singuläre Systemanalyse (SSA) (?)– Wavelets (?)
Stochastizität
Nic
htl
inear i
tät
Schwingungen
Chaos
ARMA
NLARMA
Stabilitätsanalyse
Edge of chaos
1/f
Hidden Markov
?
????
?
?
?
?
Modellklassen in der S-NL Ebene
• Skalare (univariate) Zeitreihe als 1-d Projektion
aus multidimensionaler Dynamik
• Nicht einzelne Trajektorien, sondern topologische Eigenschaften
von Trajektorienensembles werden untersucht
(„Anfangsbedingungen sind irrelevant“)
• Stabilitätsanalyse liefert mögliches Verhalten:
- instabil/explodierend ("runaway solutions")
- Fixpunkt
- periodisches Verhalten
- Grenzzyklus
- Kompakte Mengen: Attraktoren
- (falls nicht kompakt: ergodische Systeme)
Zeitreihen als Ergebnis von Messungen an dynamischen
Systemen
• Untersucht wird das typische Langzeitverhalten
(unabhängig von den Details der Anfangsbedingungen)
• Dynamische Systeme werden im Zustandsraum beschrieben
• Ausgangspunkt sind i.d.R. deterministische Systeme
• Zwei Klassen:
- Kontinuierliche Systeme: DGL 1. Ordnung
- Diskrete Systeme : Iterationsgleichungen
Kurze Einführung in dynamische Systeme
)(1 nn xFx
Autonomes dynamisches System im Zustandsraum:
Die Menge der asymptotischen Trajektorien ist der Attraktor des Systems(Dimension D)
Takens Theorem (1983):
Beobachtung einer Zustandsvariablen und Bildung von Einbettungsvektoren
),...,,( )2()1( ndmndmndn xxxx
liefert eine treue Abbildung des Attraktors, falls 12 Dm
Diskrete dynamische Systeme, Attraktoren, Einbettung
Stabilität von dynamischen Systemen
Ein n-dimensionales dynamisches System sei gegeben:
nn FFFFxxxxxFx ,...,,,,...,,, 2121
Eine Menge von stationären Punkten sei gefunden:
00
xF
Linearisierung :
Wohin führen kleine Abweichungen?
j
xx
n
i j
i xx
FxFxxF
01
00
d.h.
xAx Lineare DGL 1. Ordnung!
ijA
Lösung der Stabilitätsgleichung
Wohin geht die Reise?
Satz (Lyapunov):(1)Haben die Eigenwerte der Matrix alle negativen Realteil,
ist das System bei stabil.(2) Gibt es einen Eigenwert mit positivem Realteil,
ist das System instabil.(3) Ist der größte Realteil = 0, liegt ein Zentrum vor.
A0x
0xetx At
)(xFx
Man betrachtet -Kugeln um einen Punkt zum Zeitpunkt 0:
Die Kugeln verformen sich zu späteren Zeiten zu Ellipsoiden mit Hauptachsen .
Dann lassen sich die Lyapunov-Exponenten des Systems so ermitteln:
(Zeitmittel)
)(xB
i
)(log1
lim)( xt
x it
i
(für ergodische Systeme nicht vom Ort abhängig)
Quantifizierung von Chaos: der kontinuierliche Fall
Mittlere Divergenzrate
Ergodische Systeme: hängt nicht vom Ort ab
dxxxf )()(ln Lyapunov-Exponent
Def.: Ein System ist chaotisch 0
Verallgemeinerung auf k Dimensionen: k Lyapunov-Exponentenaus den Eigenwerten der Jakobi-Matrix
kontrahierend/expandierend:
0 0
j
ix x
xfxfD
)(
)(
Falls mindestens einer 0 Chaos!
Definition des Lyapunov-Exponenten
(A) Segment of the phase space trajectory of the Lorenz system (for standard parameters r=28, σ=10, b=8/3; Lorenz 1963) by using its three components and (B) its corresponding recurrence plot. A point of the trajectory at j which falls into the neighbourhood (gray circle in (A)) of a given point at i is considered as a recurrence point (black point on the trajectory in (A)). This is marked with a black point in the RP at the location (i, j). A point outside the neighbourhood (small circle in (A)) causes a white point in the RP. The radius of the neighbourhood for the RP is ε=5.
Fraktale und Selbstähnlichkeit
• Kennzeichen eines Fraktals ist immer die nicht-ganzzahlige Dimension
• Es gibt nicht-selbstähnliche Fraktale• Nicht jede selbstähnliche Struktur ist ein
Fraktal (Gegenbeispiele: Strecke, Quadrat, Würfel)
• Selbstähnliche Strukturen, bei der die Anzahl der Teile nicht skaliert wie ihre topologische (ganzzahlige!) Dimension, sind Fraktale
• Zeitreihe {x(ti)} der Länge N liegt vor
Konstruktion von Einbettungsvektoren
• Abstandsberechnung
(für eine geeignete Norm p)
• Die Matrix R heisst
Wiederkehrmatrix von {x(ti)}
• Der Punkt (i,j) heisst wiederkehrend, falls
• Parameter: Einbettungsdimension m , Verzögerung , Schwellenwertradius r
• Wiederkehrdiagramme (RPs): farbkodierte Visualisierungen von R
rjiR ),(
pjmim tstsjiR )()(),(
))1(())1(( mNmN
Die Technik der Wiederkehrdiagramme
),,,()( )1( mtttm xxxts
Anzahl der Nachbarn abhängig von der Dimension
Versuch zur Ermittlung optimaler Parameter
• Teil 1: Ermittlung des optimalen Schwellenwertes r
• Bestimmung der Wiederkehrpunkte RP
als Funktion des Radius
• Berechnung des Zuwachses
• Maximum beim Überschreiten des „noise floors“
• danach Plateau? Wähle Beginn des Plateaus
• kein Plateau? dann halber Wert des Maximums
• Faustregel: RP ca. 30-50%
drdRP /
Kriterium zur Ermittlung des optimalen Schwellwert-Radius
Versuch zur Ermittlung optimaler Parameter II
• Teil 2: Ermittlung des Delays • Der Attraktor sollte nicht zu dicht „abgetastet“ werden
• Aufeinanderfolgende Einbettungsvektoren
sollten nicht zu stark autokorreliert sein
• Ermittlung der ersten Nullstelle der Autokorrelation
(linear) oder des ersten Minimums der wechselseitigen
Information (nichtlinear)
• Wahl des Delays dort in der Nähe
Versuch zur Ermittlung optimaler Parameter III
• Teil 3: Ermittlung der Einbettungsdimension
• Bestimme zu jedem Vektor
seinen nächsten Nachbarn
• Bestimme den Abstand der Werte
zum nächsten Zeitpunkt:
• Bestimme den Abstand im Originaldatensatz:
(„trivialer Prädiktor“)
• Ist , zählt
als „falscher“ (zufälliger) Nachbar
• Wähle die Einbettungsdimension mit der geringsten
Zahl von falschen Nachbarn
),...,,( 21 nxxxx
),...,,( 21 nyyyy
11 nnpred yxR
nnorig xxR 1
predorig RR y
Beispiel für falsche Nachbarn
• relative Anzahl der Wiederkehrpunkte (in Fenstern)• Deterministische Anteile sind an Linien unterschiedlicher Länge parallel zur Hauptdiagonalen erkennbar:
Wiederkehrdiagramme und ihre Quantifizierung (RQA)
„Optische Eindrücke objektivieren“
• Kurze Linien werden als zufällig angesehen
(Festlegung einer minimalen Linienlänge) • Verteilung der Linienlängen über Shannon-Entropie quantifiziert
nnn xy 1In (AR(1)-Modell)
ist mit der Linienlänge korreliert
max
min
)(log)(line
l
li
ipipS
• Die jeweils längste Linie ist mit dem höchsten Lyapunov-Exponenten invers korreliert• Abnahme der Wiederkehrpunkte nach aussen ( Trend )
Wiederkehrdiagramme und ihre Quantifizierung
(Fortsetzung)
Verallgemeinerung: Kreuzwiederkehrdiagramme
• zwei unterschiedliche Datenreihen• auf einheitlichen Wertebereich skalieren (z.B. [0,1])• Quantifizierung so wie vorher
Typische Muster in Wiederkehr-diagrammen:
http://www.agnld.uni-potsdam.de/~marwan/rp/index.php?a=glance
A: ZufälligB: PeriodischC: TrendD: Unterbrochen
http://www.agnld.uni-potsdam.de/~marwan/rp/index.php?a=glance
Vergleich:lineare Methoden und Wiederkehrdiagramm
N. Marwan und Kurths (2002)
Vergleich:lineare Methoden und Wiederkehrdiagramm
N. Marwan und Kurths (2002)
Vergleich mit komplexeren Modell:AR(1) gekoppelt mit dem Lorenz-System (n=8000) :
N. Marwan und Kurths (2002)
yn = 0.86yn-1 + 0.500ξn + κxn2
Vergleich mit komplexeren Modell:AR(1) gekoppelt mit dem Lorenz-System (n=8000) :
N. Marwan und Kurths (2002)
yn = 0.86yn-1 + 0.500ξn + κxn2
Die lineare Methode (Kreuzkorrelation)versagt