Metropolisalgorithmus

Der Metropolis-Algorithmus ist eine Monte-Carlo-Methode zur Erzeugung von Zuständen eines Systems entsprechend der Boltzmann-Verteilung. Der davon abgeleitete, allgemeinere Metropolis–Hastings-Algorithmus ermöglicht es, Folgen von Zufallsvariablen, genauer Markow-Ketten, zu simulieren, die eine gewünschte Verteilung als stationäre Verteilung besitzen, insbesondere in vielen Fällen, wo für die Verteilung Zufallsvariablen nicht direkt simuliert werden können.

Metropolisalgorithmus

Der Metropolisalgorithmus wurde 1953 von Nicholas Metropolis et al. publiziert. Er wird dazu genutzt, eine Markow-Kette und damit die Zustände eines Systems entsprechend der Boltzmann-Verteilung zu erzeugen. Dabei hängt der neue Zustand des Systems x_{i + 1} nur vom vorherigen Zustand x_i ab.

Im Folgenden wird der Algorithmus für den Fall beschrieben, dass das System von einem mehrdimensionalen Ort x abhängt. x sei kontinuierlich und der aktuelle Ort nach i Iterationen wird mit x_i bezeichnet. Der Metropolisalgorithmus ergibt sich dann durch Wiederholung der folgenden Schritte:

1. Ein neuer Ort $y = x_i + (2q - 1)\,r$ wird ausgewählt, wobei q eine Zufallszahl zwischen 0 und 1 und r ein fest gewählter Suchradius ist, das heißt, der neue Ort zufällig in einer festen Umgebung [x_i - r; x_i + r] gewählt wird, wobei die verschiedenen Komponenten der räumlichen Dimensionen nicht notwendigerweise gleich sein müssen.
2. Die Energie-Differenz $\Delta E = E \left( y \right) - E \left( x_i \right)$ wird berechnet und die neue Konfiguration mit der Wahrscheinlichkeit $\textstyle p_{\mathrm{A}} = \min \left ( 1, \exp \left( -\frac {\Delta E} {kT} \right) \right)$ akzeptiert, in der T für die Temperatur des Systems und k für die Boltzmannkonstante steht.
   Dies bedeutet:
   • Ist $\Delta E \le 0\,$, die neue Position also energetisch gleichwertig oder günstiger, wird y in jedem Fall als neuer aktueller Ort akzeptiert (x_{i + 1} = y).
   • Ist $\Delta E > 0\,$, die neue Position also energetisch ungünstiger, wird y dagegen nur mit der Wahrscheinlichkeit p_A als neuer aktueller Ort akzeptiert, wozu man praktisch eine Zufallszahl q zwischen 0 und 1 bestimmt und anschließend mit p_A vergleicht: Ist q kleiner als p_A, wird y als neuer aktueller Ort akzeptiert (x_{i + 1} = y), andernfalls nicht (x_{i + 1} = x_i).

Kleine Werte von |r| führen dabei zu großen Akzeptanzraten, haben jedoch den Nachteil hoher Autokorrelationszeiten

$\tau = \sum_{i=0}^{\infty} \Gamma (i) = \sum_{i=0}^{\infty} \left \langle \left ( A_0 - \langle A \rangle \right ) \left ( A_i - \langle A \rangle \right ) \right \rangle$

Große Werte von |r| dagegen verkürzen zwar die Autokorrelationszeit, haben dafür aber nun den Nachteil einer geringeren Akzeptanzrate, so dass in der Praxis stets ein Mittelweg gesucht werden muss.

Das oben beschriebene Verfahren lässt sich einfach auch auf andere Fälle wie beispielsweise diskrete Zustände übertragen. Für Systeme aus vielen wechselwirkenden Teilchen wird der Metropolisalgorithmus dabei zunächst lokal für ein einzelnes Teilchen angewandt und anschließend - entweder nacheinander oder zufällig - auf alle Teilchen.

Metropolis-Hastings-Algorithmus

W. Keith Hastings generalisierte 1970 das Verfahren. Der Metropolis-Hastings-Algorithmus kann Zustände für eine beliebige Wahrscheinlichkeitsverteilung W(x) erzeugen. Voraussetzung ist lediglich, dass die Dichte an jedem Ort x berechnet werden kann. Der Algorithmus benutzt eine Vorschlagsdichte P(y;x_i), die vom derzeitigen Ort x_i und möglichem nächsten Ort y abhängt. Beim Metropolis-Hastings-Algorithmus wird ein Vorschlag y anhand der Vorschlagsdichte zufällig erzeugt und mit der Wahrscheinlichkeit $p_{\mathrm{A}} = \min \left ( 1, \frac{W(y)P(x_i|y)}{W(x_i)P(y|x_i)} \right)$ akzeptiert.

Für eine Vorschlagsdichte, die in einem festen Intervall um den aktuellen Ort konstant und sonst null ist, sowie eine Boltzmann-Verteilung als Wahrscheinlichkeitsverteilung ergibt sich hieraus der ursprüngliche Metropolisalgorithmus.

Anwendungen

Monte-Carlo-Simulation

Bei Monte-Carlo-Simulationen werden Konfigurationen mittels des Metropolisalgorithmus erzeugt und Mittelwerte/Erwartungswerte physikalisch relevanter Größen, wie beispielsweise dem Druck oder Dichte, berechnet:

$\left\langle A \right\rangle = Z^{-1} \int [\mathrm{d} x] e^{-\beta E(x)} \, A(x)$ mit $\ \ Z = \int [\mathrm{d} x] e^{-\beta E(x)}$ und $\ \ \beta = (k T)^{-1}$

Dazu werden von den Iterationsschritten des Metropolisalgorithmus zunächst so viele ausgeführt, bis sich das System dem thermischen Gleichgewicht genähert hat, d.h. die Wahrscheinlichkeit der einzelnen Konfigurationen der Boltzmann-Verteilung entspricht. Befindet sich das System im thermischen Gleichgewicht, so entspricht die Wahrscheinlichkeitsverteilung W(x) der Boltzmann-Verteilung, d.h. die Konfigurationen werden mit der Wahrscheinlichkeit $W(x) = \frac{1}{Z} e^{- \beta E(x)}$ erzeugt (Importance Sampling) und es muss lediglich über jeden Messwert, bzw. Messwerte in konstantem Abstand, gemittelt werden: $\left\langle A \right\rangle = \lim_{N \to \infty } \frac{1}{N} \sum_{i=1}^N A(x_i)$.

Der Metropolisalgorithmus erzeugt Systeme im kanonischen Zustand, d.h. mit konstanter Temperatur. Um mikrokanonische Zustände zu erzeugen, können Molekulardynamik-Algorithmen verwendet werden.

In der Originalarbeit von Nicholas Metropolis et. al. wurde der Algorithmus für die Monte-Carlo-Simulation des zweidimensionalen Harte-Scheiben-Modells verwendet. Der Algorithmus wurde später für eine Vielzahl unterschiedlichster Monte-Carlo-Simulationen in Bereichen wie z.B. der Thermodynamik bzw. Statistischen Physik, Festkörperphysik, Quantenelektrodynamik oder Quantenchromodynamik eingesetzt. Dabei muss der Algorithmus gegebenenfalls angepasst werden, wie die Energie durch den Hamiltonoperator oder die Wirkung ersetzt werden. Der Metropolisalgorithmus ist leicht zu implementieren, jedoch nicht der effizienteste Algorithmus. Alternativ können andere lokale oder nicht-lokale Verfahren Verwendung finden.

Optimierungsverfahren

Der Metropolisalgorithmus kann auch als stochastisches Optimierungsverfahren zum Finden eines globalen Minimums einer Wertelandschaft verwendet werden. Hierzu wird mit einer hohen Temperatur begonnen, damit möglichst ein großes Gebiet der Wertelandschaft besucht wird. Anschließend wird die Temperatur langsam abgesenkt und sich so mit immer höherer Wahrscheinlichkeit einem Minimum genähert. Ein solcher Metropolisalgorithmus mit von der (Simulations-) Zeit abhängiger Temperatur heißt simulierte Abkühlung (simulated annealing). Für bestimmte Formen der simulierten Abkühlung konnte bewiesen werden, dass sie das globale Minimum einer Wertelandschaft finden.

Das Verfahren ähnelt dem Bergsteigeralgorithmus (hill climbing), akzeptiert jedoch im Gegensatz zu diesem auch Schritte weg vom nächsten Minimum, so dass frühzeitige Konvergenz zu lokalen Minima vermieden wird. Der Metropolisalgorithmus überwindet so kleine Hügel, bevor weiter in Richtung Tal gegangen wird, da der Anstieg in Richtung Hügel klein ist und somit die Akzeptanz-Wahrscheinlichkeit relativ groß ist.

Siehe auch

• Gibbs-Sampling

Literatur

• N. Metropolis, A. Rosenbluth, M. Rosenbluth, A. Teller und E. Teller: Equation of State Calculations by Fast Computing Machines. In: Journal of Chemical Physics. 21, 1953, S. 1087-1092, doi:10.1063/1.1699114.
• W.K. Hastings: Monte Carlo Sampling Methods Using Markov Chains and Their Applications. In: Biometrika. 57, 1970, S. 97-109.