Greedy-Algorithmen

Greedy-Algorithmen bzw. Gierige Algorithmen bilden eine spezielle Klasse von Algorithmen, wie sie in der Informatik auftreten. Sie zeichnen sich dadurch aus, dass sie schrittweise denjenigen Folgezustand auswählen, der zum Zeitpunkt der Wahl den größten Gewinn bzw. das beste Ergebnis verspricht (z. B. Gradientenverfahren). Um unter den Folgezuständen eine Auswahl zu treffen, wird oft eine Bewertungsfunktion verwendet.

Greedy-Algorithmen sind meist schnell, lösen viele Probleme aber nicht optimal.

Optimierungsprobleme auf Unabhängigkeitssystemen

Ein Greedy-Algorithmus findet für ein Optimierungsproblem auf Unabhängigkeitssystemen die optimale Lösung, wenn die zulässigen Lösungen die unabhängigen Mengen eines Matroids sind. Sonst führt der Algorithmus lediglich zu einem lokalen Optimum. Beispiele dafür sind das Rucksackproblem und das Problem des Handlungsreisenden. Bei diesen Problemen ist es wesentlich aufwändiger, die optimale Lösung zu finden, da die Probleme NP-vollständig sind.

Algorithmus für das Maximierungsproblem

Zu einem Matroid (E,U) sei eine Gewichtsfunktion $w:E\rightarrow \mathbb{R}^+$ gegeben. Der folgende Algorithmus findet eine schwerste unabhängige Menge, bestimmt also ein $F\in U$, das $w(F) := \sum_{e\in F} w(e)$ maximiert:

01  // Ordne alle Elemente in E nach absteigendem Gewicht
02  $w(e_1)\geq\ldots\geq w(e_n)$
03  
04  $T=\emptyset$;
05  
06  for (k = 1; k <= n; k++) {
07    if $(T\cup\{e_k\}\in U)$
08      $T=T\cup\{e_k\}$
09  }
10  
11  Ausgabe der Lösung T

Verallgemeinerbarkeit

Der Algorithmus löst auch Maximierungs- und Minimierungsprobleme zu beliebigen Gewichtsfunktionen $w: E\to \mathbb{R}$: In einer Lösung für das Maximierungsproblem treten negative Gewichte nicht auf, Elemente mit negativem Gewicht können also vom Algorithmus ignoriert werden. Die Lösung des Problems, eine minimale unabhängige Menge zu finden, können wir auf die Lösung des Maximierungsproblems zurückführen, indem wir die Gewichte durch ihre additiven Inversen ersetzen.

Laufzeit

Ist L die Laufzeit der Prüfung einer Menge auf Unabhängigkeit, so ist die Laufzeit des Algorithmus durch O( | E | (log( | E | ) + L)) gegeben. Im besten Fall wird sie also durch das Sortierverfahren dominiert. Wenn die Unabhängigkeitsprüfung dagegen NP-vollständig ist, ist der Algorithmus praktisch nutzlos.

Beispiele

• Algorithmus von Kruskal für die Suche nach einem minimalen Spannbaum
• Algorithmus von Prim für die Suche nach einem minimalen Spannbaum (das zugrundeliegende Mengensystem – die Menge der Bäume – ist aber kein Unabhängigkeitssystem)
• Algorithmus von Dijkstra zur Suche eines kürzesten Weges

Algorithmus für das Minimierungsproblem

Zu einem Matroid (E,U) sei eine Gewichtsfunktion $w:E\rightarrow \mathbb{R}^+$ gegeben. Der folgende Algorithmus findet eine leichteste Basis, bestimmt also unter den kardinalitätsmaximalen $B\in U$ eines, das $c(B) := \sum_{e\in B} c(e)$ minimiert:

• Sortiere E, so dass $E=\{e_1, \ldots, e_n\}$ mit $w(e_1) \geq w(e_2) \geq \cdots \geq w(e_n)$
• T := E
• Für jedes i von 1 bis n:

Enthält $T\setminus e_i$ eine Basis, so setze $T := T \setminus e_i$.

• Gib T aus.

Vergleich zum Maximierungsproblem, Verallgemeinerbarkeit

Da wir positive Gewichte vergeben, ist das Problem, nach einer leichtesten Basis-Obermenge zu suchen, äquivalent. Dieses Problem ist dual zum Maximierungsproblem und kann analog auf beliebige Gewichtsfunktionen und das entsprechende Minimierungsproblem verallgemeinert werden.

Laufzeit

Ist L die Laufzeit der Prüfung, ob eine Teilmenge von E Obermenge einer Basis ist, so ist die Laufzeit des Algorithmus durch O( | E | (log( | E | ) + L)) gegeben. Im besten Fall wird sie also durch das Sortierverfahren dominiert. Wenn die Basis-Obermengen-Prüfung dagegen NP-vollständig ist, ist der Algorithmus praktisch nutzlos.

Literatur

• Thomas H. Cormen, Charles Leiserson, Ronald L. Rivest, Clifford Stein: Introduction to Algorithms. 2. Auflage. MIT Press, 2001, ISBN 0-262-53196-8
• Bernhard Korte, Jens Vygen: Combinatorial Optimization. 3. Auflage. Springer, 2005, ISBN 3-540-25684-9