Hierarchischer Temporalspeicher

Ein hierarchischer Temporalspeicher (Hierarchical Temporal Memory; HTM) ist ein Modell des maschinellen Lernens, welches von Jeff Hawkins und George Dileep (Numenta, Inc.) entwickelt wurde. Dieses Modell bildet einige Eigenschaften des Neocortex in einem Bayes'schen Netz ab.

Aufbau und Funktion

HTMs sind als hierarchisch aufgebautes Netz von Knoten organisiert. Jeder Knoten implementiert, wie in einem Bayes'schem Netz, eine Lern- und Speicherfunktion. Die Struktur ist dahingehend aufgebaut, um anhand von zeitveränderlichen Daten eine hierarchische Präsentation dieser Daten zu erstellen. Dies ist jedoch nur möglich, wenn die Daten sowohl im (Problem-)Raum, als auch in der Zeit hierarchisch repräsentierbar sind.

Ein HTM führt die folgenden Funktionen aus, wobei die letzten zwei – je nach Implementierung – optional sind:

1. Erkennung und Repräsentation von Elementen und Zusammenhängen.
2. Inferenz von neuen Elementen und Zusammenhängen anhand der bekannten Elemente und Zusammenhängen.
3. Erstellung von Voraussagen. Treffen diese Voraussagen nicht zu, wird das interne Modell entsprechend angepasst.

   siehe auch: Summen-Produkt-Algorithmus

4. Verwenden von Voraussagen um Aktionen auszuführen, sowie Beobachtung der Auswirkung. (Steuerung und Regelung)

Kritik

HTMs stellen für KI-Forscher nichts grundlegend neues dar, sondern sind eine Kombination bereits vorhandener Techniken, wobei Jeff Hawkins jedoch nicht ausreichend auf die Ursprünge seiner Ideen verweist. Zudem hat Jeff Hawkins das in der Wissenschaft für Publikationen übliche Peer Review und damit eine fundierte Prüfung durch Wissenschaftler umgangen. Hierbei gilt es jedoch zu beachten, dass Hawkins nicht aus dem akademischen, sondern aus dem industriellen Umfeld stammt.

Siehe auch

• universelle Wahrscheinlichkeitsmodelle
  • Bayes'sches Netz
  • Energie basiertes Lernmodell
  • hierarchisches verstecktes Markov-Modell
  • Boltzmann Maschine
  • Helmholtz Maschine
• nichtgenerative Modelle
  • Support-Vektor-Maschine
  • klassisches neurales Netzwerk
  • langsame Eigenschaftsanalyse
• empirische neurobiologische Modelle
  • HMAX-Modell

Literatur

• "Hierarchical Temporal Memory - Concepts, Theory, and Terminology"; Jeff Hawkins, Dileep George; Numenta Inc., 2006 (englisch, PDF; 805 kB)
• On Intelligence; Jeff Hawking, Sandra Blakeslee; Henry Holt, 2004; ISBN 0-312-71234-0

Weblinks

• Numenta, Inc.
• The Thinking Machine — Artikel des Wired Magazine (englisch)
• Neocortex - Memory-Prediction Framework — Open Source Implementierung mit GNU-Lizenz