Hierarchischer Temporalspeicher
Ein Hierarchical Temporal Memory (hierarchischer Temporalspeicher; HTM) ist ein Modell des maschinellen Lernens welches von Jeff Hawkins und George Dileep (Numenta, Inc.) entwickelt wurde. Dieses Modell bildet einige Eigenschaften des Neocortex in einem Bayes'schem Netzwerk ab.
Aufbau und Funktion
HTMs sind als hierarchisch aufgebautes Netz von Knoten organisiert. Jeder Knoten implementiert, wie in einem Bayes'schem Netzwerk, eine Lern- und Speicherfunktion. Die Struktur ist dahingehend aufgebaut um anhand von zeitveränderlichen Daten eine hierarchische Präsentation dieser Daten zu erstellen. Dies ist jedoch nur möglich, wenn die Daten sowohl im (Problem-)Raum, als auch in der Zeit hierarchisch repräsentierbar sind.
Ein HTM führt die folgenden Funktionen aus, wobei die letzten zwei – je nach Implementierung – optional sind:
- Erkennung und Repräsentation von Elementen und Zusammenhängen.
- Inferenz von neuen Elementen und Zusammenhängen anhand der bekannten Elemente und Zusammenhängen.
- Erstellung von Vorraussagen. Treffen diese Vorraussagen nicht zu, wird das interne Modell entsprechend angepasst.
- siehe auch: Summen-Produkt-Algorithmus
- Verwenden von Vorraussagen um Aktionen auszuführen, sowie Beobachtung der Auswirkung. (Steuerung und Regelung)
Kritik
HTMs stellen für KI-Forscher nichts grundlegend neues dar, sondern sind eine Kombination bereits vorhandener Techniken, wobei Jeff Hawkins jedoch nicht ausreichend auf die Ursprünge seiner Ideen verweist. Zudem hat Jeff Hawkins das in der Wissenschaft für Puplikationen übliche Peer Review umgangen, was eine fundierte Prüfung durch Wissenschaftler einschränkt. Hierbei gilt es jedoch zu beachten, dass Hawkins nicht aus dem akademischen, sondern aus dem industriellen Umfeld stammt.
Siehe auch
- universelle Wahrscheinlichkeitsmodelle
- Bayes'sches Netzwerk
- Energie basiertes Lernmodell
- hierarchisches verstecktes Markov-Modell
- Boltzmann Maschine
- Helmholtz Maschine
- nichtgenerative Modelle
- Support-Vektor-Maschine
- klassisches neurales Netzwerk
- langsame Eigenschaftsanalyse
- empirische neurobiologische Modelle
- HMAX-Modell
Literatur
- "Hierarchical Temporal Memory - Concepts, Theory, and Terminology"; Jeff Hawkins, Dileep George; Numenta Inc., 2006 (englisch, PDF)
- On Intelligence; Jeff Hawking, Sandra Blakeslee; Henry Holt, 2004; ISBN 0312712340
Weblinks
- Numenta, Inc.
- The Thinking Machine — Artikel des Wired Magazine (englisch)