永続値 シナプスは学習を通じて継続的に形成されあるいは切断 ry 、各シナプスに(0.0 から 1.0 の)スカラー値を割り当て、接続がどのくらい永続的 ry 。接続が強化されれば、永続値は増加する。他の状況では、永続値は減少する。 ry しきい値(例えば 0.2)を上回れば、シナプスは形成され ry 下回れば、シナプスは無効 ry
樹状突起セグメント シナプスは樹状突起セグメントに接続される。樹状突起には主要と末梢の 2 種 ry
- 主要樹状突起セグメントはフィード・フォワード入力との間のシナプスを形成する。 ry アクティブなシナプスは線形に加算され、これにより カラムがフィード・フォワード入力によるアクティブ状態になるか否かが決定される。 - 末梢樹状突起セグメントは同じリージョン内のセル間のシナプスを形成する。 各セルはいくつかの末梢樹状突起セグメントを持つ。 ry アクティブなシナプスの合計がしきい値を超えたら、 接続されたセルは予測状態によりアクティブになる。 一つのセルに複数の末梢樹状突起セグメントがあるので、 セルの予測状態はそれぞれをしきい値で判定した結果の論理和 ry
シナプス候補 ry 、樹状突起セグメントはシナプス候補のリストを持つ。 ry 候補は永続値 ry がしきい値を超えたら有効に機能するシナプスとなる。
学習 学習では樹状突起セグメント上のシナプス候補の永続値を増加・減少させる。 ry 用いられる規則は「ヘブの学習規則」35に似ている。 例えば、ある樹状突起セグメントがしきい値以上の入力 を受け取ったためにセルがアクティブに ry シナプスの永続値を修正する。 シナプスがアクティブであり、従ってセルがアクティブになることに貢献した場合、 その永続値を増 ry 。ry がアクティブではなく ry 貢献しなかった場合、その
35 Hebbian learning rules。「細胞 A の軸索が細胞 B を発火させるのに十分近くにあり、 繰り返しあるいは絶え間なくその発火に参加するとき、 いくつかの成長過程あるいは代謝変化が一方あるいは両方の細胞に起こり、 細胞 B を発火させる細胞の 1 つとして細胞 A の効率が増加する。」
空間プーリングの最も基本的な機能はリージョンへの入力を疎なパターンに変換 ry 。シーケンスを学習して予測 ry 疎分散パターンから始めることが必要 ry 。空間プーリング ry いくつかの到達目標がある。
1) すべてのカラムを使用する HTM リージョンは入力の共通したパターンに対する表現を学習するための 固定数のカラムがある。一つの目的は、全体の ry すべてのカラムが確かに、 ry 学習 ry 。決してアクティブにならないようなカラムは必要でない。そうならないために、 各カラムがその周囲のカラムと相対的にどのくらい頻繁にアクティブになるかを常に監視 ry 頻度が低すぎるときは、そのカラムが勝者となるカラムの集合に含まれ始めるように ry アクティブになる基準をブースト36する。 ry カラムは周囲のカラムと互いに競合しており、入力パターンに対する表現に 加わろうとしている。あるカラムがほとんどアクティブにならないときは ry 積極的に ry 、他のカラムはその入力を変更させられて少しだけ異なる入力パターンを表現し始める。
3) 些細なパターンを避ける すべてのカラムが些細ではない入力パターンを表すこと ry は、 カラムがアクティブになる ry 最小のしきい値を設定することで達成 ry 。例えば、しきい値を 50 とすると、カラムがアクティブになるには その樹状突起セグメント上のアクティブなシナプスが 50 個以上必要であり、 ry あるレベル以上に複雑なパターンだけが表現される ry
4) 余分な接続関係を避ける よく注意しないと、あるカラムが巨大な数の有効なシナプスを保持する ry 。すると、あまり関連性のない多くの異なる入力パターンに強く反応するようになる。 シナプスの異なる部分集合は異なるパターンに反応するだろう。 この問題を避けるため、勝者カラムに現在貢献していないシナプスすべて ry 永続値を減 ry 。貢献していないシナプスに確実に十分なペナルティを与えることで、 一つのカラムが表現する入力パターンが限定 ry