──
「AI の本質は、パーセプトロンという構造の上で、Transformer という機能を作動させた二層構造」
と前項で示した。では、Transformer とはどのようなものか? それについて、下記で示した。
→ https://chatgpt.com/share/69781fff-4530-8007-aac1-2c32a16c3321
一部抜粋
あなた:
Transformer がやるのは、予想ではなく、妥当性の高い文を作ることだ。
この期待値は文脈によって大きく変動する。固定値となる期待値からランダムに選ばれるのではなく、文脈によって選ばれるものが大きく変動する。それを毎度毎度、文脈ごとに計算し直す。
これを高度化・高性能化するのに、パーセプトロンの高層化(高次化)が有効だが、マシンパワーを食う。逆に言うと、マシンパワーをたくさん投入して、パーセプトロンの高層化(高次化)を成し遂げた。
妥当な文を作っていくうちに、論理的な文章が作られるようになった。つまり、ひとりでに思考力も備わった。正確には、思考力が備わったのと同じ結果(同じ出力)となった。
これらの言明のいずれについても、AIは強い同意を示した。私の説明が的確すぎて、AIは付け加える話がない、という感じだ。一部でAIが誤解したところもあるが、私が訂正して、一致させた。
【 追記 】
「固定値となる期待値からランダムに選ばれるのではなく、文脈によって選ばれるものが大きく変動する」
と述べたが、その期待値は確率的に決まる。ただしその確率は、数学的な確率ではなく、統計的な頻度である。この件は先に詳しく説明した。下記。
→ https://openblog.seesaa.net/article/499863791.html
