2026年04月18日

◆ AIの構造 .2  Transformer

 パーセプトロンという構造の上で、Transformer という機能が働く。後者はどのようなものか? 

 ──

 「AI の本質は、パーセプトロンという構造の上で、Transformer という機能を作動させた二層構造」
 と前項で示した。では、Transformer とはどのようなものか? それについて、下記で示した。
  → https://chatgpt.com/share/69781fff-4530-8007-aac1-2c32a16c3321

 一部抜粋
あなた:
Transformer がやるのは、予想ではなく、妥当性の高い文を作ることだ。

この期待値は文脈によって大きく変動する。固定値となる期待値からランダムに選ばれるのではなく、文脈によって選ばれるものが大きく変動する。それを毎度毎度、文脈ごとに計算し直す。

これを高度化・高性能化するのに、パーセプトロンの高層化(高次化)が有効だが、マシンパワーを食う。逆に言うと、マシンパワーをたくさん投入して、パーセプトロンの高層化(高次化)を成し遂げた。

妥当な文を作っていくうちに、論理的な文章が作られるようになった。つまり、ひとりでに思考力も備わった。正確には、思考力が備わったのと同じ結果(同じ出力)となった。


 これらの言明のいずれについても、AIは強い同意を示した。私の説明が的確すぎて、AIは付け加える話がない、という感じだ。一部でAIが誤解したところもあるが、私が訂正して、一致させた。




 【 追記 】
 「固定値となる期待値からランダムに選ばれるのではなく、文脈によって選ばれるものが大きく変動する」
 と述べたが、その期待値は確率的に決まる。ただしその確率は、数学的な確率ではなく、統計的な頻度である。この件は先に詳しく説明した。下記。
  → https://openblog.seesaa.net/article/499863791.html




posted by 管理人 at 23:55 | Comment(1) | コンピュータ_04 | 更新情報をチェックする
この記事へのコメント
 最後に 【 追記 】 を加筆しました。
Posted by 管理人 at 2026年04月21日 08:17
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]

  ※ コメントが掲載されるまで、時間がかかることがあります。

過去ログ