Up 語彙連想説 (通説) vs 生成主体説 作成: 2023-08-01
更新: 2025-08-01


    Transformer 脳のテクスト生成は,どんな仕組みになっているのか?

    通説は,Transformer 脳は語彙の連想でテクストを生成すると説く。
    即ち,入力テクストから始めて,
     《 現前のテクストに対し, これにつながる確率の高い語彙をつなげる》
    を続けることが Transformer 脳のテクスト生成である,と。


    本探求は,ChatGPT が生成するテクストの内容・構成は,語彙連想説では説明がつかないと考える。
    本探求は,語彙連想説に対し,「生成したいテクストを生成する」を立てる。

    「生成したいテクストを生成する」に主語をあてれば「テクスト生成主体」なので,この立場を「生成主体説」と呼ぶことにする。

    念のため:
    「テクスト生成主体」は,「生成したいテクストを生成する」に主語をあてたのであり,実体を立てたのではない。
    実体はあくまでも,Transformer 脳の「生成したいテクストを生成する」である。

    さらに現象論的パラフレーズ:
    Transformer 脳は,入力テクストに対し,テクスト生成主体を<現す>。
    生成主体は,出力テクストを計画し,そして計画を実行する。
    これが,Transformer 脳のテクスト生成である。


    語彙連想説と生成主体説は,「Transformer 脳に対する上位互換の2つの解釈」というふうにはならない。
    横並びに対立する解釈である。

    通説が語彙連想説なのは,つぎのことを示しているのかも知れない:
     《 Transformer 脳の設計者は, 「語彙連想マシン」のつもりで設計した》

    生成主体説は,
     《できあがったものは,そうではなかった》
    と考える。
    Transformer 脳は,設計者の<想定>を裏切り,テクスト生成主体をつくってテクスト生成をやるものになった。
    (そしてこの裏切りが,ChatGPT の成功をもたらした。)