AI LAB
HOW GENERATIVE AI WRITES · NEXT-TOKEN MACHINE
生成AIの
しくみ
工場
語彙
0
語
注意の層
4 層 × 2 ヘッド
作った言葉
0
語
STATUS
PROMPT
INPUT / 書き出しを選ぶ
01
TOKENS / トークンと番号
02
ベルトの上のトークンをクリックすると、その言葉の注意を表示
ATTENTION / 注意の重み
03
CONTROL / 操作
04
温度
0.8
候補の数
8
速度
100
%
生成する
1語ずつ
もう一度
NEXT / 次の言葉の候補
05
DISPLAY / 表示
06
ラベル
注意の線
自動ツアー
NOTE / この模型について
07
本物の言語モデルではなく、仕組みを見せる模型です。例文40文から作った小さな統計モデル（直前の2語から次の言葉の確率を出す）で、実際に次の言葉を選んでいます。注意の重みは模型の計算です。ネジ
0
本。
PROMPT
プロンプトを選ぶ
PIPELINE / 1語を作る流れ（「つなげる」のあと、また「数字にする」へ戻る）
← AI実験室
｜ CATORCE
×