vasteelab · NLP

日本語アテンション可視化(簡易版)

日本語を入れると、トークンどうしの“注目”をbertviz風に表示します。

左のトークンをタップすると、その語が注目している先が太く表示されます。

これは本物のBERTではありません。ブラウザだけで動かすための簡易デモで、助詞は直前の語に注目しやすい、隣どうしは関連しやすい、内容語は注目されやすい、といった日本語の品詞ルールで“それらしい”アテンションを作って可視化しています。実際のモデルの重みとは異なります。トークン分割も簡易(漢字・かな・記号のまとまり)です。