Embedding: 意味を座標にする
言葉を高次元ベクトルとして意味空間に並べる埋め込みを、3Dの星雲として探索します。近いほど似た意味、そして king − man + woman ≈ queen のように意味が「方向」として表れることを触って確かめます。
意味の星雲
言葉はモデルの中で、数千次元のベクトルになります。ここではそれを3Dへ射影した星雲として眺めます。一つひとつの光点が語で、近い光点ほど意味が似ています。まずはゆっくり回しながら、語が散らばる空間の手触りをつかんでください。
星雲を回して、光点がいくつかの塊に分かれていることを見つける。
Neighborhood
種と成体/幼体の軸。dog/cat/puppy/kitten が並びます。