大規模言語モデルは新たな知能か ChatGPTが変えた世界
岡野原大輔（岩波科学ライブラリー）
大規模言語モデルをはじめとする深層学習関連の分野は毎週のように新しい技術・モデルが出現するくらい技術革新のスピードが速く、また多くの誇張された主張も存在していることから、分野を俯瞰することはとても難しい状況になっています。
その中で本書は、大規模言語モデルに関連した分野の最新動向を、正確かつ一般の人にも分かるようにまとめており、近年の深層学習と自然言語処理分野の発展の概要や背景を知るのに最適な本だと思います。
人と同じように言葉を理解する言語処理モデルの構築
生成AIは人の言葉を理解しているのか
ChatGPTの登場に伴い大規模言語モデルや生成AIなどといったフレーズを耳にする機会が増えているのではないかと思います。これらの技術は人の言葉を対象とした深層学習モデルの一種です。
深層学習技術の進歩に伴ない、このような言語処理モデルはあたかも人の言葉を完全に理解しているかのような応答を返すことができるようになってきています。しかし、人であればしないような誤った応答や辻褄の合わない応答を返すこともあり、どこまで人と同じように言葉を理解しているかはよく分かっていません。
人は文を理解するとき意味フレームを使う
私は深層学習とフレーム意味論を融合させることでこの疑問に答えたいと思っています。
フレーム意味論とは、言語学者のチャールズ・フィルモアが提唱した言葉の意味に関する理論的枠組みです。フレーム意味論では、人間が文を理解する際には日常的な場面や出来事をスキーマ化した認知構造である意味フレームと呼ばれる知識を想起していると考えます。意味フレームは簡単に言うと、人が持つ言葉に関する常識のようなもので、言語学者を中心としたグループにより大規模なフレーム知識が人手で整備されています。
人間のフレーム知識をどのくらい再現できるか
このようなフレーム知識を深層学習モデルによりどのくらい再現できるかを調べることで、深層学習に基づく言語処理モデルがどのくらい人と同じように言葉を理解しているのか明らかにしたいと思っています。また、その過程で得られた知見をより高性能な言語処理モデルの構築に活かしていきたいと思っています。
◆ 笹野研究室HP
言語を生みだす本能
スティーブン・ピンカー、訳：椋田直子（NHK出版）
子どもがどのように言語を獲得するかや、生得的な心的能力としての言語の研究について書かれた本です。やや古い本ですが、これまで言語について当たり前と思っていたことが必ずしも正しくないことを知ることで、言語の見方が変わる本だと思います。
言語の本質 ことばはどう生まれ、進化したか
今井むつみ、秋田喜美（中公新書）
なぜヒトはことばを持つのかや、子どもはいかにしてことばを覚えるのかについて書かれた本です。『言語を生みだす本能』（NHK出版）と合わせて読むことで、「ことばとは何か」という疑問に対して様々な切り口があるということを知ることができ面白いと思います。
ウォール街のランダム・ウォーカー 株式投資の不滅の真理
バートン・マルキール、訳：井手正介（日本経済新聞出版）
50年以上前に初版が出版された株式投資に関する本です。投資に関する本は玉石混交ですが、昔から変わらない株式投資の基本がまとめられた入門書として、読んでおいて損のない本だと思います。
