- Date: 15 Jun. (Mon.)
- Place: West Wing, 6th floor, Colloquium Room and on the Web (zoom)
- Time: 17:00-18:00
- Speaker : 山本章博(京都大学国際高等教育院)
- Title: Hilbertから ChapGPT へ:数理論理学を用いた Transformer の動作の説明に向けて
- Abstract:
大規模言語モデル(LLM)に端を発した人工知能(AI)の飛躍的な発達が情報学だけなく様々な学術や社会生活のあり方までも大きく変えようとしている.現在のAIの基盤技術はTransformerとよばれる特別な深層ニューラルネットワークであるが,一般に深層ニューラルネットワークは動作の説明が難しく,AIの実用面での安全性の保障を妨げていることは以前から指摘されており,それを克服するために説明可能AI(XAI)が研究されている.一方,ニューラルネットワークの起源を遡ると数理論理学が関与している.また数理論理学における形式的証明は一世代前のAIの基盤であった.そこで本講演ではTransformerの動作の説明に数理論理学を用いる可能性を提示する.最初に,Transformerの動作の説明の研究を紹介したあと,ニューラルネットワークとAIと数理論理学の関係を数学史とも絡めて紹介する.数学史を遡ればAIの出現に影響を与えた数学者の一人としてHilbertにたどり着く.そして,Transformerの核心であるQKVという計算と数理論理学の形式証明と関係づけられることを示す.
日本語
English