BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//pretalx//pretalx.com//pyconjp2026//talk//WCXAKU
BEGIN:VTIMEZONE
TZID:Asia/Tokyo
BEGIN:STANDARD
DTSTART:20250822T000000
TZNAME:JST
TZOFFSETFROM:+0900
TZOFFSETTO:+0900
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
SUMMARY:“Attention Is All You Need” から理解するTransformer - 
 ローランド リチャード
DTSTART;TZID=Asia/Tokyo:20260822T154500
DTEND;TZID=Asia/Tokyo:20260822T161500
DTSTAMP:20260818T083933Z
UID:pretalx-pyconjp2026-WCXAKU@pretalx.com
DESCRIPTION:Transformerは、ChatGPTやコード生成AIをはじめとす
 る現代のAIシステムを支える中核技術ですが、その解説
 は数式中心で難解だったり、逆に抽象的すぎて内部動
 作が見えにくかったりすることが少なくありません。\n
 \n本トークでは、Transformerアーキテクチャを開発者向け
 に直感的かつ実装ベースで解説します。まず、従来のRN
 Nや初期のAttention機構の限界を振り返りながら、なぜSelf
 -Attentionが重要なのかを説明します。その後、Query / Key /
  Value (Q/K/V) によるScaled Dot-Product Attentionの仕組みを、PyTo
 rchの最小実装を交えながら理解していきます。\n\nさら
 に、Self-Attentionによる文脈表現、Causal Maskingによる次単
 語予測、Multi-Head Attention、Positional Encodingなど、Transformer
 を構成する主要要素についても扱います。\n\nまた、GPT-
 2のような実際のモデルとの関連にも触れながら、Transfo
 rmerの理論とPythonコードを結びつけて理解できることを
 目指します。\n\nこのトークを通じて、参加者はTransforme
 r内部の基本動作を理解し、既存ライブラリや実装をよ
 り深く読み解けるようになることを目標とします。
LOCATION:Dahlia 1
URL:https://pretalx.com/pyconjp2026/talk/WCXAKU/
END:VEVENT
END:VCALENDAR
