柴内一宏
大学院でプログラミング言語システムについて研究した後、データ活用企業であるブレインパッドに新卒入社。マーケティングツールである Rtoaster を中心に設計や開発を行う。最近はプロダクトにLLMを導入するための企画・開発を行っている。
PyCon2021において「Pythonのバリデーション定義からフロントエンドTypeScriptのコード生成」で登壇。
Session
09-28
12:40
30min
Pythonを活用したLLMによる構造的データ生成の手法と実践
柴内一宏
大規模言語モデル（LLM）の進化は目覚ましく、その応用範囲は広がっています。しかし、LLMの出力を利用したアプリケーションの構築において、その出力のデータ内容やスキーマの制御が求められます。本セッションでは、Pythonを中間コードとして用いて、構造的データを効率的に生成する手法を紹介します。この手法は直接出力よりも反復的なデータや計算を含むデータ等により効力を発揮します。また、生成過程における、Pythonコードの安全な実行環境としてWebAssemblyを利用した方法も提案します。最後に、これらによって構築されたLLMアプリケーションのアーキテクチャと、実践的デモを実演します。
Data Science, AI
4F Track3