著者：米澤 謙（金融NEXT企画部 開発企画課）
イベント概要
K1st（GLOBAL INDUSTRIAL AI CONFERENCES）
Aitomatic社が主催するイベント。インダストリアルAIの普及、活用に向けてスタンフォード大学にて開催。生成AIに関する内容が中心で、生成AIの正確性や信頼性を確保するための様々な方法論の紹介や
リアルタイムのセンシング情報から製造プロセスを自律的に制御する等の物理世界における活用事例も紹介。
•場所：The Faculty Club at Stanford University
•日程：9/5~6 (2日間)
•形式：講演およびパネルディスカッション
登壇内容：従来RAGの精度課題に対する解決アプローチの紹介
多様な社内情報を効率的に取得するための手法として、近年RAGが注目を浴びており、多くの企業が導入を検討しています。しかし、従来のRAGでは、参照している情報が正しくない、もしくは正しい情報を適切に解釈されていない、といった課題が発生しがちです。そのような課題に対して、Aitomatic社が提唱するドメイン固有の知識やノウハウをAIエージェントに与え、エージェントがその知識やノウハウを活かしてタスクに応じた最適なタスクに分解・整理することで、それぞれの必要な情報をRAGで取得し総合的に回答を行うアプローチを紹介しました。このアプローチにより、従来のRAGと比べて大きく回答精度が向上することを示しました。
また、AIが複雑な図表を理解して回答を行うために、図表を構造化する仕組みが文書のembedding時に組み込まれていますが、一定以上複雑な図表は現在の技術レベルでは構造を理解することが困難であるため、手作業による調整が必要となります。CTCでは、特例子会社のひなりが提供する「ひなりDPC (Data Preparetion Center)」のサービスを利用することで、この問題に対応可能であることも併せて紹介しました。
カンファレンス参加の所感
カンファレンスで紹介された各講演を通じて、ドメイン固有の専門家の知識や経験を如何にAIシステムに組み込むかが今後のAIの成功の鍵だと実感しました。汎用LLMは幅広い知識を有すものの、やはりドメイン固有の専門知識や企業内の暗黙知を欠くので要求される正答率を満たすことは難しい傾向にあると思われます。そのような知識や経験は企業の中で暗黙知として文書化されていないケースが多分にありますので、そのような知識や経験を運用の中で適切に拾い、AIエージェントに逐次学習させて継続的に改善を図るアプローチが重要となると感じています。
また、カンファレンスの中でその他に興味を持った技術や話題を簡単に紹介します。
・グラフデータの活用
多くの講演で以下のようなグラフデータの活用が紹介されていました。これらの技術自体は最近登場したものではないですが、AIの進化により自動的にグラフ構造データを生成できる技術が進展しており、企業や組織が扱うデータがますます複雑化する中でグラフ構造のデータの利用は更に拡大していくと思われます。
<ナレッジグラフ>
エンティティ間の関係性を構造的なグラフで表現。具体的な事実を問うことに適した検索手法。
一般的なRAGではベクトル検索を用いられますがタスクに依ってはナレッジグラフを用いること
も増えてきている。
<カジュアルグラフ>
因果関係をグラフで表現したもの。講演ではKPIの影響分析の応用事例等が紹介。
・AI導入時のマシンリソースの効率化
LLMは以前よりも多くのマシンリソースを必要とし、スケールアップに伴いリソースコストが指数的に増加するため、コスト削減のために分散処理やコンピュートクラスタの利用が必須となります。LLM開発基盤のRay(OSS)を利用した推論(オンライン/オフライン)や学習のトラフィックに応じて動的にスケールする仕組みが紹介されていました。自社環境でLLMを活用したいとの引き合いも増えてきていますので、インフラコストの最適化において非常に興味深い内容でした。
最後に、次回のK1stのカンファレンスは3月頃にベトナムで開催を予定とのことです。今回は後続の出張予定のため途中までの参加になりましたので、次回はフルで参加できればと思います！！
最後までお読みいただきありがとうございました。
Comments