イベントレポートHack@DELTA 24.09

2024年09月26日（木）にHack@DELTA第８回目を開催しました！
弊社代表の丹の司会進行のもと、参加されたみなさんと様々な意見が交換されました。

テーマ：LLMアプリの運用と向き合う

イベントURL：https://hack-at-delta.connpass.com/event/329622

生成AI、特にLLM（大規模言語モデル）を活用したアプリケーションの開発に関する話題は日々事欠かない状況になりつつあり、実際のビジネスや製品に組み込む企業も増えています。一方でLLMの進化は日進月歩であり、開発しリリースした後の運用に関する情報はまだまだ十分とは言えません。タスクに対する最適なモデルの選択、日々進化するモデルのアップデートへの継続的な追従や入れ替えといったプロダクション環境を運用する必要があるからこそ開発時とは異なる考慮事項が出てきます。

そこで、今回のテーマはズバリ「LLMアプリの運用と向き合う」としてLLMを活用したアプリケーションの「運用」に焦点をあてました。

登壇者

PharmaX株式会社 共同創業者・エンジニアリング責任者上野彰大
「LLMアプリケーションの評価と改善〜入門から新モデルが出たときの検証と運用まで〜」
日本マイクロソフト株式会社 Microsoft Innovation Hub 業務執行役員榎並利晃　
「生成AIにおける開発プロセスと運用」
株式会社DELTA 代表取締役CTO丹哲郎
「スタートアップスタジオという困難を、LLMバックオフィスが乗り越えていくまで」

今回はオンライン開催となり、多くの方にご視聴いただきました。
ご登壇いただいた皆様、ご参加いただいたみなさま、ありがとうございました！！

次回は10月29日（火）に「わたし史上、最高のチューニング」を開催します。
パフォーマンス・チューニングの対象となるインフラ、データベース、フロントエンドの各レイヤでお話しいただきます。
ハッカーたちはパフォーマンス・チューニングとどう向き合い乗り越えるのか、一緒に探求し議論しましょう。
次回はハイブリッド開催です！ぜひご参加ください！