私の今まで経験してきた全てのLLMノウハウを詰め込んだ、LLMシステムの開発ガイドです。 初めてLLMシステムを開発したいと思った時でも、精度改善や運用に行き詰った時でも、何かしら役に立つと思います。 現在200ページ超。 今後も随時更新していきます。 2023/7/28 体裁修正、余計…
私の今まで経験してきた全てのLLMノウハウを詰め込んだ、LLMシステムの開発ガイドです。 初めてLLMシステムを開発したいと思った時でも、精度改善や運用に行き詰った時でも、何かしら役に立つと思います。 現在200ページ超。 今後も随時更新していきます。 2023/7/28 体裁修正、余計…
はじめにこんにちは、SAIG/MLOpsチームでアルバイトをしている板野です。 AzureのPrompt Flowをローカル環境で動かし、作成したフローをコードで管理する方法をご紹介します。 Prompt Flowとは、Azure Machine Learning上の機能で、Azure OpenAIで提供されているLLMを利用したアプリケーション開発を円滑にするためのツールです。 実際にLLMアプリケーションを開発する場合、「プロンプトを入力して終わり」ではなく、ベクトル検索など複数の要素を組み合わせることもあります。このため、Prompt Flowでは処理のフローをDAG(有向非巡回グラフ)で可視化することで、開発効率が大きく向上します。 Prompt FlowはPythonライブラリ(2023/09/27時点ではMITライセンス)として提供されており、Azureのコンソール画面だけでな
本記事のサンプルコードは執筆時点の最新バージョンのAPIとライブラリで検証しています。 特にOpenAI関連のアップデートは頻繁に行われるため、記事閲覧時点の最新バージョンではメソッドやパラメータが変更されている可能性があります。 実際に試す際は最新の公式ドキュメントも併せてご確認ください。 本記事で紹介するfunctionsプロパティは本家OpenAIで非推奨になりました。今後はtoolsプロパティの使用が推奨されています。 今すぐにではないですが、Azure OpenAIもそれに追従する可能性が高く、最新のAPIバージョンではtoolsプロパティが追加されています。 toolsプロパティはFunction Callingの上位互換なので、基礎的な知識として本記事で紹介している内容は無駄ではありませんが、今後に備えて以下のtoolsプロパティの使い方も併せてご覧ください。 https:/
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く