[Building LLM applications for production](https://huyenchip.com/2023/04/11/llm-engineering.html) Chip Huyenにより、[[notes/data-science/LLM]]アプリケーションをプロダクションレベルで開発するための知識が網羅的にまとめられている。 > この記事では、大規模言語モデル（LLM）を使って生産に耐えうるアプリケーションを構築する際の課題について論じています。著者は、LLMを使ってクールなものを作るのは簡単だが、生産に耐えうるものを作るのは難しいと指摘している。この投稿は、[[Prompt Engineering]]のプロダクション化の課題、制御フローで複数のタスクを構成する方法、LLMの有望なユースケースの3つのパートに分かれています。第1部では、自然言語の曖昧さ、プロンプトの評価、バージョンアップ、最適化の必要性など、プロンプトエンジニアリングの課題について説明します。第2部では、複数のタスクを制御フローで構成し、より複雑なアプリケーションのためのツールを組み込む方法について説明します。第3部では、AIアシスタント、チャットボット、データ分析など、LLMの有望なユースケースについて説明します。 [べいえりあ on Twitter: "LLMを用いたサービスの製品化やそれに伴う困難、良さげなユースケースについて書かれた記事。MLシステムデザインで有名な本を書いてる方が書いてるのと、最初に「LLMを使ってクールなものを作るのは簡単だが、製品品質のものを作るのは難しい」と書いてあるのが良いですね☺️ https://t.co/A5tpSPPW8I" / Twitter](https://twitter.com/mr_bay_area/status/1646374137051643906)