[Text Generation Inference](https://huggingface.co/docs/text-generation-inference/index)
> Text Generation Inference (TGI)は、大規模言語モデル([[LLM]])をデプロイして利用するためのツールキットです。TGIは、Llama、Falcon、StarCoder、BLOOM、GPT-NeoX、T5など、最も人気のあるオープンソースのLLMのための高性能なテキスト生成を可能にします。