[\[2211.04325\] Will we run out of data? Limits of LLM scaling based on human-generated data](https://arxiv.org/abs/2211.04325) 人間の生成データが涸渇する。 ![[Pasted image 20240729153231.png]] 1. LLMの出力からデータを学習する 2. データの質を高める