[Characterizing Emergent Phenomena in Large Language Models – Google AI Blog](https://ai.googleblog.com/2022/11/characterizing-emergent-phenomena-in.html)
[[notes/data-science/LLM]]の創発現象に関するGoogle AIのブログ。
![[Pasted image 20230404101206.png]]
## Future work
- なぜスケーリングが創発的な能力を解き放つのか?
- 計算資源は高価であるため、スケーリングが向上しなくても、他の方法(例えば、より優れたモデルアーキテクチャやトレーニング技術)で創発的な能力を引き出すことができるのか。
- 言語モデルの新しい実世界での応用は、特定の能力が出現したときに解き放たれるのだろうか?