[[Transformer]]の生成部（デコーダー）を言語モデルとして学習したもの（事前学習） - [[GPT-3]] - [[GPT-3におけるFew-Shot・Zero-Shot]] - [[GPT-3.5]] - [[GPT-4]] [GPTの仕組みと限界についての考察（2.1） - conceptualization](https://isobe324649.hatenablog.com/entry/2023/03/27/064121)