# Alec Radford [[OpenAI]] の研究者。GPT シリーズ（GPT-1、GPT-2）および [[CLIP]] の筆頭著者として知られる。 ## 概要 [[@2018__OpenAI__Improving Language Understanding by Generative Pre-Training]] の筆頭著者であり、Transformer デコーダを用いた教師なし事前学習と教師あり微調整による自然言語理解の統一フレームワーク（GPT-1）を提案した。同論文では 12 タスク中 9 で当時の最高精度を達成している。 続く [[GPT-2]] 論文 [[@2019__OpenAI__Language Models are Unsupervised Multitask Learners]] でも共同第一著者（equal contribution）を務め、GPT-1 を 10 倍以上にスケールアップした 1.5B パラメータモデルで教師なしマルチタスク学習とゼロショットタスク転移を実証した。(Source: [[@2019__OpenAI__Language Models are Unsupervised Multitask Learners]]) また [[GPT-3]] 論文 [[@2020__NeurIPS__Language Models are Few-Shot Learners]] の共著者でもある。GPT-3 プロジェクトでは NLP の観点から助言し、タスクの提案、結果の文脈づけを行い、少数ショット学習が言語モデルで生じることを当初実証した人物として言及されている。訓練データの収集・フィルタリング・重複排除・重複分析を Benjamin Mann と共同で実施し、重み減衰が訓練に有効であることを示した。(Source: [[@2020__NeurIPS__Language Models are Few-Shot Learners]]) ## CLIP(2021) 言語モデルに続き、テキストと画像を扱うマルチモーダル分野でも筆頭著者を務めた。[[CLIP]] 論文 "Learning Transferable Visual Models From Natural Language Supervision"(2021/02/26 公開、被引用数32,849)で、ウェブ上の画像・キャプションのペアを使った対照学習によりテキストと画像の特徴量を同一空間に埋め込む手法を提案した。この共通埋め込み空間は、後続の [[unCLIP]](DALL·E 2)・[[Imagic]]・[[BLIP]] など第6章で扱う text-to-image / text+image-to-image / text+image-to-text モデル全ての土台になっている。(Source: [[@2025__Gihyo__原論文から解き明かす生成AI - Chapter 6 テキストと画像の融合]] §6.1) ## 出典 - [[@2018__OpenAI__Improving Language Understanding by Generative Pre-Training]] - [[@2019__OpenAI__Language Models are Unsupervised Multitask Learners]] - [[@2020__NeurIPS__Language Models are Few-Shot Learners]] - [[@2025__Gihyo__原論文から解き明かす生成AI - Chapter 6 テキストと画像の融合]]