- 大量・多様なデータから高い汎化性能を獲得したAI。 - 2021年にスタンフォード大学のワーキンググループによって命名 [[2021__arXiv__On the Opportunities and Risks of Foundation Models]] - 大量かつ多様なデータで訓練され、多様な下流タスクに適応（ファインチューニングなど）できるモデル。 [Recruit Data Blog | AI開発の新たなパラダイム「基盤モデル」とは](https://blog.recruit.co.jp/data/articles/foundation_models/) ```cardlink url: https://blog.recruit.co.jp/data/articles/foundation_models/ title: "AI開発の新たなパラダイム「基盤モデル」とは" description: "はじめに 突然ですが、「基盤モデル」または英語で「foundation model」という言葉を聞いたことはあるでしょうか？" host: blog.recruit.co.jp favicon: https://blog.recruit.co.jp/data/images/favicon.ico image: https://blog.recruit.co.jp/data/articles/foundation_models/img/ogp.png ``` ![[Pasted image 20220727215912.png]] ![[Pasted image 20220727220310.png]] スケーリング則 - 訓練ステップ数 - データセットのサイズ - パラメータ数 タスクごとに専用のモデルを開発する」から「最強のモデルを1つ作って使い回す」へ 課題 - 基盤モデルの総合的な性能を評価するための適切なベンチマークが不足していること - 学習のために膨大なエネルギーを消費すること - 研究が資金力のある一部の機関による寡占状態