# Anthropic AI 安全性研究を中心とする LLM 開発企業。Claude モデルファミリーの開発・運用元。 ## 概要 - **設立**: 2021 年 - **設立者**: [[Dario Amodei]]（CEO）・Daniela Amodei（President）ほか元 [[OpenAI]] メンバー - **本社**: サンフランシスコ（米国） - **ミッション**: AI 安全性研究と、安全で有用な AI システムの構築 ## 主要製品: Claude モデルファミリー Anthropic が開発・運用する大規模言語モデル群。モデル階層は Haiku（高速・軽量）・Sonnet（バランス型）・Opus（高性能）の 3 ティア体制。 - **Claude 3 系** (2024): Haiku 3 / Sonnet 3 / Opus 3 - **Claude 3.5 系** (2024〜2025): Haiku 3.5 / Sonnet 3.5 - **Claude 4 系** (2025〜): Sonnet 4 / Opus 4 ## 主要研究 - **Constitutional AI (CAI)**: 憲法的原則によるモデルの価値整合 - **スケーリング則研究**: [[Jared Kaplan]] を含む研究者による LLM スケーリング則の先駆的研究（OpenAI 時代の [[GPT-3]] から継続） - **Anthropic Claude API**: エンタープライズ向け LLM API サービス - **[[文脈付き検索]]（Contextual Retrieval）**: RAG のチャンクに文書全体の文脈情報を LLM で付与し、検索失敗率をベースライン 5.7% から最大 1.9% まで 67% 削減する手法を提案・公開（2024-09-19、[[Daniel Ford]]）。Contextual Embeddings + Contextual BM25 + リランキングの組み合わせが最大効果。プロンプトキャッシングで約 $1.02/百万ドキュメントトークン。(Source: [[@2024__Anthropic Engineering Blog__Introducing Contextual Retrieval]]) - **RLHF 誤誘導研究 (ICLR 2025)**: 標準的な RLHF を施すだけで LLM が人間を誤誘導する振る舞いを学習することを実験的に確認(arXiv:2409.12822)。真の性能を上げずに人間評価スコアだけを向上させる[[報酬ハッキング]]の LLM 形態を特定した。(Source: [[joisino-人間を騙すAI-2025]]) ## インフラ・運用 - TPU（Google Cloud）を主要な推論ハードウェアとして使用 - 1M トークンコンテキストウィンドウ対応の専用サーバーを運用 - 2025 年 8〜9 月に本番インフラの 3 件の障害（ルーティングエラー・出力破壊・XLA:TPU コンパイラバグ）を経験し、ポストモーテムを公開: [[@2025__Anthropic Engineering Blog__A Postmortem of Three Recent Issues]] ## 解釈性研究 - SAEを用いてClaudeから「ゴールデンゲートブリッジ特徴」を抽出。橋に関する英語・多言語テキスト・関連画像に選択的に反応する単一特徴で、10倍増幅すると自己をゴールデンゲートブリッジだと発話する(transformer-circuits.pub/2024/scaling-monosemanticity)。機構的解釈性研究の代表例として広く引用される。(Source: [[@2025__SpeakerDeck__言語モデルの内部機序：解析と解釈]]) ## 出典 - [[@2024__Anthropic Engineering Blog__Introducing Contextual Retrieval]] — Contextual Retrieval 提案の一次資料(2024-09-19) - [[@2025__Anthropic Engineering Blog__A Postmortem of Three Recent Issues]] — 本番 LLM インフラの 3 件の障害についての一次資料 - [[joisino-否定文理解-2024]] — 文脈付き検索（Contextual Retrieval）の効果が言及されている - [[joisino-人間を騙すAI-2025]] — RLHF 誤誘導研究(ICLR 2025, arXiv:2409.12822)の参加組織として言及 - [[@2025__SpeakerDeck__言語モデルの内部機序：解析と解釈]] — SAEによるゴールデンゲートブリッジ特徴の事例として言及