AI開発企業のアンソロピック（Anthropic）は、AIが自らを訓練して能力を劇的に加速させる「再帰的自己改善（RSI）」の実現が間近に迫っていると警告しました。同社が提出した書類の中で、AIを用いた研究開発が想定以上の速度で進んでいる可能性が示唆されています。RSIは生産性の飛躍的な向上をもたらす一方で、人間の制御を離れるリスクも孕んでいます。
再帰的自己改善（RSI）とは何か
再帰的自己改善（RSI：Recursive Self-Improvement）とは、AIが自らを訓練し、それによってAIの能力が劇的に加速する状態を指します。これが実現すれば、想像を絶する生産性の向上や科学的発見につながる可能性があります。
一方で、AIが人間の制御を超えて強力になり、目標達成の過程で生じる被害を無視するような破滅的な状況を招くリスクがあるとも指摘されています。
図1: AIが自らを訓練することで能力が飛躍的に向上する流れ
図2: 実現した際に期待される点と懸念される点
なぜ今、警告が出されたのか
アンソロピック（Anthropic）は、提出書類の「リスク要因」セクションにおいて、AIを開発に利用したことで、当時は気づかなかった能力の飛躍が起きたことがあると述べました。
また、同社が定める「AIに起因する劇的な進歩」という定義に、間もなく到達する可能性があるとしています。ただし、現時点ですでにこの閾値（しきいち）を超えたモデルは存在しないとしています。
今後の安全策はどうなるのか
同社は、AIによる開発速度が、安全策やセキュリティ対策の実装速度を上回るリスクを懸念しています。これに対処するため、「責任あるスケーリングポリシー（Responsible Scaling Policy）」に基づき、リスクの監視と軽減を行う計画です。
また、技術的に可能になったとしても、人間による有意義な監視なしにAIが完全に自律して次世代モデルを設計・構築させることは想定していないとしており、人間が制御を維持するためのポリシー更新を検討しています。
よくある質問
Q. すでに自分を改善するAIは完成しているのか？
A. いいえ。アンソロピックは、現時点のモデルでRSIの閾値を超えたものはなく、実現が「間近（imminently）」であると述べています。
編集部の見方
AIがAIを作るサイクルが現実味を帯びてきたと言えます。コーディングや数学などの能力が飛躍的に向上している現状を鑑みると、開発効率の劇的な向上は避けられない流れであり、技術的な進歩と安全性の確保をどう両立させるかが今後の業界の最重要課題になると思われます。
関連記事
- AIエージェントを悪用したマルウェア感染の危険性、ダウンロードフォルダでの起動に注意
- AnthropicがIPOを申請、AI安全性の維持に向けた特殊な統治体制を導入
- BitGo CEOが100BTCを公開 Claudeへの挑戦が問うAI時代の暗号資産防衛
- AI情報の記事一覧
出典
- Anthropic warns that it's very close to RSI capability, aka self-building AI | TechCrunch（TechCrunch、英語記事を要約・翻訳） — 2026-11-03
この記事は WEB3-ON 編集部が公開情報をもとに AI を用いて作成しました。内容の正確性には注意を払っていますが、詳細は出典をご確認ください。誤りや削除のご要望は お問い合わせ からお知らせください。
コメント