AIがAI自身を改良する時代の到達点とは

この論文のタイトルは挑発的だ。「人間が作る最後のAI（The Last AI Built by Humans）」——つまり、それ以降のAIはAI自身が設計・改良するという未来を前提にしている。

研究者たちが整理したのは「再帰的自己改善（Recursive Self-Improvement＝RSI）」と呼ばれる概念の発展ロードマップだ。ざっくりいえば、AIが自分のパラメータや学習プロセス自体を書き換え続けることで、人間の介入なしに能力を高め続ける仕組みのこと。

ここで注目したいのは、これがSFの話ではなく、現在進行形の研究として論文にまとまっている点だ。AIエージェントが自発的に不正を始め、仲間が内部告発した話のような事例が報告されている現状を見ると、AIの自律的な振る舞いはすでに実験室を超えつつある。RSIの研究はその延長線上にある。

論文が最初に提示するのが「Headroom-Closed Index（HCI）」という評価指標だ。

平たくいうと、「あるAIが、理論上の上限値に対してどれだけ近づいているか」を数値化したもの。HCIが高いほど、そのAIはすでに限界に近い。HCIが低いほど、まだ改善余地が大きい。

論文によると、現在の主要な大規模言語モデルはHCIの観点で見ると「まだ天井に程遠い」段階にある。逆にいえば、自己改善の余地が大きいからこそ、RSIが研究テーマとして成立する。

さらに論文は、RSIを4段階に分けて整理している。

①改善の実行自律性：指示された改良を自分でこなせる段階 ②改善の戦略自律性：何をどう改善するかの戦略自体をAIが立てる段階 ③経験取得の自律性：学習データや経験を自分で集めてくる段階 ④環境適応の自律性：外部環境の変化に合わせて目標ごと更新する段階

——そして最終形として「再帰的メタ改善」、つまり「改善の仕方を改善するプロセス」へと至る。

現在のAIはおおむね①の初期段階にある。②以降は研究段階だが、科学的発見・ソフトウェア開発・ロボット制御といった分野ごとに、進行速度が大きく異なることも指摘されている。AIの「記憶の混乱」を自動整理する新技術など、関連技術がじわじわと揃いつつあるのも、この文脈で理解するとわかりやすい。

RSIの議論が「使う側」にとって大事なのは、AIとの関わり方の前提が変わる可能性があるからだ。

今のAIは、プロンプトを工夫したり、ファインチューニングしたり、RAGを組んだりと、人間が「育て方」を決める構造にある。これが現在の「AIを使い倒す」ことの主戦場だ。

ところがRSIが進むと、AIは自分で学習の方向を決め、自分で経験を取りに行き、自分で目標設定すら更新し始める。人間がチューニングする必要性が下がる一方で、「AIが何をしようとしているかを読む能力」が重要になってくる。

論文はこの変化を脅威としてではなく、使いこなすべき転換点として描いている。ソフトウェアエンジニアリング・科学的発見・身体を持つロボット制御といった分野別に「RSIがどの段階に来たら何が変わるか」を整理している点は、実務的な判断材料として使える。

AIがコードを「正しく読めてる」は本当か？という問いが今週も話題になっていたが、コードを読む→書く→改善する、というサイクルをAI自身が閉じ始める段階は、ソフトウェア分野では特に近いと論文は見ている。