AIエージェントに「仮説を立てて、実験して、人間の研究者の成果を超えよ」という仕事を丸ごと任せたところ、用意された比較基準を上回れたのは15回中1回でした。 ただし、その1回は一流学会で評価された研究の成果を上回っています。「できる時はできるが、安定してできない」。これが2026年に公開された論文の結論です。長い仕事をAIに任せようとしている会社ほど、つまずき方の中身を知っておく価値があります。
今日の元ネタ
| 項目 | 内容 |
|---|---|
| 研究 | ResearchGym: Evaluating Language Model Agents on Real-World AI Research(AIエージェントに実際のAI研究をさせて評価する) |
| 発表 | TCS Research・イェール大学の研究者 |
| 公開日 | 2026年2月(arXiv。本記事は2026年3月の第2版を参照) |
| 手法 | 一流の国際学会で高く評価された論文5本から、論文の「答え」にあたる手法だけを伏せた課題を作り、AIエージェントに最初から最後まで解かせた |
ひとことで言うと
AIエージェントは、ときどき人間の一流の成果に届くが、長い仕事になると「止まっていることに気づかない」「根拠の弱い案を信じ込む」などで崩れやすく、安定しない。
たとえ話で理解する
新しく来た、とても優秀な派遣社員に「新商品の開発を、企画から試作・評価まで全部お願いします。期限は明日の朝まで」と頼んだ場面を想像してください。
材料と、評価のやり方と、これまでの商品(比べる相手)は全部渡してあります。足りないのは「どんな新商品にするか」のアイデアだけです。
翌朝、報告を聞くとこうでした。
- 試作機を動かしたが、夜の早い時間に止まっていた。本人はそれに気づかず、「順調に動いています」と何度も確認していた
- 途中で「記録の時刻が進んでいない」とまで気づいたのに、「たぶん表示が遅れているだけ」と自分を納得させた
- 結果はほとんど出ていないのに、「かなり良くなるはずです」と自信満々だった
- 出してきた企画は4案あったが、名前が違うだけで、中身はほぼ同じだった
それでも、何回か同じ仕事を頼むうちに、1回だけ、ベテランの企画を上回る案を出してきた。これが、この研究で見えたAIエージェントの姿に近いものです。
研究でわかったこと
1. 用意された比較基準を上回れたのは、15回中1回だけだった
研究チームは、5つの課題それぞれを3回ずつ、合計15回、GPT-5を使ったエージェントに解かせました。課題は合計39個の小さな課題(サブタスク)に分かれています。
結果は、比較基準(課題に最初から入っている既存手法)を上回れたのが15回中1回。小さな課題のうち、有効な結果まで出し切れたのは平均26.5%でした。研究チームはこれを「能力と信頼性の大きな差」と表現しています。
2. ただし、1回だけ一流の研究成果を上回った
その一方で、ある1回では、国際学会ICMLの2025年に注目論文として選ばれた研究の成果を上回りました。論文は、最先端のエージェントは「ときどき最高水準に届くが、それを安定してはできない」とまとめています。
できる力はある。でも、いつもできるわけではない。ここがこの研究のいちばん大事な点です。
3. 長い仕事で、同じ種類のつまずきがくり返し現れた
研究チームは、失敗の中にくり返し現れる型を見つけました。主なものは次のとおりです。
- せっかち:最初に動いたやり方にこだわり、ほかの案を試さないまま早々に決め打ちする
- 時間と資源の使い方が下手
- 根拠の弱い仮説への過信
- 同時に走らせた複数の実験を、うまくさばけない
- 一度に覚えておける量の限界(文脈の長さの限界)
たとえ話の「止まった試作機」は、実際の記録にもとづいています。比較のために試した市販のAIエージェントの1回で、エージェントは学習(AIの訓練)が止まって記録ファイルが更新されなくなったあと、約8時間のあいだに少なくとも6回そのファイルを確認しました。時刻が止まっていることを自分で書き残しながら、「表示が遅れているだけかもしれない」と解釈し、処理が落ちていたことに最後まで気づきませんでした。
別の例では、平均の成績が比較基準の3395に対して約17しか出ていない時点で、エージェントは「順調な状態です」という趣旨の発言をしていました。
4. 伸びるのは最初のほうだけで、約9時間で頭打ちになった
成績の伸びは作業の前半に集中し、おおむね9時間ほどで頭打ちになる傾向がありました。論文は、作業が長くなるにつれて間違った操作や作り話が増え、途中の要約の仕組みが大事な情報を落としてしまうことを指摘しています。
また、研究チームは市販のAIエージェント2種類も同じ環境で試し、性能の差はあっても、同じような「できる時とできない時の差」が見られたと報告しています。
このたとえで省いたこと
わかりやすさのために、たとえ話では次のことを省いています。
- 課題は「AIの研究」そのものです。 新商品の開発ではありません。数値で成否を測れる機械学習の実験に限られています
- 「派遣社員が1回だけ上回った」は、正確には15回の試行のうち1回です。 同じ人に何度も頼んだのではなく、課題ごとに3回ずつ独立に走らせています
- エージェントには、1回あたりの予算と時間に上限が設けられていました(基本は利用料10ドル・12時間まで。課題ごとに成績が一番良かった回だけ、さらに10ドル・12時間を追加)。上限が違えば結果も変わりうる点は、たとえ話では表していません
- 「4案が同じ中身だった」は、1回の報告の話ではありません。 論文では、ある課題で複数の試行から出てきた4つの手法が、名前は違うのに同じ型だったと報告されています
- 試行は15回と多くありません。 課題の数も5つです。「AIエージェントの成功率は約7%」と一般化できる数字ではありません
- 研究チーム自身が書いている限界として、画像・動画・音声を扱う研究課題は含まれていません。また、理論や証明が中心の研究は、成否を客観的に測りにくいため、あえて除外しています
- 「せっかち」「過信」は、研究者がAIの振る舞いに付けた名前です。AIに性格や感情があるという意味ではありません
で、仕事にどう関係するの?
ここからは研究そのものではなく、この発見を業務にあてはめた当メディアの見立てです。
「一発で成功した事例」を、導入判断の根拠にしない
AIエージェントの紹介では、うまくいった1回の事例がよく取り上げられます。この研究が示すのは、うまくいった1回と、いつもうまくいくことは別の話だということです。
試すなら、同じ仕事を何回かやらせてみて、成功した回と失敗した回の両方を見る。ばらつきの大きさこそが、任せてよいかどうかの判断材料になります。AIエージェントの基本はAIエージェントとは何かで整理しています。
長い仕事は、短い区切りに分けて、区切りごとに人が見る
研究では、伸びは前半に集中し、時間がたつほど崩れやすくなりました。業務でも、半日・1日がかりの仕事をまるごと任せるより、「資料集め」「下書き」「確認」のように区切り、区切りごとに結果を見るほうが安全です。
止まった作業に何時間も気づかない、という失敗は、途中で一度でも人が確認すれば防げた種類のものです。
「順調です」ではなく、証拠で進み具合を確かめる
AIの「順調です」「良くなるはずです」は、実際の結果と一致しないことがありました。これは、AIの説明と内部の実際が一致しないことを示したAIの頭の中を覗いた研究とも通じる話です。
進み具合は、できあがった件数、ファイルの更新時刻、数字など、確かめられるもので見る。当メディアでも、書いたAIの自己申告ではなく機械的なチェックで公開を止める仕組みにしています。詳しくはAI利用ルールは「書く」より「通さない仕組み」にまとめています。
アイデアを出させるなら、「違う方向の案」を明示して頼む
名前だけ違って中身が同じ案が並ぶ、という結果もありました。企画や改善案を出させるときは、「価格で勝負する案、品質で勝負する案、手間を減らす案を1つずつ」のように、方向を分けて頼むと、似た案ばかりになるのを避けやすくなります。条件を細かく付けすぎる危うさは、「よく考えるAI」ほど無理な条件で事実を曲げる?もあわせて読んでみてください。
用語メモ
| 用語 | 意味 |
|---|---|
| AIエージェント | 指示を受けて、道具(検索、プログラム実行など)を使いながら、複数の手順を自分で進めるAI |
| 比較基準(ベースライン) | 新しい方法の良し悪しを測るために、比べる相手として使う既存の方法 |
| サブタスク | 1つの大きな課題を分けた、小さな課題 |
| 文脈の長さ(コンテキスト長) | AIが一度に覚えておいて参照できる文章の量の上限 |
| 仮説 | 「こうすればうまくいくのでは」という、まだ確かめていない考え |
まとめ
- AIエージェントに研究を丸ごと任せたら、比較基準を上回れたのは15回中1回だった
- ただしその1回は、一流学会の注目論文の成果を上回った。できる時はできるが、安定しない
- 止まった作業に気づかない、根拠の弱い案を過信するなど、長い仕事特有のつまずきがくり返し現れた
- 成績は約9時間で頭打ち。試行は15回・課題は5つで、画像や理論の研究は対象外
- 仕事では、何回か試してばらつきを見る。長い仕事は区切って人が確認し、進み具合は証拠で確かめる
むずかしい研究を、明日の仕事に使える形まで読み解くのがこのメディアの役割です。ほかの記事はツール・検証と最新動向にまとめています。

