Greg Brockman（OpenAI 共同創設者） : GPT-5 を語る

前置き

ChatGPT 5 （GPT-5）をしばらく使ってみたが、やはり前バージョンよりも格段に性能が上がっている。Gemini もそれなりに優秀だが、GPT-5 には負けている。今のところ、難しい問題は GPT-5 一択。ただし、Deep Research ならば Gemini に分がある。

GPT-4o と比べ GPT-5 は素っ気なくなったが、このほうがベタベタ感が無くて心地よい。

この GPT-5 について、OpenAI の共同創設者 兼 会長である Greg Brockman が語っている。

概要

AI

AGIへの道：進化と応用

このソースは、OpenAIのグレッグ・ブロックマンとの対談をまとめたもので、‌‌GPT-5のリリースとその推論能力の進化‌‌に焦点を当てています。

GPT-4からGPT-5への移行は、単なる次のトークン予測から、より‌‌信頼性の高い推論‌‌と実世界とのインタラクションへの転換を示しています。OpenAIは、‌‌計算能力‌‌と‌‌強化学習の活用‌‌がAIの進歩の主要な推進力であると考えており、人間が介入してデータセットを作成する効率性が高まっていることを強調しています。

また、モデルの安全性と‌‌人間の価値観との整合性‌‌についても考察し、将来的にはAIが生物学的言語の理解や、個々のユーザーの好みに合わせて動作する‌‌適応性の高いエージェント‌‌へと発展することを示唆しています。

目次

1. 前置き
2. 概要
3. 詳細
   1. 1. GPT-5のリリースと推論パラダイムへの移行
   2. 2. コンピューティングとスケーリングの重要性
   3. 3. モデルの汎用性と限界
   4. 4. AGIへの進展と将来の展望
   5. 5. 技術と組織文化
4. 個人的な視点とアドバイス
5. 情報源

詳細

AI

OpenAIのAGIへの道：主要テーマと重要な事実 Linen SpaceポッドキャストでのGreg Brockman氏との対談は、OpenAIの技術的進歩、AGIへのアプローチ、そしてその社会的影響について深く掘り下げたものでした。以下にその主要なテーマと重要な事実をまとめます。

1. GPT-5のリリースと推論パラダイムへの移行

• GPT-5は初のハイブリッドモデルであり、推論能力が大幅に向上しています。Brockman氏は「GPT-4を訓練した後、対話可能なモデルができた」と述べ、チャット機能が訓練なしで可能であったことに驚きを示しました。
• AGIへの課題：信頼性と推論。GPT-4がAGIでない理由として「信頼性に欠け、間違いを犯す」点を挙げ、このギャップを埋めるために「モデルが世界でそのアイデアをテストする」こと、つまり強化学習が必要であると強調しました。
• 強化学習（RL）の重要性: OpenAIはDotaの経験からRLの重要性を認識しており、言語モデルにも同様の信頼性を求めていました。RLはモデルがデータを生成し、そのデータに基づいて学習するという特性を持っています。
• 学習のオンライン化: 以前はオフラインの事前学習が中心でしたが、現在は「推論し、その推論に基づいて訓練する」というループに移行しつつあります。人間が経験から学習するのと同様に、モデルが現実との接触を通じて観察を学習にフィードバックするプロセスが進んでいます。

2. コンピューティングとスケーリングの重要性

• 「ボトルネックは常にコンピューティング」: Brockman氏は、OpenAIにとって最大の制約が常に計算能力であることを強調しています。十分な計算能力があれば、常にそれを最大限に活用する方法を見つけることができると述べています。
• サンプル効率と計算量: 強化学習パラダイムによってモデルのサンプル効率は向上しましたが、それでも膨大な計算量を必要とします。「人間が作成した少数のタスクに対して、モデルは1万回も試行を繰り返す」ことで学習します。
• 超臨界学習の概念: アラン・チューリングの「超臨界学習」の概念を引き合いに出し、モデルが直接教えられたことだけでなく、その二次、三次、四次的な影響まで思考して知識を更新することの重要性を述べました。これは、より多くの計算能力を投入する創造的な方法の一つとして捉えられています。
• 「壁」への挑戦: OpenAIはDotaの経験から、既存の強化学習アルゴリズムがスケーリングしないという既成概念を打ち破るために計算能力を押し広げ続けました。彼らは「壁にぶつかるまで押し続けるべきだ」と考えましたが、多くの場合、「壁」はバグや些細な問題であり、それを修正すればさらに前進できることを発見しました。
• 「エネルギーから計算へ、計算から知能へ」: 計算能力を「知能の根本的な推進力、根本的な燃料」と表現し、それがニューラルネットワークを形成し、プログラムを出力するという「美しいパラダイム」であると語っています。

3. モデルの汎用性と限界

• 学習能力の転移性: IMO（国際数学オリンピック）モデルがIOI（国際情報オリンピック）でも金メダルに相当する成果を出した例を挙げ、「難しい問題を解くことを学ぶことは、非常に転移性の高いスキルである」と述べています。
• 実世界経験の必要性: しかし、「物理実験を行ったことがない、化学物質を混ぜたことがないなら、それらのことには魔法のように長けているわけではない」と、現実世界での経験の重要性も認識しています。
• 科学研究への応用: GPT-3のようなモデルは、ウェットラボの科学者が仮説を立てるのを助け、中堅のジャーナルに発表可能なレベルの研究成果をもたらすことができると述べています。これは、モデルが「博士課程の3年生、4年生が期待するような仕事」をすでにこなしていることを示唆しています。
• 生物学への応用とDNAニューラルネット: Greg Brockman氏はArc Instituteでの研究から、DNAも人間の言語と同様にニューラルネットワークにとって自然な言語であり、「これらは文字通り同じハードウェア」で処理されると語っています。彼の妻の遺伝的疾患の例を挙げ、生物学を理解するためのツールの改善が病気のマーカー特定に繋がる可能性に期待を寄せています。

4. AGIへの進展と将来の展望

• GPT-5のフラッグシップ: GPT-5の主要な特徴は、「その知能がほとんど表現できないほどになり始めている」点であり、「極めて困難な領域においても、人間で最高のレベルの推論能力を発揮できる」ことを強調しています。
• 生産性向上と共同研究: GPT-5は「知的なフロンティアをパートナーとして共に前進させる」ことができるようになり、以前は数ヶ月かかった洞察を再導出できるなど、研究のスピードアップに大きく貢献すると考えられています。
• 「マネージャー・オブ・エージェント」: モデルから最大限の能力を引き出すためには、開発者が「エージェントのマネージャー」になる必要があると示唆しています。これは、タスクを分割し、モデルに複数の自己完結型ユニットで動作させることを意味します。
• AI製品化の比喩: AI製品化を「優秀な同僚」に例え、ローカルでの協業とリモートでの非同期作業の両方がシームレスに行われるべきであると述べています。モデルは「マイクロマネジメントされることを全く気にしない」という人間とは異なる特性を持ちます。
• エージェントの堅牢性: エージェントの安全性とセキュリティは「防衛の多層化」によって確保されます。モデル自体にセキュリティの原則を組み込むこと（例：指示階層）と、サンドボックス化された実行環境によるシステム制御の両方が重要です。
• AIと社会・経済: AIは「人類が作り出した最も有用なツール」であり、その背後には「人類がこれまでに作り出した最大の機械」があると考えています。AI駆動型経済への移行は「人類規模の大きな変化」であり、技術がすべての人類を向上させる機会となると信じています。
• 計算能力へのアクセス: 将来、最も需要の高い資源は計算能力になると予測しています。物質的なニーズは満たされるかもしれないが、「より多くのことができるか」「より深い思考ができるか」という点で、計算能力へのアクセスが重要になると考えています。
• 問題の豊富さ: 過去に「すべてのクールな問題は解決されてしまった」と感じていたが、実際には「問題の利用可能性は時間とともに増大する」ことを経験し、現在がテクノロジーに携わる上で最もエキサイティングな時期であると語っています。

5. 技術と組織文化

• モデル・スイッチャーは一時的なもの: 現在のGPT-5のルーターのようなモデル・スイッチャーは過渡的なものであり、「最終的には完全に統合されたモデルが正しいことを行うことが望ましい」と考えています。しかし、現在の証拠は、最終的なAGIは単一のモデルではなく、異なる強みを持つ「モデルのマネージャー」のようなものになる可能性を示唆しています。
• 価格戦略とミッション: OpenAIは一貫してモデルの価格を大幅に引き下げており、GPT-4のリリース以来、同等レベルの知能のコストは1000分の1に減少しました。これは「AGIが全人類に利益をもたらす」というミッションと合致しており、技術の普及と利用を促進するためです。
• エンジニアリングと組織構造の変化: モデルの強みと弱みに合わせてコードベースを構築することの重要性を強調しています。自己完結型のユニット、優れたユニットテスト、および明確なドキュメンテーションを備えた「AI最適化されたモジュール」が推奨されます。
• 多様な研究アプローチ: AI研究分野には「驚くほどの多様性」があり、各ラボが異なる視点と優先順位を持っていると述べています。OpenAIは、AGIの達成という目標に沿った研究方向性を持つ人々を厳選することで、一貫した進歩を遂げてきました。

このブリーフィングは、OpenAIがAGIの実現に向けて技術的、戦略的、そして哲学的にどのようにアプローチしているか、そしてその進歩が社会にどのような影響を与える可能性があるかについてのBrockman氏の深い洞察を示しています。

個人的な視点とアドバイス

AI

OpenAIのAGIへの道のりというより大きな文脈において、提供された情報源から、個人的な視点とアドバイスについて以下の点が挙げられます。

• ‌‌リリース週の感想‌‌: Greg Brockman氏は、OpenAIが多くの成果物を1週間にわたってリリースしたことについて、「‌‌本当にワイルドだった‌‌」と表現し、チームがそのリリースプロセスをやり遂げたことを非常に誇りに思っていると述べています。
• ‌‌推論チームの歴史と個人的な関与‌‌: 彼はIlia氏とともにOpenAIで推論チームを立ち上げたことに触れ、GPT-4のトレーニング後、モデルが文脈を理解してチャットできることに気づき、それがAGIではない理由を問い直した研究会議を思い出しています。その際、「なぜこれはAGIではないのか」という問いかけが研究の出発点となり、信頼性を高めるために‌‌強化学習が必要である‌‌と確信したと述べています。
• ‌‌研究における信念と推進力‌‌: 彼は、この分野の進歩は「‌‌ある方向性に対する確信を持つこと‌‌」にかかっているとし、最初に試す10のことが失敗しても、そのうちの1つを成功させることが重要であると強調しています。「‌‌私たちはただ押し続け、押し続けるだけだ‌‌」と述べ、小さな兆候から成長していくことの重要性を語っています。
• ‌‌計算能力がボトルネックであるという信念‌‌: Greg氏は、ボトルネックは常に計算能力であるという強い確信を持っており、「‌‌大量の計算能力を与えれば、私たちはそれを最大限に活用する方法を見つけるだろう‌‌」と述べています。
• ‌‌個人的な動機と生物学への応用‌‌: 彼は妻の遺伝的疾患（エーラース・ダンロス症候群）に触れ、生物学を理解するためのより良いツールがあれば、多くの異なる病気のマーカーを特定できるはずだと述べており、これが個人的な動機付けになっていることを示唆しています。
• ‌‌GPT-5時代の特徴‌‌: Greg氏は、GPT-5におけるモデルの知能は「‌‌ほとんど言葉では表現できないほどだ‌‌」と表現し、極めて難しいIMOの数学問題で人間最高レベルの証明を書けるなど、‌‌モデルが素晴らしい知的な偉業を成し遂げていることは否定できない‌‌と述べています。彼はまた、GPT-5が人間と協力して知的なフロンティアを推進するパートナーになり得るとも考えています。
• ‌‌モデルの評価と活用に関するアドバイス‌‌:
  • モデルの能力を最大限に引き出すには、「‌‌モデルのスキルと弱点の形状を理解しようと粘り強く試す‌‌」という真のスキルが必要であると指摘しています。
  • 単純なタスクではモデルの能力が飽和する傾向があるため、‌‌モデルの能力を最大限に引き出すには、より難しい知的課題を与えるべき‌‌だと考えています。
  • 開発者に対しては、モデルを「‌‌エージェントのマネージャー‌‌」のように扱い、タスクを自己完結型のユニットに分解し、複数のモデルインスタンスを運用することを推奨しています。
  • AIの製品化を「‌‌優れたプログラマーである同僚‌‌」に例え、ローカルでの協業とリモートでの非同期作業の両方を望むと説明しています。モデルは人間と異なり、マイクロマネジメントされても問題ないという特異な特性も指摘しています。
• ‌‌OpenAIのネーミングに関する自己認識‌‌: 彼は、OpenAIが多くのことをうまくやってきた中で、製品の「ネーミング」はその一つではないと、ある種自虐的に認めています。彼らはユーザーに複雑さを押し付けるのではなく、内部でその複雑さを処理することを目指していると述べています。
• ‌‌価格戦略とミッション‌‌: OpenAIの積極的な価格設定とコスト削減は、AGIが全人類に利益をもたらすという彼らのミッションと深く結びついていると説明しています。テクノロジーを広く普及させることで、より多くの人々がAIを活用し、その恩恵を受けられるようにしたいと考えています。
• ‌‌ソフトウェアエンジニアリングの変化‌‌: AIモデルの登場により、ソフトウェアエンジニアリングは変化していると述べています。特に、‌‌自己完結型のユニット、優れた単体テスト、明確なドキュメントを備えたコードベースを構築すること‌‌が、モデルの強みを活かす上で非常に効果的であると強調しています。
• ‌‌未来への楽観的な見通し‌‌: Greg氏は、将来的に「‌‌問題の豊富さは時間とともに増大する‌‌」ということを、かつて自身が18歳（2005年）の時に知っておきたかった最も重要なメッセージとして挙げています。彼は現在を、人類がこれまでに創造した中で最も有用なツールを生み出している「‌‌最もエキサイティングな時代‌‌」だと考えており、この技術が人類のあらゆる分野を向上させ、革新する機会をもたらすと信じています。
• ‌‌個人的な集中‌‌: 彼は現在エンジェル投資を行っていない理由として、「‌‌OpenAIから気が散るものはすべて邪魔であり、レーザーのように集中したい‌‌」と述べています。

これらの視点やアドバイスは、OpenAIがAGIへの道をどのように進んでいるか、またその過程でどのような課題に直面し、どのような考え方でそれを乗り越えようとしているかを示す、Greg Brockman氏の個人的な見解を反映しています。

情報源

動画(1:08:36)

https://www.youtube.com/watch?v=35ZWesLrv5A

(2025-08-19)