Sam Atlman の予測(2024-09-23)：あと数千日で超知能が現実になる
前置き
各所で話題になった Sam Atlman の 2024-09-23 の Blog とその和訳を記録しておく。数千日＝5,000日とみなせば 14年先。
要約(by ChatGPT-4o)
次の数十年で、私たちは祖父母には魔法のように思えたことを実現できるようになるでしょう。
これは新しい現象ではありませんが、加速しつつあります。人々は時とともに劇的に能力を向上させてきました。すでに、私たちが現在できることの多くは、過去の人々には不可能だと思われたでしょう。
私たちがより能力を発揮できるのは、遺伝的変化によるものではなく、社会というインフラが私たち個々よりもはるかに賢く、より多くの能力を持っているからです。重要な意味で、社会自体が高度な知性の一形態です。私たちの祖父母やその前の世代は、偉大なことを達成し、人類の進歩の土台を築きました。AIは、人々に難問を解決するためのツールを提供し、私たちが独力では解決できなかった新たな進展をもたらしてくれるでしょう。進歩の物語は続き、私たちの子供たちは私たちができないことを実現するでしょう。
すぐにすべてが変わるわけではありませんが、AIと協力することで、これまで達成できなかったことができるようになります。最終的には、私たち一人一人が異なる分野のバーチャルな専門家で構成されたAIチームを持ち、想像できるほぼすべてを作り出すことができるでしょう。子供たちは、どの科目でも、どの言語でも、どんなペースでも、個別に教えてくれる仮想の教師を持つことができるでしょう。これと同様に、より良い医療や、誰もが想像できるあらゆる種類のソフトウェアの作成など、多くのアイデアが実現可能です。
これらの新しい能力によって、今日では想像できないほどの共有された繁栄が実現できるでしょう。未来では、すべての人々の生活が現在の誰よりも豊かになる可能性があります。繁栄そのものが人々を幸せにするわけではありませんが、それでも世界中の人々の生活を大きく改善するでしょう。
出典
The Intelligence Age
DeepL(2024-07 model)
知性の時代
今後数十年のうちに、私たちの祖父母には魔法としか思えなかったようなことができるようになるだろう。
この現象は今に始まったことではないが、新たに加速するだろ う。人は時間の経過とともに劇的に能力を高めてきた。先人たちが不可能だと信じていたことを、私たちはすでに成し遂げているのだ。
私たちがより有能になったのは、遺伝子の変化によるものではなく、社会のインフラが私たちの誰よりもはるかに賢く有能であるという恩恵を受けているからだ。重要な意味で、社会そのものが高度な知性の一形態なのである。
私たちの祖父母、そしてそれ以前の世代は、偉大なものを築き、成し遂げた。彼らは人類の進歩の足場に貢献し、私たち全員がその恩恵を受けているのだ。AIは人々に困難な問題を解決するためのツールを与え、私たちだけでは考えつかなかったような新しい支柱を足場に加える手助けをしてくれるだろう。進歩の物語は続き、私たちの子どもたちは私たちにできないことをできるようになるだろう。
一度にすべてが実現することはないだろうが、私たちはやがて、AIなしで達成できたことよりもはるかに多くのことを達成する手助けをしてくれるAIと協働できるようになるだろう。最終的には、さまざまな分野のバーチャルな専門家で構成された個人的なAIチームをそれぞれが持ち、想像できるほとんどすべてのことを一緒になって創造することができるようになる。
私たちの子どもたちは、どんな教科でも、どんな言語でも、どんなペースでも、その子に合った指導ができるバーチャル家庭教師を持つことになるだろう。より良い医療を実現するための同様のアイデアや、誰かが想像しうるあらゆる種類のソフトウェアを作成する能力、その他多くのことを想像することができる。
このような新しい能力によって、私たちは 現在では想像もつかないような繁栄を共有することができる。繁栄だけで、必ずしも人々が幸せになるとは限らない-悲惨な金持ちはたくさんいる-が、世界中の人々の生活を有意義に向上させることができるだろう。
科学的発見と技術的進歩の複合的な数千年の後、私たちは砂を溶かし、不純物を加え、驚異的な精度で超微小スケールのコンピューターチップに並べ、エネルギーを通し、最終的にますます有能な人工知能を創造できるシステムを完成させる方法を発見した。
これは、これまでの歴史において最も重要な事実となるかもしれない。数千日後（！）に超知性を手に入れる可能性はある。もっと時間がかかるかもしれないが、私はそこに到達できると確信している。 私たちはどのようにして、次の飛躍的な繁栄の入り口までたどり着いたのだろうか？
3つの言葉で言えば、ディープラーニングが機能した。
ディープラーニングが機能し、規模が大きくなるにつれて予測できるほど良くなり、我々はそれにリソースをつぎ込んだ。
人類は、あらゆるデータ分布（あるいは、あらゆるデータ分布を生み出す根本的な「ルール」）を本当に、本当に学習できるアルゴリズムを発見したのだ。衝撃的な精度で、利用可能な計算量とデータが多ければ多いほど、人々が難しい問題を解決する手助けができるようになる。このことについていくら時間をかけて考えても、それがどれほど重要なことなのか、本当に理解することはできない。
まだ解明しなければならない細部はたくさんあるが、特定の課題に気を取られるのは間違いだ。ディープラーニングは機能し、我々は残りの問題を解決する。次に起こるかもしれないことについて、我々は多くのことを言うことができるが、主なものは、AIは規模が大きくなるにつれて良くなり、世界中の人々の生活に意味のある改善につながるということだ。
AIモデルはやがて、あなたの代わりに医療をコーディネートするなど、私たちに代わって特定のタスクを遂行する自律型パーソナルアシスタントとして機能するようになるだろう。さらに先のある時点で、AIシステムは非常に優れたものになり、私たちがより優れた次世代システムを作り、科学全般を進歩させるのに役立つようになるだろう。
テクノロジーは、私たちを石器時代から農業時代、そして産業時代へと導いた。ここからインテリジェンス時代への道は、計算能力、エネルギー、そして人間の意志によって切り開かれる。
AIをできるだけ多くの人の手に渡したいのであれば、コンピューティングのコストを下げ、それを豊富にする必要がある（それには多くのエネルギーとチップが必要だ）。十分なインフラを構築しなければ、AIは非常に限られた資源となり、それを巡って戦争が起こり、ほとんどが金持ちのための道具になってしまうだろう。
我々は賢く、しかし確信を持って行動する必要がある。インテリジェンス時代の幕開けは、非常に複雑で、極めて高いリスクを伴う重大な発展である。完全にポジティブな話にはならないだろうが、そのアップサイドはとてつもなく大きいので、目の前のリスクをどう乗り切るかを考えることが、私たち自身と未来に対する義務なのだ。
インテリジェンス時代の特徴は、巨大な繁栄である。
徐々にではあるが、気候の 固定、スペースコロニーの設立、物理学の全容解明など、驚異的な勝利はやがて当たり前のものとなるだろう。ほぼ無限の知性と豊富なエネルギー、つまり素晴らしいアイデアを生み出す能力とそれを実現する能力があれば、私たちはかなりのことができる。
他のテクノロジーに見られるように、マイナス面も存在する。私たちは、AIの利点を最大化する一方で、その害を最小化するために、今から取り組み始める必要がある。その一例として、このテクノロジーは今後数年間で、労働市場に（良い意味でも悪い意味でも）大きな変化をもたらす可能性があると予想されるが、ほとんどの仕事は多くの人が考えているよりもゆっくりと変化していくだろうし、（たとえそれが現在の私たちにとって「本当の仕事」に見えなくても）やることがなくなってしまうという恐れはない。
人は生来、創造し、互いの役に立ちたいという欲求を持っており、AIはかつてないほど自らの能力を増幅させることを可能にするだろう。社会として、私たちは拡大する世界に戻り、ポジティブサムゲームに再び集中できるようになる。
現在私たちがしている仕事の多くは、数百年前の人々には些細な時間の浪費に見えただろうが、誰も過去を振り返って、自分が灯明師であったことを願ったりはしない。しかし、昔を振り返って、自分がランプ職人だったらと思う人はいない。ランプ職人が今の世界を見たら、想像を絶する繁栄だと思うだろう。そして、もし今日から100年後に早送りできたとしたら、私たちの周りの繁栄も同様に想像を絶するものに感じるだろう。
コメント
知能≠意識 と信じている人が多いが、私は 意識＝知能 と見なして実質上問題はない…という立場。それゆえ「人間レベルの意識なんて、あと10年もすれば理工科の大学生が演習で実装するレベル」と述べたことがある。
・半世紀以内といった悠長な話ではなく、今後 10年程度で人工的に意識が創れるようになる。
・その実現には、今の AI 技術の延長線上にあり、あと数段階の進展で足りる。
ref: ❏ 予想：あと 10年ほどで意識は簡単に実現でき、ありふれたものになる (2024-04-06)
2000年以上も前から、人間は「（自分の）意識はドエライものだ」と思い込み、誰もが同じ口調で、同じタワゴト（宇宙即我、梵我一如）を世界の最奥の真理だと主張し続けてきた。それに比べると「私は ナポレオン/天皇 だ」と言い張る精神病棟の患者が奥ゆかしい常識人に見えてくる。
「（自分の）意識の凄さ」がビッグ・バン並にインフレーションを引き起こし、終いには宇宙と等しい、同根だ…とまで本気で思い込み、それが世界の最奥の真理だと確信してしまっている。
つい最近（僅か 600年前）まで皆、この大地（地球）こそがが宇宙の中心だという天動説を信じていた。それと同じことを Jeffrey Kripal は信じている。
人間レベルの意識なんて、あと10年もすれば理工科の大学生が演習で実装するレベルの課題になっていてもおかしくない。
ref: ❏ Jeffrey Kripal : 意識と宇宙は同根。「意識＝宇宙」こそが真の秘密なのだ (2024-04-21)
蛇足
「大学生が演習で意識を実装」というと、API 呼び出しでのお手軽実装なんて卑怯だと言われそうだが、ライブラリや組み込み関数の呼び出しと本質は同じ。ライブラリも内部関数も一切使わずにコードを作成する人間なんていない。
Details
▼原文 展開
The Intelligence AgeIn the next couple of decades, we will be able to do things that would have seemed like magic to our grandparents.
This phenomenon is not new, but it will be newly accelerated. People have become dramatically more capable over time; we can already accomplish things now that our predecessors would have believed to be impossible.
We are more capable not because of genetic change, but because we benefit from the infrastructure of society being way smarter and more capable than any one of us; in an important sense, society itself is a form of advanced intelligence. Our grandparents – and the generations that came before them – built and achieved great things. They contributed to the scaffolding of human progress that we all benefit from. AI will give people tools to solve hard problems and help us add new struts to that scaffolding that we couldn’t have figured out on our own. The story of progress will continue, and our children will be able to do things we can’t.
It won’t happen all at once, but we’ll soon be able to work with AI that helps us accomplish much more than we ever could without AI; eventually we can each have a personal AI team, full of virtual experts in different areas, working together to create almost anything we can imagine. Our children will have virtual tutors who can provide personalized instruction in any subject, in any language, and at whatever pace they need. We can imagine similar ideas for better healthcare, the ability to create any kind of software someone can imagine, and much more.
With these new abilities, we can have shared prosperity to a degree that seems unimaginable today; in the future, everyone’s lives can be better than anyone’s life is now. Prosperity alone doesn’t necessarily make people happy – there are plenty of miserable rich people – but it would meaningfully improve the lives of people around the world.
Here is one narrow way to look at human history: after thousands of years of compounding scientific discovery and technological progress, we have figured out how to melt sand, add some impurities, arrange it with astonishing precision at extraordinarily tiny scale into computer chips, run energy through it, and end up with systems capable of creating increasingly capable artificial intelligence.
This may turn out to be the most consequential fact about all of history so far. It is possible that we will have superintelligence in a few thousand days (!); it may take longer, but I’m confident we’ll get there.
How did we get to the doorstep of the next leap in prosperity?
In three words: deep learning worked.
In 15 words: deep learning worked, got predictably better with scale, and we dedicated increasing resources to it.
That’s really it; humanity discovered an algorithm that could really, truly learn any distribution of data (or really, the underlying “rules” that produce any distribution of data). To a shocking degree of precision, the more compute and data available, the better it gets at helping people solve hard problems. I find that no matter how much time I spend thinking about this, I can never really internalize how consequential it is.
There are a lot of details we still have to figure out, but it’s a mistake to get distracted by any particular challenge. Deep learning works, and we will solve the remaining problems. We can say a lot of things about what may happen next, but the main one is that AI is going to get better with scale, and that will lead to meaningful improvements to the lives of people around the world.
AI models will soon serve as autonomous personal assistants who carry out specific tasks on our behalf like coordinating medical care on your behalf. At some point further down the road, AI systems are going to get so good that they help us make better next-generation systems and make scientific progress across the board.
Technology brought us from the Stone Age to the Agricultural Age and then to the Industrial Age. From here, the path to the Intelligence Age is paved with compute, energy, and human will.
If we want to put AI into the hands of as many people as possible, we need to drive down the cost of compute and make it abundant (which requires lots of energy and chips). If we don’t build enough infrastructure, AI will be a very limited resource that wars get fought over and that becomes mostly a tool for rich people.
We need to act wisely but with conviction. The dawn of the Intelligence Age is a momentous development with very complex and extremely high-stakes challenges. It will not be an entirely positive story, but the upside is so tremendous that we owe it to ourselves, and the future, to figure out how to navigate the risks in front of us.
I believe the future is going to be so bright that no one can do it justice by trying to write about it now; a defining characteristic of the Intelligence Age will be massive prosperity.
Although it will happen incrementally, astounding triumphs – fixing the climate, establishing a space colony, and the discovery of all of physics – will eventually become commonplace. With nearly-limitless intelligence and abundant energy – the ability to generate great ideas, and the ability to make them happen – we can do quite a lot.
As we have seen with other technologies, there will also be downsides, and we need to start working now to maximize AI’s benefits while minimizing its harms. As one example, we expect that this technology can cause a significant change in labor markets (good and bad) in the coming years, but most jobs will change more slowly than most people think, and I have no fear that we’ll run out of things to do (even if they don’t look like “real jobs” to us today). People have an innate desire to create and to be useful to each other, and AI will allow us to amplify our own abilities like never before. As a society, we will be back in an expanding world, and we can again focus on playing positive-sum games.
Many of the jobs we do today would have looked like trifling wastes of time to people a few hundred years ago, but nobody is looking back at the past, wishing they were a lamplighter. If a lamplighter could see the world today, he would think the prosperity all around him was unimaginable. And if we could fast-forward a hundred years from today, the prosperity all around us would feel just as unimaginable.
(2024-09-24)