訳 :堺屋七左衛門
この文章は Kevin Kelly による "Thinkism" の日本語訳である。
思考主義 Thinkism
「特異点」があなたの存命中に来るという心配をしなくてもよい理由はこれだ。:思考主義はうまくいかない。
まず、定義をいくつか。ウィキペディア(英語版)によると、特異点とは「人工知能を使って自分自身を向上させる機械の能力などにより、前例のない技術的進歩が起こるという理論上の将来のある時点」である。また、ヴァーナー・ヴィンジとレイ・カーツワイルによれば、人間よりも賢い人工知能がさらに賢い知能をもたらし、関連する科学的課題(さらに賢い知能を作る方法を含む)をその知能がすぐに解決し、すべての技術的問題が速やかに解決できるまで知能が拡大し、それによって社会のあらゆるものが進歩するので、特異点発生より先に何があるのか私たちは想像できない。ああ、その特異点は2045年までに発生することになっている。
私はその話に部分的には賛成する。宇宙の構造や人間の知性を考えると、人間と同じくらい賢い機械を作ることを妨げるものは何もなさそうだ。そしてたぶん(確実ではないが)人間よりも賢い機械もできそうだ。私の今の予想では、人間よりも賢い知能を作るのは、アップルでもIBMでもガレージの無名な二人組でもなくて、グーグルだと思う。つまり、グーグルは、遅かれ早かれインターネット上のワールドワイドコンピューター(世界規模の計算機)となるだろう。この人間を越える異種の知能が2045年またはそれよりずっと前に、出現する可能性は非常に高い。
カーツワイルの97歳の誕生日である2045年2月12日に、冗談でなく人間より賢い人工知能がウェブ上で認識されたとしよう。その翌日には何が起こるか? 答:別に何も。 しかし、特異点主義者たちによれば、そこで起こるのは次のようなことだという。「人間より賢い人工知能は、その時点でインターネットに存在する未使用の計算能力を、数時間のうちにすべて吸収する。この計算能力と人間より賢い設計能力を使って、さらに数時間かければ人工タンパク質の折りたたみ問題を解いてしまう。いくつものペプチド合成研究所に電子メールでそれぞれ大至急の注文をして、2日後にフェデックスの宅配便でタンパク質一式が送られてきて、それを混合すると音響的に制御されるナノデバイスとして自己組織化し、それがより高度なナノテクノロジーを構築することができる。」以下無限に続く。
レイ・カーツワイルは、私が大いに敬服する人で、「橋への橋を渡る」ことに取り組んでいる。彼は毎日250錠の薬を服用して、特異点に到達する日に間に合うと思われる97歳まで生きようとしている。そこまで生きれば不死への橋を渡ることができると考えている。彼の考えでは、この超強力な知能は高度なナノテクノロジー(それはその知能が数日前に発明したものだ)を使ってガンや心臓病を治すことができて、さらにはレイが死ぬはずだった年の少し前までに、死そのものも治すことができる。特異点に遭うまで長生きすれば、永遠に生きられる。その準備をしている特異点主義者は、何人か存在する。
マース=ガロー効果(邦訳)は別にして、この筋書きの重大な問題点は、知能と作業を混同していることである。「瞬時の特異点」という概念は、知能だけで問題を解決できるという誤った考えに基づいている。「特異点をめざして活動する理由」(Why Work Toward the Singularity)と題する論文においても、「考えるために何百年の時間を与えられれば、人間でもたぶんその困難を解決できそうだ。」などという、うっかりした間違いをしている。この手法では、その問題を解決できる程度に賢く考えられるだけで良いことになる。私はこれを「思考主義」と呼ぶ。

ガンを治す、あるいは寿命を延ばすことを考えてみよう。これは思考だけで解決できる問題ではない。どれだけ思考主義が頑張っても、どのように細胞が老化するのか、どのようにテロメアが脱落するのかわからない。どの知能でも、たとえどんなにすごい知能であっても、世界中の既知の科学文献をすべて読んで熟考するだけで、人体がどのように機能しているかを解明することはできない。どんな超越した人工知能でも、過去と現在の核分裂実験について思考するだけでは、すぐに核融合を実用化することはできない。物事の仕組みがわからないところから始めて、仕組みがわかるまでには、思考主義では越えられないほどの差がある。実用に耐える正しい仮説を構築するためには、現実世界での大量の実験と、さらにその実験から得られる山ほどのデータが必要である。予測したデータについて考えても、正しいデータは生まれてこない。思考は科学の一部分、もしかしたら、ごく小さい部分であるにすぎない。私たちは死の問題の解決に近づくことができるほどの正確なデータを十分には持っていない。しかも生物の場合には、このような実験はたいていカレンダー単位の時間がかかる。結果が出るまでに何年か、何ヶ月か、あるいは少なくとも何日か必要になる。思考主義は超越した人工知能にとって瞬時のことかもしれないが、実験結果は瞬時には得られない。
超越した人工知能ができたとすれば、それが科学の進歩を加速することは間違いない。人工知能でない計算機でも計算速度がどんどん速くなっているのだから。しかし、ゆっくりとした細胞の代謝は(これを速くしようとしているのだが)速くすることができない。原子を構成する素粒子に何が起こるかを知りたければ、ただ思考するだけではだめだ。非常に大きな、非常に複雑な、非常に手の込んだ実験設備を建設しなければならない。最も優秀な物理学者が今の千倍賢くなったとしても、コライダー(衝突型加速器)がなければ何も新しい発見はできない。たしかに、原子の計算機シミュレーションは可能である(いつかは細胞も)。しかし、そのシミュレーションのいろいろな要素を速くすることはできても、モデルの実験や調査や検証は、その対象物の変化速度に合わせて、やはりカレンダー単位の時間がかかる。
有用であるためには、人工知能は実世界に構築されなければならない。そして、たいていの場合、人工知能による進歩の速度はその世界によって決まる。思考主義だけでは十分ではない。実験を実施し、プロトタイプを構築し、失敗を重ねて、現実に立脚していなければ、知能が思考しても結果を得ることはありえない。知能は実世界の問題を解決するための方法を考えることができない。人間よりも賢い人工知能が現れたその時間に、その日に、その年に、ただちに発見があるわけではない。うまくいけば、発見の速度は著しく速くなるだろう。もっとうまくいけば、超越した人工知能は、人間には思いつかない疑問を発するだろう。しかし、一例を挙げれば、不死を得るという困難な成果を得るまでに、人間に限らず、生物についての実験にはいくつもの世代を要する。
思考主義はうまくいかないので、安心していれば良い。
特異点は幻想であって、それは常に後退している ― いつも「近くにある」が決してそこに到達しない。人工知能ができた後、どうして特異点が来ないのか不思議に思うことになるかもしれない。そして将来のある日、すでに自分たちが特異点に到達していたことに気づく。超越的な人工知能ができたのに、それが即座にもたらすと思っていたもの ―個人のためのナノテクノロジー、脳の性能向上、不死― が実現しなかった。そのかわりに、予期していなくて、気づくのに時間がかかるような、何か別の恩恵があった。それが来たことがわからずに、あとから振り返ってみて、「そうか、あれが特異点だったのだ」と言うのだろう。
この作品は、クリエイティブ・コモンズ・ライセンスの下でライセンスされています。