« 利己主義のエコロジー・利他主義のエコロジー | トップページ | 『マイスタージンガー』とブギーポップ »

シンギュラリタリアンのスタンスの違いについて

 さて、そろそろ説明しておく必要があると思うので、コメントしておきますが、このブログの重要な用語であるシンギュラリタリアン(特異点論者、主義者)とは、必ずしも未来は超技術で薔薇色になると主張している人のことを指す言葉ではありません。

 代表的シンギュラリタリアンであるレイ・カーツワイルはシンギュラリタリアンを「シンギュラリティをを理解し、それが自らの人生においてどんな意味を持つのか、懸命に考え続けてきた人」(カーツワイル『ポストヒューマン誕生』p489)と定義しています。また、別の筋よると、最初にされたシンギュラリタリアンの定義は「特異点の概念を信じる人」なのだそうです(同、原注1章1)。シンギュラリティ研究所のエリーザー・ユドコウスキー(AI、ベイズ理論で知られる)によれば「特異点論者(シンギュラリタリアン)とは人間を超えた知能をテクノロジーを用いて創造することが望ましいと考え、その目的に向かって努力する人のことだ。特異点と呼ばれる未来の友であり、擁護者、代理人である。」(同注)。

 シンギュラリタリアンという言葉には、シンギュラリティ到来に積極的であるというニュアンスがあることは否定しかねるものですが、積極関与の立場であれ、必ずしも薔薇色の未来であるということを前提とするものではありません。テクノロジーを放任するより積極的に関与すべきであるから、シンギュラリティの進行に苦言を呈する友人であるということの可能性を排除していないし、ユドコウスキー氏自身そのように勤めているからです。

 また、前記の定義には、高度で広範な専門的知識などが求められてはいないので、要件は「懸命さ」だけ。おかげで浅学でセンスのない私もめでたくシンギュラリタリアンの末席に加わることが出来ます(か?)。わたしは、科学技術の動向については、カーツワイル氏の主張の受け売り程度の知識しかありません。それでも、自分なりに考えてみて、ある程度未来を楽天的に考えて、積極的に到来に関わるというスタンスの取り方の方が妥当なのではないかと考えています。また、そのこと自体が、シンギュラリタリアンに推進積極的傾向がある理由のひとつではないかとも思います。無論、消極的であってシンギュラリタリアンを自認すれば誤解されるので、そういう人はこのラベルを避けるため、自然と傾向が成立するというのもあると思いますけれど。

 個人的には、シンギュラリティは近いとする未来像に強い魅力と希望を感じるものの、基本的には獲らぬ狸の皮算用だけならまだしも、未来へのスタンスを誤ることで未来を壊滅的なものにすることは本末転倒だと思います。「パスカルの賭け」ではありませんが、オッズは幾分妥当で夢見すぎな未来に賭けて失敗した場合のリスクと、破滅的シンギュラリティが準備もなしに到来した場合のリスクを比較すれば、前者のほうがましなのではないかことは、理解してもらえると思います。私は、シンギュラリティは近いと思います。しかし、それは大空振りになるかもしれません。しかし、近いと考える材料は列挙できます。しかし、外れるかもしれない賭けに付き合って欲しいとまでは思いませんし、未来の可能性について、想像以上の変化の可能性あることを、失念して欲しくもありません。そこで、とりあえず2パターンのシンギュラリティ到来を仮定してみて、どういうスタンスならばリスクを最小に出来るかと考えてみたいと思います。到来が著しく遅い、ないし、ないという場合の賭けのリスクは、限定的だと思いますが、その場合はごめんなさいと言うほかありません。株で大損した弁償しろというのは勘弁してください。無茶です。

 アメリカのシンギュラリタリアンの間では、すでに来るか来ないかではなく、シンギュラリティの際の混乱の度合いが、穏やかで緩やかか、深刻で急激かで議論になっており、それぞれ「ソフトな離陸」「ハードな離陸」というタームで呼ばれています。これは去年のシンギュラリティ・サミットのテーマにもなりました。ソフト/ハードの予測には、到達までの時間と、社会の適応速度を測る必要がありますが、それは現在の私たちの未来への思索・見通し・スタイルの深まり、(収穫加速の法則でいうカオスの量の一部と見ることもできる)社会との摩擦係数と密接に連動しています。

 まずケースとして、シンギュラリティが「ソフトな離陸」として来訪するような状況、あるいはシンギュラリティまでの時間が、今世紀の後半以降に訪れるというような緩やかな場合でも、個人であれ公の機関であれ「爆発的技術発展はない」という見通しに立つことで、獲得可能な技術的利益を逃し、競争優位を失う確率が高まります。いわば、電気に喩えるなら、電力は低く、電気抵抗=摩擦は高い状態といったところでしょうか?したがって、電気は充分に行き渡りにくい状態になります。シンギュラリティ格差(あるいは一昔前の言葉でいうデジタルデバイド)の不幸なシナリオです。それは、企業対企業の技術格差である場合もあるでしょうし、国対国の場合もあるでしょう。しかし、もっとも恐るべき可能性は国家対犯罪者のケースや国家対民衆のケースでしょう。いずれにしても、そうした格差には警戒しすぎるということはないでしょう。もちろん「早すぎる投資」のリスクはあるでしょうが、それはいつの時代の投資にもあることです。むしろ、問題は日本のベンチャーが往々にしてあるように、投資が受けられないことです。

 このあたりは、法学者のレッシグが「本来受けることのできるようになる権利が、不当にも知られることすらなく国民から奪われることになる」というふうに表現しているような権利・自由、梅田氏、茂木氏の『フューチャリスト宣言』で「ゴードン・ベルの怒り」と呼んでるくだりや、社会学者の宮台氏が「理想主義のマキアベリスティックな効用」と呼ぶものもに関わってきます。来ないと断ずることによって破壊される幸福・生命は確実にあります。もし、100ドルPCが貧困の解消に資すると信じたOLPCの行動がなければ、ネットブック市場は出現せず、デジタルデバイドに閉じ込められていた人々は多いでしょう。貧しい人々にも適切な方法ならばビジネス融資は可能と信じたムハマド・ユヌス氏がイノヴェートしたグラミン銀行、マイクロ・ファイナンスがなければ飢えていたかもしれない人々、アーネスト・ダルコー氏のPCネットワークを使ったエイズ医療の取り組みがなければ既になくなっていたアフリカのHIV患者等などは直近の過去に実際にいるわけで、夢を見ないことによって訪れた不幸があったであろうことは、過去に事例としてはあるわけです。

 日本も最近のままの政治の流れでは、日本からのロボティクス爆発も、デスクトップ(インターフェイス)・エージェントのいる未来も後れを取り、日本人向けでないサービスを輸入するしかない、なんてことにもなりかねません(最近は、ロボティクス爆発はヨーロッパから始まるかなと思いつつあります)。この障害は「ソフトな離陸」に関してさえ、政治的、社会的に私たちが受け入れられない時に不可避ではないかと思います。それは、何もシンギュラリティだけでなく、グローバル市場化といっても、BRICs台頭といっても同じ危険を抱えているので、固有の危機ではないでしょうし、シンギュラリティがなくてもこのリスクはどの道、積極的な対処が必要でしょう。

 次に、「ハードな離陸」だった場合。格差は激烈で、AIの進化は人智を超えて人間を滅ぼそうとするみたいな『ターミネーター』シナリオや、『ブラスレイター』的(あるは『沙耶の唄』的)バイオ技術発展シナリオの場合です。これも電気で喩えると、電気抵抗は高く、電力も大きい、よって電圧が高くなる場合です。電線である社会は満遍なく強い電圧がかかり、発熱しダメージを受ける危険があります。その場合は明らかにシンギュラリティ・プロセスを警戒しないといけないわけですが、注意が必要なのは、ビル・ジョイ氏の言うように、世界全体で技術開発競争の一部を凍結して、国際的枠組みで一斉に技術開発の制限を行ったら競争優位の問題は発生しないし、それを目指すべきではないかという提案の難しさです。これは、比喩が適切なら電力を減らせということではなく、電気抵抗を上げよということになる気がします。

 この提案については、カーツワイル氏も著書で反論していますが、第一に温暖化問題でさえ国際社会の合意を取り付けるのが困難であるというのに、かくも想像困難かつ、国家経済の利益の中核であるイノベーション、それ自体にたいする制限に国際的合意をみるのは、まず見通しがたちません。現状、世界は競争状態にあり、資源のゼロサム・ゲームを続ける環境にある国々、集団、個人が自らの権益に照らして制限という判断に至ることは強引に達成する以外には不可能であるし、一国でも、一私企業でも、あるいは一私人でも(ポスト・ヒューマン化であれ、強いAIの誕生であれ)シンギュラリティに到達したら、そうした放棄は無意味なものであるばかりでなく、圧倒的不利になってしまいます。ならば、どの国でも技術優位を目指すことを放棄しようとは思わないでしょう。このことは資本主義と共産主義の関係と全く同じです。したがって、シンギュラリティそれ自体はともかく、シンギュラリティへの急き立ては根本的に回避不可能ではないでしょうか?それこそ、ベーシック・インカムを導入するのでもなければ。(もちろん、このことからは科学技術の成長が指数関数的ではなく直線グラフ的であることで、まだ遠い未来の話だという可能性は否定されはしませんが。)

 第二に、強引に国際条約を締結するにしても、それは技術的共産主義にほかなりませんし、技術先進国や技術警察への力の集中を招くことになります。社会や経済のダイナミクスを著しく制限することになるでしょうし、その結果大きな経済的、社会的、道義的停滞を招くことになるでしょう。何を研究すれば、技術的カタストロフィーに達するかは、研究しなければ分らない以上、本質的に、何を禁止すればよいかの策定は恣意的なものにならざるをえません。放棄すべき技術開発内容が適切に定義できないまま、イデオロギー的な、カンボジアの貨幣廃絶実験並みに危険な状態になる危険性がありますし、この方法ではエッジなテクノロジーのアングラ化は避けられません。

 それに、バグチェックの常識でもそうであるように、危険な到達プロセスに対するチェックの目が多いほうが、安全なシステムを構築することが出来ます。シンギュラリティの進展を自由で健全な市場・コミュニティに委ねる方針を採るならば、テクノロジーの進化の監視者数を最大化することが出来ます。それに監視者を政府機関などに独占させないことによって、チェックプロセス自体にテクノロジーを再投入することが出来ます。であるならば、将来には戦略的にシンギュラリティの良いところを探していくこと自体が、安全性を高めるのかもしれません。また、能動的に構えた方が、複数の強いAIやコントロール可能な、あるいは安全なAIとのすくみあい、多様な強化された人類の割拠といった状態のほうが、力の不均衡や支配という状態に対する保険となり、最悪の事態は回避しやすいでしょう。それは丁度、自分たちの力を超えた怪物・リヴァイアサンである国家を馴致する近代以降の私たち叡智の延長、手馴れたシステムの比喩で強いAIなどの統御を納得できるという利点もあります(攻殻機動隊2のラスト付近がこのことに意識的です)。民主主義的シンギュラリティ・プロセスだから一番コントロール性が高く安全だ、と言い換えることもできるでしょう。電気で言うなら電線を増やして、電力に対する電気抵抗を下げるアプローチだと言えるかもしれません。

 そして、あまりにシンギュラリティが避けがたく見えるからといって悲観的見通しに立つ場合には、ユナボマーのような反技術文明主義的テロリストを助長する恐れがあります。場合によっては宗教原理主義を含む「保守」潮流も大きく合流するかもしれません。こうしたことも、すでにカーツワイル氏などは折り込み済みで、著書に詳しく記しています。もちろん、逆にシンギュラリティ過激派なるものまで出現するかも知れませんが、それってスティーブ・ジョブスやGoogle、ビル・ゲイツとどう違うの?と聞きたくなります(それはそれで問題かもしれませんが)。それに爆弾を持って技術の開放を叫ぶ人々が出現するとしたら、技術抑圧的な機構への舵取りが為されるときだけでしょう。積極的シンギュラリタリアンとしてはそんな愚か者いるとは思えませんが、そんなことをしても、最終的に得をするのは誰か想像できるでしょう。また、技術の開発自体よりも、技術の(テロを含む)軍事利用の方が(軍隊の使用する)新技術による、暴走でも、そうでなくても人間の殺戮の可能性の方がはるかに危険です。

 以上のようにあまりにに悲観的な見方や、シンギュラリティのような爆発的技術発展などありえないという慎重な見通しも、それ自体で自己成就的な複数の危険を含むこともあり、必ずしも安全な見方とは言えないと思います。もちろん、ステージごとに関税等の技術規制を調整し、シンギュラリティのスケジュールを調整して、社会の急激な変化からくるアノミー、混乱、価値観の盛衰を緩和するという方策もありうるとは思います。しかし、情報化社会は、政治が社会を牽引するよりはやく、民衆が社会を速やかに牽引するものですから、規制の計画が立てられる側から、規制が必要なくなるということが次々に起こると思います。例えば秋葉原通り魔事件の直後、これに乗じて官庁が犯行予告検索技術に予算を割こうとした次の日には、集合知をつかった犯行予告収集サイト「予告IN」がつくられたように、です。

上記のように、シンギュラリティがゆっくり目でも、急激でもシンギュラリティは近いのではないかという可能性を考慮しておくことは、諸種のセキュリティの観点からして有益なことだと思います。むしろ、能動的に関わることのメリットはかなり大きいのではないでしょうか?

 シンギュラリティに限らず、科学技術のもつポテンシャルと現状の社会システムを運用する規範システムとの解離は、現状でも大きな問題です。社会の道徳規範が薄れていくという悲嘆も、感情的にはよく分ることですが、時代の道徳に対する要請の変化を頭の中から閉め出すことは、極めて危険です。同時に、現在の世界を動かす社会的、心理的、経済的、技術的種々のロジックを将来変化するから不用のものと見なして、不当に低く評価するのも、また危険なことです。現在を動かすロジックは、将来良くも悪くも、近くても遠くても未来と合流するものです。シンギュラリティを一種の超越性(ないし宗教性)と考えたとしても、それは現在の私たちの感覚と何らかの形で直面するものであるし、(しないなら単に存在しないのと変わりませんし)むしろ、安全で幸福なシンギュラリティの時を迎えるためには、現在の(狭義の)サイボーグ化も(狭義の)改造もしていない身体と精神の私たちが、どんな形の社会、どんな変化のプロセスならば幸福でありうるのか、満足できるのかという問いに真摯に向き合うことこそが、シンギュラリティに向かう電気抵抗を決める最大の要因になるということこそが、シンギュラリティ到来それ自体よりも重要なことではないかと思うのです。

 そういうわけですから、積極的幸福のためにシンギュラリタリアンであろうとする人も、防衛的理由からシンギュラリタリアンであらざるを得ない人も、シンギュラリタリアンには充分にありうると思います。その中間に様々なスタイルもあることでしょうし、シンギュラリタリアンといってもいろいろと理解してもらえると、誤解が少なくていいのではないでしょうか。

|

« 利己主義のエコロジー・利他主義のエコロジー | トップページ | 『マイスタージンガー』とブギーポップ »

コメント

なるほど

投稿: AK | 2008年10月25日 (土) 22時32分

コメントを書く



(ウェブ上には掲載しません)


コメントは記事投稿者が公開するまで表示されません。



トラックバック

この記事のトラックバックURL:
http://app.f.cocolog-nifty.com/t/trackback/188424/22529859

この記事へのトラックバック一覧です: シンギュラリタリアンのスタンスの違いについて:

« 利己主義のエコロジー・利他主義のエコロジー | トップページ | 『マイスタージンガー』とブギーポップ »