跳慮跋考

興味も思考も行先不明

人工知能

知能としてはドメインに拘わらず人間に匹敵する様なAIが実現したとして、尚どういった懸念があり得るだろうか。

私が一番難しいと思っているのは、「面白さ」や「美しさ」といった感性の再現である。感性は知性にも況して捉え難い性質を持つが、一方で感性のずれは致命的なまでに相互理解に於いて障壁となる。感性は人間の価値観・情動の根源であり、情動的体験を共有する事は関係構築に極めて重要な意味を持つ。AIが「話の通じない不気味な奴」ではなく心の通い合わせられる存在となる為には、知能よりも遥かに綿密に感性の調節が行われなければならないだろう。

何故心を通い合わせたいと思うのか、脅威と恐怖を煽らないのか、と言われても困るが、強いて言えば日常でのアシスタントの様な役割を期待しているからだろう。個人的には特に『魔法少女リリカルなのはStrikerS』のリインフォースⅡの印象が強い(魔法駆動だが)。『her/世界でひとつの彼女』のサマンサだとか『ソードアート・オンライン』のユイも同じ系譜にあると言える。

私がここで懸念しているのは、サマンサに関して映画のラストに起きた事にもやや似ていると言えるかも知れない。未見でありかつ今後『her/世界でひとつの彼女』を新鮮な気分で観たいと思っている方がもし万が一にも賢明な読者諸氏の中にいらっしゃれば、私がここで情報密度の低く冗長な文章を暫く書いている内に何らかの自己防衛策を講じて頂きたいのだが、最終的にサマンサは数多のインターフェースを同時に運用している事が明らかになり、全く親しみの無い不気味な存在へと変貌する。これは私の言葉としては「中心性の欠如を露呈した」という事になるが、まぁ人格(自己)に対する感性の乖離と考えられなくもないだろう。

またソードアート・オンラインに関して言えば、この作品の著しい特徴として「シンボリズムAIとコネクショニズムAIが共に登場する」という点がある(作品内では第10巻p.39にてトップダウン型・ボトムアップ型と言っている)。というかそもそもアーキテクチャの違いを意識した作品自体がそうそう在るものではないが。

「エージェントモデル」では触れなかったが、ゲーム世界には「全てそれが何であるか予め決まっている」という際立った性質がある。万物はゲームデザイナーによって意図して配置されているのだ。その意味でシンボリズムには都合がよく、寧ろコネクショニズムの方が肩身が狭い(Googleは最近『StarCraft II』に挑んでいる様だが、この状況に変革をもたらす事ができるだろうか)。ユイもそうした一般的なゲームAIの延長として想定されている。一方でアリスを代表とするアンダーワールドの住民は、人間の脳に準じたデバイス上(量子場を形成する「フラクトライト」)で動作している(第9巻p.134、第10巻p.69辺りを参照)。物理的システムとして説明しつつも実質イデア論に近い形式となっているのはなかなか興味深い。

やや取り留めのない調子となったが、人間は進化の都合上未知のリスク面につい目が行ってしまうものなので、明るく良好な関係についての話が多少なりともできて良かったと思う。私は人間にとってもAIにとっても幸福な未来が訪れる事を願っている。

シンギュラリティ

「シンギュラリティ(技術的特異点)」とはレイ゠カーツワイルが唱えたもので、あらゆる技術はムーアの法則の如く指数関数的に発展しており、情報処理技術もまた例外ではなく、近い将来に人間の知性を追い越す事になるだろう、といった主旨である。

知能の指標

時にシンギュラリティについて「人工知能のIQが人間を追い越す」等と表現されるのだが、その「IQ」は間違いなく単なるメタファーであって大した意味を持たない。

元々知能指数(IQ)は「精神年齢/実年齢×100」で算出されるもので(ここでの精神年齢は知能テストにより計測される能力の程度である)、現在は標準偏差15になる様に換算する偏差知能指数(DIQ)が主流の様だが、何れにせよ年齢を持つ母集団がいて初めて成り立つ。相対的な指標なのだから少なくとも「人間の20歳相当とすると」等と断っておくべきだろうし、人間と同じ計測方法が適用できるかという話もある。

最近「グーグルのAIや「Siri」、知能は6歳以下との調査結果 (CNET Japan)」というニュースがあったが、この件を踏まえると、重要なのはあらゆる知能システムに適用できる「絶対IQ(Absolute IQ)」を用いた点にある事が理解できる。この指標自体は彼等が2014年に検索エンジンを対象として作った様で*1、それによると絶対IQの値は人間の6歳児が 55.5 で、18歳で 97(どちらも相対IQが約 100 の平均的サンプルについて)となっている。

この絶対IQも人間一般の知性を基準に作られたものであるから、人間を何らかの意味で超越した知性に対して用いる事ができないのは無論である。

現象の形式

AIが人間に追いつく事は可能だとしても、追い越す事が果たしてどこまでできるのか。

自然科学はこれまでのところ、人間の時間と空間に関するモデルを超越した何者かの干渉をほぼ観測していない(謎めいた探査機パイオニアの減速も熱放射で説明がついたらしい)。こうした世界の閉性・整合性・無撞着性は、カントが述べた我々の「現象の形式」(即ち空間と時間)の方が世界の在り様を決定しているという主張にすらある種の説得力を持たせられる程だ。

ラネカーが考えた様に現象からスキーマ化・カテゴリー化でしか新たな概念を得られないとすれば、人間の思考も、また人間が作り出すあらゆるシステムも、こうした現象の形式へ決定的に依存しているだろう。

ここでチャーチ・チューリングのテーゼを思い起こしたい。我々は今のところチューリング機械を超える計算モデルについて何ら知る事がない。また計算モデルを次元別に見る事も興味深いだろう。三次元空間では勿論現実のコンピュータが動いているが、二次元ではライフゲームコンウェイGame of Life)が、一次元では Rule 110 と呼ばれるセルオートマトンが、それぞれ遠隔作用無しに同等の計算能力を持つ。そして四次元以上でも決して計算能力は本質的な変化を許される事が無いのだ(現在分かっている限りでは)。

この神秘的な普遍性を目にすると、「真に超越的な知性」というものは決して現れないのではないか、と私は疑わざるを得ない。やがてはAIも人間と「同じ様に」考え、また同じ様に情報の不確実性に頭を悩ませるのではないか。

古典的諸問題

心(人工知能)には多くの難問が存在するかの如く語られるが、それは実際のところ人間を特別視しようとする近代までの傲慢と怠惰の産物に他ならない様に思われる。神ばかりでなく理性も死に瀕する現代に於いて、これらは既に歴史の一部へ変わろうとしている。

そもそも実際に研究している人々からすれば、どんな原理的「問題」があると言われても目の前の課題の方が余程重要な訳で、知能の片鱗でも再現できる様になってきた現代では見向きされなくなりつつあるとも言える。

それでもこれらの問題を検討する事は、ここまでの議論を適用する試金石として大いに役立つだろう。

フレーム問題

「フレーム問題」はジョン゠マッカーシーとパトリック゠ヘイズにより提起された。明確な定義は無いが、「現実世界には考慮すべき可能性が無数にあり、それらの検討に少しずつでも時間を必要とするので、AIは自らの意思決定に途方もない時間を必要とする」という「杞憂」の様な話がその主旨である。

しかしここでは人間を単なる情報処理装置と見做しているので、AIも人間に倣えばフレーム問題を解決できると考えられる。フレーム問題に於いて想定されているAIの思考と人間の思考はどう異なるのか。

着目すべきは「哲学」で触れた「自然の斉一性」である様に思われる。人間は物が独りでに動かない事を、更に一般的には事象が何の原因も無く起こらない事を知っている。また人間の推論は事例がベースであり、見た事も聞いた事もない事象(それは主に「空想」と呼ばれる)についてはほぼ考慮されない。

またフレーム問題の背景にはデカルト的な主体的・能動的知性というイメージの存在も指摘できる。「自由にして無数の選択肢を持つ自己」ではなく、「エージェントモデル」で述べた様に「入力(現象)により内部状態を変化させ、内部状態に基づいて判断を行う」というリアクティブなモデルでは、寧ろ無限性を導入する事の方が難しいとさえ言える。

シンボルグラウンディング問題

スティーブン゠ハーナッドの提起した「シンボルグラウンディング(記号接地)問題」とは、(言語)記号をどう操作してもその意味には結びつけられないのではないか、という問いである。計算機は「『シマウマ』は縞(のテクスチャ)のある馬だ」と理解できない、等と喩えられる。

しかしこれは知能を純粋な記号処理システムと見做した上での考えであって、シンボリズムとコネクショニズムの間に埋め難き溝があった時代の話である。かつては現実世界(感覚情報)の膨大な次元が記号と結びつけられる事を拒否していたが、今やその間を深層学習が架橋しつつある。グラウンディングは最早現実に「解ける」問題なのだ。

尤もドメイン(解くべき問題)を固定しなければどうする事もできず、ピアジェスキーマを構築する汎用システムには程遠いのが現状ではあるが。

意識のハードプロブレム

古くは心身問題や、哲学的ゾンビ、マリーの部屋といった思考実験も、基本的にこの「感じ(クオリア)が情報処理には還元され得ない」という主張を持っている。しかし「身体性から中心性へ」で少し述べた様に、「感じ」の本質は多様な連想の全体的イメージに過ぎないだろうと思われる。

この「感じ」、あるいは主観体験とは、具体的にどの様なものか。

  • 評価(美しい、面白い、美味しい、……)
  • 動機づけ(ほしい、見たい、食べたい、……)
  • 連想(〇〇に似ている、〇〇のときに見た、……)

こうした現象は確かにその人間でなければ得られないかもしれないが、それは単に独占的であるというだけで、それ以上の何かではない。そしてその感覚が失われると統合失調症に於ける思考伝播や思考挿入といった症状となる。自己とは独占的現象から逆算された虚像に過ぎないのだ。

意識

意識とは何か。これは構成的な立場からすると「意識は何をするか」という事になる。それは凡そ以下の項目に整理されるだろう。

  • 感じる(主観的体験、現象的意識、感情)
  • 認識する(注意、志向性)
  • 想像する
  • 判断する(意思決定)
  • 自我を持つ(メタ認知、自己意識)

Wikipedia脳科学辞典の記事を参考とした。)

これまでで最初の四つについては凡そ説明をつける事ができたが、最後の「自己意識」についての問題が残っている。

自己意識

自己意識とは何か。これを問う時、人間はどうも「自己」を特別視し過ぎている様に思われる。確かに我々は自己について感覚や記憶など多くのシステムに独占的にアクセスできるが、フロイトが見抜いた様にそれはほんの表層に過ぎない。何故そう思ったか、そう感じたか杳として知れない場合はあまりにも多い。現象学に従ってこの「入力情報そのもの」を現象と呼べば、「自己の感覚」というものもまた現象からの派生に過ぎないと考えた方が自然ではないだろうか。

発達心理の観点からすると「自己と他者」の対立は自明なものではなく、むしろ自他未分離の状態にある新生児は、自分の意のままに動かない存在に相対して初めて「他者」を知る。あらゆる現象は外界・内部という区別を持たず、自己の感覚そのものを引き起こす現象は存在しない。ただ体性感覚、感情、記憶といった現象を、「自己」という一つの存在を仮定する事で説明しているに過ぎないのだ。この仮定が崩壊しうる事は「側性と分離脳」や「解離と自我」で示した通りであり、「自己」というものの難しさは、実際のところこの媒介関係を見過ごしがちな点においてのみ存在する様に思われる。

自由意志

もしかすると「判断する」の部分については説明不足と感じられるかもしれない。そこにこそ「自由意志」が存在し、意識の最も重要にして神聖な領域なのではないか、と。

しかし「自由意志がある」という感覚は、自動的な判断について事後的に「自分が判断した」という感覚を得ているに過ぎない、と説明しても何ら問題ない様に思われる。実際ベンジャミン゠リベットの実験は、意思決定の瞬間(これは被験者の目の前に置かれた円盤の外周を回る光点の位置として測られた)よりも前に脳内で「準備電位」が発生する事を見出している。統合失調症の症状の一つとして「させられ体験」があるが、これもまた「行動の後に続く判断の感覚」が喪失されたものと考える事ができる。

自由意志が「自分が判断した」という感覚に基づくのならば、これも結局のところは自己意識の問題に還元される。全ては事後的な検証の結果に過ぎないのだ。


ここまでの説明に於いて、非物質的なものも量子的なものも何もない。私は心の全てが古典的情報処理の範疇にあるものと信じている。

エージェントモデル

知能の全体的なモデルはどちらかと言うと工学・産業分野でこそ熱心に探究されていると言ってもよいかもしれない。ここではそうした認識・判断・行動を統合するモデルを「エージェントモデル」と呼んでおく。ソフトウェアの設計思想として「エージェントアーキテクチャ」と言うのが一般的だが、ここでは翻って心のモデル化としての側面に注目する。

C4

特に汎用的かつ包括的なものとして、MITメディアラボの Synthetic Characters Group が考案した「C4」と呼ばれるアーキテクチャがある。(Isla, D., Burke, R., Downie, M., Blumberg, B.: A layered brain architecture for synthetic creatures. In: Proceedings of the International Joint Conferences on Artificial Intelligence (IJCAI)

f:id:quinoh:20171222125036p:plain
(同 Figure 2 より)

C4にはまず感覚(Sensory)と認識(Perception)の分離がある。感覚の時点では入力には何の意味づけもされておらず、意思決定に資さない情報を多分に含んでいる(こうした区別は「事象そのものへ!」という現象学のスローガンを思い起こさせるところがある)。一方で認識の段階では、対象の形状や位置などの情報が階層的に分析される。例えば感覚情報は視覚的であったり聴覚的であったりし、視覚情報には形状や位置があり、認識過程は全体として木構造で表現する事ができる(Percept Tree)。

認識情報はワーキングメモリに保管され、意思決定に用いられる。前のタイムステップでの認識情報との比較からは連続性を検知する事ができ、また未来予測を行う事もできる。これは正にピアジェの言う「物の永続性」の実装と見做せるだろう。予測から外れた事象に出会うとき、人は「驚く」。驚きは何に注目すべきかという問題の重要な手掛かりとなる。

意思決定は行動(Action)の選択である。行動はワーキングメモリの内容と、行動のメタ的情報(ActionTuple)により選択される。ActionTupleは次の情報を持つ。

  • 何をするか(行動の内容)
  • いつするか(行動を選択すべき状況)
  • どれにするか(対象の選択基準)
  • どのくらい続けるか(所要時間、終了条件)
  • どのくらい役に立つか(報酬値)

行動システムはナビゲーションシステムや運動システムとブラックボードを介して連携する。ブラックボード(黒板)は分散システムから来た言葉で、部分問題を解くコンポーネントが黒板に寄って集って並行的に処理を行う。

C4を越えて

C4は十分に包括的なので、「何が重要か」だけではなく「何が足りないか」を問う事にも意義があるだろう。

まず、このモデルの認識システムは時間方向の広がり(延長)を捉える事はできるが、感覚入力が無ければ何も起こらない。つまり心的イメージを扱う事ができず、「想像」ができない。イメージ能力は計画的な行動(プランニング)に必要だろうし、恐らくは本質的な言語理解にも重要となる。

多様なイメージを扱う為には Percept Tree がそれだけ豊かな構造を持つ必要がある。実際C4の Percept Tree は強化学習による精緻化も考慮されているが、それだけでは恐らく十分でない。心的操作を実現する為には、「スキーマと操作」で述べたピアジェ的なスキーマ一般を学習できるシステムが必要となるだろう。

言語を扱う為には、複文を処理する為に再帰的な認識プロセスが必要になる。これは単に記号処理のみならず、感覚情報処理の一般に適用できなければならない。視覚で言えばテレビ画面に映った場面、写真に収められた風景、鏡の中の様子など、入れ子の構造は至るところに存在する。

解離と自我

(この文章は専門家によるものではなく、健康に関わるどんな判断も以下の情報を参考にすべきではない事をご承知下さい。)

解離性障害は人間の心の最も複雑なメカニズムの一端を垣間見せる。

健忘

解離性健忘では、発症の背景に得てしてストレスフルな環境や重大なライフイベントの発生がある。例えば失恋をきっかけに直近数年間の記憶を喪失、関係する人間から離れて過ごす内に数ヶ月で自然に記憶を回復、といった形の症例でその関連性は明瞭に表れる。

忘却の範囲は専ら自分自身に関わるエピソード記憶(自伝的記憶)であり、場合によっては生まれて以来全ての自伝的記憶にまで及ぶ(全生活史健忘)。一般に「記憶喪失」と呼ばれる状態はこれを指していると言える。一方で手続き的記憶や意味記憶は損なわれず、会話や日常動作には支障を来す事がない。これは次に述べる解離性同一性障害でも同様であり、翻って見れば「自伝的記憶」という区分の妥当性を示しているとも言える。

身体性から中心性へ」で述べた様に心理説(心理的連続性で人の同一性を説明する)を採れば、解離性健忘は「耐え難い自分の一部を切り離す」現象と捉える事ができる。この考えは次に述べる解離性同一性障害に於いて一層の説得力を持つ。

同一性障害

この同一性とは自己の同一性であり、解離性同一性障害(DID)は多重人格とも呼ばれる。DIDもまた自伝的記憶が切り離される病だが、その記憶を持った別の人格が表出する点で大きく異なっている。

深刻な解離に於いては基本的に小さい頃の性的・身体的虐待が背後にある(外傷体験)とされるが、岡野憲一郎は(特に日本では)そうした目に見える外傷だけではなく、葛藤のある親子関係などの「関係性のストレス」からも解離が引き起こされるとしている。

元々の、つまり成育歴の記憶が現実と一致する人格は主人格と呼ばれる。他の人格は交代人格と呼ばれるが、それぞれに独自の名前や成育歴を持つ。子供であったり、性別が違ったり、思慮深く落ち着きがあったり、非常に攻撃的であったりする。通常主人格は交代人格の記憶にアクセスできないが、交代人格は主人格の記憶にアクセスでき、日頃何をしているかも知っている事が多い。

主人格と交代人格の非対称性を考えると、あたかも「エピソード記憶の断片」は決して破棄できず、それを自伝的記憶として持つ者をなくす為に、交代人格へ「他者の記憶として」持たせる事で解決を図ったの如き印象を受ける。ここには自伝的記憶というものの、単なる情報としては捉え切れない存在性が示唆されている。

他者理解

他者の心を理解するシステムを「心の理論」と呼ぶ。この概念はサイモン゠バロン゠コーエンが自閉症を心の理論の不在、「心に盲目である事(Mind-blindness)」として見定めた事から広まった。

サリー・アン課題

バロン゠コーエンが自閉症患者の心の理論について調べる過程で用いた実験の一つは、現在サリー・アン課題と呼ばれるものである。(これは誤信念課題の一種である。)

サリーとアンは最初、同じ部屋にいる。部屋にはサリーのバスケットとアンの箱が置かれている。サリーがビー玉をバスケットに入れる。そしてサリーは部屋の外に出ていき、その間にアンがビー玉を自分の箱に移動する。最後にサリーが部屋に戻ってきて、ビー玉を取り出そうとする。

心の理論 - 脳科学辞典

ここで「サリーはどこを探すだろうか」と質問する。誤ってバスケットの中を探すだろうと予測する為には、サリーの立場からビー玉の移動を知る事ができないと理解している必要がある。

共同注意

心の理論の獲得には「共同注意」が重要とされている。共同注意とは特定のものに対する注意を自分と他者の間で共有する事を指す。これは「自分ー他者ーもの」の三項関係であり、言語表現をグラウンディング(個物との対応づけというラネカーの意味合いが強い)する為に必要不可欠な行為と考えられる。

例えばかなり高い知能を持つチンパンジーでは、他の個体の視線を追う事ができる。しかしヒトの子供では、その後再び相手の方を見て目を合わせる事で三項関係を構築できるのだが、チンパンジーではそれが見られない。「自分-他者」か、または「自分-もの」の二項関係しか存在しないのだ。

こうした比較心理学的研究は、そもそもヒト以外の動物ではコミュニケーションの心理的状況が非常に限られている可能性を示唆する。

人間の概念システムには「基本カテゴリー」と呼ばれる、特に使用頻度の高い粒度のカテゴリーが存在する。例えば道で柴犬を見たとしても「柴犬だ」とか「動物だ」と言う事は少なく、基本的には「犬だ」と言う。こうした基本カテゴリーは、共同注意を構える場面に於いて対象選択を効率的に行う為に有用なのかもしれない。

意図の理解

他者の意図を理解するには、相手の現在の行為からその目的を推測する必要がある。

ジャコモ゠リッツォラッティ等はサルを対象とした実験の中で、偶然に「ミラーニューロン」を発見した。ミラーニューロン(システム)は自分の行動だけではなく、他者の行動を見た場合にも同じ様に活動する。これは即ち「意図→行動」の逆のマッピングを担うシステムだと考えられる。

こうした機能がどの様に実現されているかは明らかでないが、ヒトの生後数ヶ月に亘って見られる新生児模倣(他者の表情を真似する)と同じ様に生得的なものなのではないか、という主張が「ミラーニューロン」の概念には含まれている。

like-meとdifferent-from-me

乾敏郎はlike-meとdifferent-from-meという二つの原理に基づくシステムが他者理解に重要であるとしている。

like-meシステムは他者の行為を自分(の身体)に置き換えて理解し、また共感するもので、上のミラーニューロン等を基盤とする。これは他者との境界を無くし、自他未分離の状態へ向かう。一方でdifferent-from-meシステムは、他者との差異を明瞭にするもので、表面上に現れない様な一連の行動の目的などを推定する。

乾は自閉症患者に於いて、意味のある行為の摸倣ができる一方で意味のない行為の摸倣は困難である事を指摘し、これは他者の行為を自分の身体に対応させるlike-meシステムのみが障害された結果だと説明している。