このブログ記事では、AI が本当に人間のように「考える」ことができる存在なのか、それとも単に知性を模倣する機械なのかを深く掘り下げます。

AIとは

AIがArtificial Intelligence（人工知能）の略であることは容易に理解できます。AIは、人間の行動に関する知識を模倣し、それに従って行動するシステムと解釈されることが多いです。例えば、囲碁でイ・セドルを破ったAlphaGoや、自動運転車に搭載されているシステムなど、人間の知能を模倣し、それを行動に移す機械はすべてAIと呼ばれます。しかし、私はAIをその文字通りの意味に基づいて再解釈する必要があると考えています。AIとは、単に人工的に開発された知能のことです。「人工」とは、意図的であろうと無意識であろうと、人間によって「作られた」ものを意味します。しかし、知能は定義が非常に難しい能力です。様々な科学者によって知能の解釈が多様であるため、一般の人々にとって明確に定義することはさらに困難です。そこで、私はAlex Wissner-Grossの知能に関する論文を引用したいと思います。

知性：思考とは異なる能力

アレックス・ウィスナー＝グロスは、もし未来の子孫が人工知能を再構築したり理解したりするのに役立つ一文を残すとしたら、それは「知能とは、将来の行動の自由度を最大化し、自身の未来への制約を回避する物理的なプロセスである」だろうと示唆している。そして、彼はこれを次の式で表現した。

F = T∇Sτ

これは知能を表す公式です。知能をFとすると、Tは何らかの力、Sは達成可能な未来の多様性、τは未来の特定の時点を表します。一見すると、この不合理な公式は、私たちが一般的に知能と結びつける行動を促します。この公式を特定の状況に置かれたシステムに入力すると、システムは指示なしにロッドのバランスを取ったり、自力でポンをプレイしたりします。また、この公式は、システムが模擬株式取引で自身の資産を増やしたり、密接に連携したソーシャルネットワークを構築したりするのを可能にします。社会的協力など、人間が知的行動と考える行動は、この公式によって誘発されていることがわかります。
しかし、機械が知能を持つことと思考することは別物であることは容易に理解できます。前述のように、知能は未来の制約を回避するための目的主導型に過ぎません。しかし、思考はこれを包含する高次の概念です。それは目標の追求や未来を予測したいという欲求を含みます。例えば、他の動物が道具を使ったり、集団で狩りをしたりするのを観察すると、私たちは彼らを賢く狩りをしていると捉えますが、彼らを思考する存在として捉えることは困難です。さらに、知的障害のある人は、知的能力の発達が不完全であるにもかかわらず、様々な分野で驚くべき創造性を発揮することがよくあります。これは、知能は目的を達成するための道具に過ぎず、知能を持つことは思考することとイコールではないことを示唆しています。したがって、AIが思考することを示す瞬間、「AI」という用語自体が変わらざるを得ません。AIが単に知能を持つというレベルを超え、実際に思考するようになるのです。

思考を証明する方法はあるのでしょうか？

人類は歴史を通して、コインの表側だけを見ながらAIを発展させてきました。表側とは、AIが外部に提示する演算値、つまりデータAを入力すると出力Bが生成され、質問に対する正確な答えが返ってくるシステムのことです。より分かりやすく説明するために、一例を挙げてみましょう。ケン・ゴールドバーグのTEDトーク動画には、「リモートガーデン」と呼ばれるロボットが登場します。リモートガーデンとは、誰もがオンラインでガーデンロボットにアクセスし、植物に水をやったり種を植えたりできるシステムです。このシステムはオーストリアの美術館のロビーに設置されています。しかし、遠隔操作する側に対して、「このロボットは本物か？」という問いを投げかけることができます。仮にロボットが存在しないとしても、様々な画像を用いてオンラインで写真を拡散し、人々にロボットがいると信じ込ませることができます。これはデカルトの認識論的問題を反映しています。AIも同様に認識論的問題として捉えることができます。AIが入力データに基づいてデータを出力するシステムであるかどうかは、認識論的な問いです。つまり、AIは思考しているのかどうかという問いを、私たちは問わずにはいられません。
では、コインの裏側を見ることはできないのでしょうか？この問いに対して、私は敢えて「YES」と答えたいと思います。私が見たTEDトークの中で、ブレイズ・アグエラ・イ・アルカスは創造性について、次の方程式を用いて問いかけていました。

Y = W(*)X

Wは脳の複雑なニューラルネットワーク、Xは五感を通して知覚された物体のデータ、そして（*）はXデータが入力されたときにニューラルネットワークがどのように相互作用するかを示しています。そしてYは、私たちが最終的にXから知覚し出力するデータです。TEDは、ニューラルマップWをX、Y、（*）の演算で近似できることを示唆しています。これにより、Xを入力すると結果Yが導き出されます。これにより、創造性と思考についてある程度の洞察が得られました。しかし、結果として得られるY値が本当に完全なものなのかどうか疑問に思います。TEDでは、入力値「犬」をXに入力すると、Yとして犬の絵が描かれました。しかし、人間に犬を描かせたら、TEDのように精緻で紛れもなく犬とわかる絵を描くことができるでしょうか？人間は、そうするように頼めば、他の人とは違う犬を描くことができるのでしょうか？つまり、ビッグデータから得られたデータの集合に過ぎないように思えます。しかし、もし人類がW、つまりニューラルネットワークを完全に解読したらどうなるでしょうか？おそらく、人間と同じように、X、*、Wを通してYという価値を導き出すことができるでしょう。そして、ビッグデータだけに頼るのではなく、人間と同じようにWを自律的に開発し、Yという価値を独自の方法で表現できるようになるでしょう。そうすれば、人類はコインを投げて、その裏側、つまり創造性と思考力を明らかにすることができるでしょう。
では、神経系を完全に理解し、神経科学を発展させ、ニューロンの集合体を完全に解釈できるのはいつになるのでしょうか。この点について、ダイクストラの言葉を引用したいと思います。「機械が考えることができるかどうかという問いは、潜水艦が泳げるかどうかという問いと同じくらい重要なのです。」人類が船を建造し、航海を始めてから数千年を経て、ようやく潜水艦が完成し、これまで未知だった深海への探査を開始しました。AIは現在、船を建造し、航海を行っている最中です。ですから、人類がいつの日か思考という未知の領域を解釈し、考える機械を生み出すことは間違いないでしょう。