人工知能の哲学（じんこうちのうのてつがく、）は、心の哲学と計算機科学の哲学の一分野であり、人工知能と、知性、倫理学、意識、認識論、自由意志についての知識・理解に対する人工知能の含意を探求する。さらに、この技術は人工的な動物や人工的な人間（少なくとも人工的な生命体；人工生命参照）の創造に関わるため、この分野は哲学者にとっても重大な関心事である。これらの要素が人工知能の哲学の出現に貢献した。
人工知能の哲学は、次のような問いに答えることを試みる。 define the philosophy of AI as consisting of the first two questions, and the additional question of the . writes "In the current literature, philosophy has two chief roles: to determine whether or not such machines would be conscious, and, second, to predict whether or not such machines are possible." The last question bears on the first two.
機械は知的に行動できるか？人間が思考によって解くあらゆる問題を解けるか？ 人間の知性と機械の知性は同じものか？人間の脳は本質的にコンピュータなのか？ 機械は、人間と同じ意味で心・精神状態・意識を持てるか？「物事がどのように感じられるか」を経験できるか（すなわちクオリアを持つか）？
これらの問いは、人工知能研究者・認知科学者・哲学者それぞれの異なる関心を反映している。これらの問いへの科学的な答えは、「知性」と「意識」の定義、および議論の対象となる具体的な「機械」に依存する。
人工知能の哲学における重要な命題には以下のものがある。
チューリングの「礼儀的慣習」：機械が人間と同じくらい知的に振る舞うなら、その機械は人間と同じくらい知的である。This is a paraphrase of the essential point of the Turing test. , , , . ダートマスの提案：「学習のあらゆる側面、あるいは知性の他のあらゆる特徴は、原則として、機械がそれを模倣できるよう精密に記述できる。」. This assertion was printed in the program for the Dartmouth Conference of 1956, widely considered the "birth of AI." also . アレン・ニューウェルとハーバート・サイモンの物理記号システム仮説：「物理記号システムは、一般的な知的行動のための必要十分な手段を持つ。」 and . ジョン・サールの強いAI仮説：「適切にプログラムされ、適切な入出力を持つコンピュータは、人間が心を持つのとまったく同じ意味で心を持つことになる。」This version is from , and is also quoted in . Searle's original formulation was "The appropriately programmed computer really is a mind, in the sense that computers given the right programs can be literally said to understand and have other cognitive states." . Strong AI is defined similarly by : "The assertion that machines could possibly act intelligently (or, perhaps better, act as if they were intelligent) is called the 'weak AI' hypothesis by philosophers, and the assertion that machines that do so are actually thinking (as opposed to simulating thinking) is called the 'strong AI' hypothesis." ホッブズの機械論：「『理性』……は、われわれの思考を『印』し『示す』ために合意した一般名辞の帰結を加算・減算すること、すなわち『計算』にほかならない……」
機械の知性 See , where they make the distinction between acting rationally and being rational, and define AI as the study of the former.
知性の定義 チューリング・テスト
1949年、計算機科学者アラン・チューリングは知性を定義する問題を、会話に関する単純な問いに還元した。彼は、機械が普通の人間と同じ言葉を使って問いかけられたあらゆる質問に答えられるなら、その機械を知的と呼んでよいと提案した。 and see , where they call his paper "famous" and write "Turing examined a wide variety of possible objections to the possibility of intelligent machines, including virtually all of those that have been raised in the half century since his paper appeared."現代的な実験デザインでは、オンラインのチャットルームを使い、参加者の一人が実在の人間で、もう一人がコンピュータプログラムとなる。どちらが人間かを誰も判断できなければ、そのプログラムはテストを通過する。チューリングは、（哲学者を除いて）誰も「人間は考えられるか？」という問いを問わないことを指摘する。彼は「この点について議論し続けるのではなく、誰もが考えているという礼儀的慣習を持つのが通例だ」と書いている。, under "The Argument from Consciousness".チューリングのテストはこの礼儀的慣習を機械にも拡張し、機械が人間と同じくらい知的に振る舞うなら、その機械は人間と同じくらい知的であると提案する。
チューリング・テストへの批判のひとつは、このテストが機械の振る舞いの「人間らしさ」を測るにすぎず、振る舞いの「知的さ」を測るものではないというものである。人間らしい振る舞いと知的な振る舞いはまったく同じではないため、このテストは知性を測ることに失敗している。スチュアート・ラッセルとピーター・ノーヴィグは「航空工学のテキストは、ハトを欺けるほどハトそっくりに飛ぶ機械を作ることをその分野の目標と定義しない」と書いている。.
目標達成としての知性
21世紀のAI研究は、知性を目標志向的な行動の観点から定義する。この立場では、知性とは機械が解くことを期待される一連の問題として捉えられる——解ける問題が多く、解がより優れているほど、そのプログラムはより知的とみなされる。AI創設者のジョン・マッカーシーは知性を「世界において目標を達成する能力の計算的部分」と定義した。
スチュアート・ラッセルとピーター・ノーヴィグは抽象的な知的エージェントを用いてこの定義を形式化した。「エージェント」とは環境を知覚し行動するものである。「性能尺度」とはエージェントにとっての成功が何を意味するかを定義するものである。. 「エージェントが過去の経験と知識に基づいて性能尺度の期待値を最大化するように行動するなら、そのエージェントは知的である。」Russell and Norvig would prefer the word "" to "intelligent".
このような定義は知性の本質を捉えようとする。チューリング・テストとは異なり、タイプミスのような非知的な人間的特徴を測らないという利点がある。一方で、「考えるもの」と「考えないもの」を区別できない欠点もある。この定義によれば、サーモスタットでさえ初歩的な知性を持つことになる。 consider a thermostat a simple form of intelligent agent, known as a reflex agent. For an in-depth treatment of the role of the thermostat in philosophy see "4. Is Experience Ubiquitous?" subsections What is it like to be a thermostat?, Whither panpsychism?, and Constraining the double-aspect principle.
機械が一般的知性を示せるという論証
脳はシミュレートできる
ヒューバート・ドレイファスはこの論証を次のように説明する。「神経系が物理法則・化学法則に従うとすれば——そう考えるあらゆる根拠があるのだが——……われわれは……何らかの物理的装置で神経系の振る舞いを再現できるはずだ」。 1943年に初めて提示され、 1988年にハンス・モラヴェックによって鮮明に描写されたこの論証は、 現在は未来学者レイ・カーツワイルと結びつけられており、彼は2029年までに完全な脳のシミュレーションを行うのに十分な計算能力が得られると推定している。. Also see and . The most extreme form of this argument (the brain replacement scenario) was put forward by in the mid-1970s and was touched on by and John Searle in 1980.2005年には、ヒトの脳の大きさ（1011ニューロン）を持つ視床皮質モデルのリアルタイムでないシミュレーションが実行され、27プロセッサのクラスタ上で脳の1秒間のダイナミクスをシミュレートするのに50日かかった。
AIの最も手厳しい批評家（ヒューバート・ドレイファスやジョン・サール）でさえ、脳のシミュレーションが理論上可能であることには同意している。しかしサールは、原理上、あらゆるものがコンピュータによってシミュレートできると指摘する。したがって定義をその限界まで推し進めると、あらゆるプロセスが技術的に「計算」とみなせるという結論になる。「われわれが知りたかったのは、心をサーモスタットや肝臓から区別するものは何かだ」と彼は書く。したがって、生きた脳の機能をシミュレートするだけでは、知性と心の本質に関する無知を認めることになり、航空工学の理論的理解なしに生きた鳥を羽一枚一枚まで精密に模倣してジェット機を作ろうとするようなものだ。
人間の思考は記号処理である
1963年、アレン・ニューウェルとハーバート・サイモンは「記号操作」が人間と機械の知性の本質であると提案した。彼らは次のように書いた。 「物理記号システムは、一般的な知的行動のための必要十分な手段を持つ。」 この主張は非常に強力である。それは、人間の思考が記号操作の一種であること（記号システムは知性にとって必要であるため）と、機械が知的になれること（記号システムは知性にとって十分であるため）の両方を含意する。Searle writes "I like the straight forwardness of the claim." .この立場の別のバージョンは哲学者ヒューバート・ドレイファスによって「心理的仮定」と呼ばれて説明された。 「心は形式的規則に従って情報のビットを操作する装置として見ることができる。」. ニューウェル、サイモン、ドレイファスが論じた「記号」は、<dog>や<tail>のように世界の対象に直接対応する単語的で高レベルの記号であった。1956年から1990年の間に書かれたほとんどのAIプログラムはこの種の記号を使用していた。統計と数学的最適化に基づく現代のAIは、ニューウェルとサイモンが議論した高レベルの「記号処理」を使用していない。
記号処理に反対する論証 これらの論証は、人間の思考が高レベルの記号操作（のみ）からは成り立たないことを示す。これらは人工知能が不可能だということを示すものではなく、記号処理以上のものが必要だということを示すにすぎない。
ゲーデル的反機械論の論証
1931年、クルト・ゲーデルは不完全性定理により、論理の形式体系（高レベルの記号操作プログラムなど）が証明できない「ゲーデル命題」を常に構成できることを証明した。構成されたゲーデル命題は真であるにもかかわらず、与えられた体系の中では証明不可能である。（構成されたゲーデル命題の真性は与えられた体系の無矛盾性に依存する。微妙に矛盾した体系に同じプロセスを適用すると成功しているように見えるが、実際には偽の「ゲーデル命題」を生み出す。）さらに推測的に、ゲーデルは人間の心は最終的に任意の正当な数学的命題（可能なゲーデル命題を含む）の真偽を正しく判定できると推測し、したがって人間の心の能力はメカニズムに還元できないと論じた。Gödel, Kurt, 1951, Some basic theorems on the foundations of mathematics and their implications in Solomon Feferman, ed., 1995. Collected works / Kurt Gödel, Vol. III. Oxford University Press: 304-23.哲学者ジョン・ルーカス（1961年以来）とロジャー・ペンローズ（1989年以来）はこの哲学的反機械論の論証を擁護してきた。, , .
ゲーデル的反機械論の論証は、人間の数学者からなるシステム（あるいは人間の数学者のある理想化）が無矛盾（完全に誤りがない）であり、かつ自身の無矛盾性を完全に信じている（自身の無矛盾性から論理的に帰結するすべての推論ができる、ゲーデル命題への確信を含む）という、一見無害な主張に依存する傾向がある。これはチューリングマシンにとっておそらく不可能である（停止問題参照）。したがってゲーデル論者は、人間の推論はチューリングマシンには捉えられないほど強力であり、ひいては任意のデジタル機械装置にも捉えられないと結論する。
しかし、科学・数学のコミュニティにおける現代のコンセンサスは、実際の人間の推論は矛盾しているというものである。人間の推論の無矛盾な「理想化バージョン」Hは、論理的にHの無矛盾性についての健全だが直感に反したオープンマインドな懐疑主義を採用せざるをえない（さもなければHは証明上矛盾する）し、ゲーデルの定理は人間が機械では決して複製できない数学的推論能力を持つという有効な論証につながらない。Mark Colyvan. . Cambridge University Press, 2012. From 2.2.2, 'Philosophical significance of Gödel's incompleteness results': "The accepted wisdom (with which I concur) is that the Lucas-Penrose arguments fail."ゲーデル的反機械論の論証は必ず失敗するというこのコンセンサスは、誌において強く示されている。「ゲーデルの不完全性の結果を利用して計算主義テーゼを攻撃しようとするいかなる試みも、これらの結果が計算主義テーゼと完全に両立するため、必然的に誤ったものとなる。」LaForte, G.; Hayes, P. J.; Ford, K. M., 1998. Why Gödel's theorem cannot refute computationalism. , 104: 265–286, 1998.
スチュアート・ラッセルとピーター・ノーヴィグは、ゲーデルの論証が現実世界の人間の推論の本質を考慮していないことに同意する。それは無限のメモリと時間が与えられたとき理論上何が証明できるかに適用される。実際には、実際の機械（人間を含む）は有限の資源を持ち、多くの定理を証明するのに困難を覚えるだろう。知的な人間であるためにすべてを証明できる必要はない。.
より非形式的には、ダグラス・ホフスタッターはピューリッツァー賞受賞作『ゲーデル、エッシャー、バッハ』の中で、これらの「ゲーデル命題」は常にシステム自身を参照しており、これをエピメニデスのパラドックスが「この文は偽だ」や「私は嘘をついている」のような自己参照的な文を使う方法と類比する。.しかしエピメニデスのパラドックスは、機械でも人間でも、ルーカス自身でさえも、命題を作るものすべてに当てはまる。 ルーカスはこの命題の真性を主張できない。According to , this statement was first proposed by . この命題は真だが、ルーカスは主張できない。これはルーカス自身が機械について述べたのと同じ制限に服していることを示しており、すべての人間も同様である。したがってルーカスの論証は無意味である。, , under "The Argument from Mathematics" where he writes "although it is established that there are limitations to the powers of any particular machine, it has only been stated, without sort of proof, that no such limitations apply to the human intellect."
人間の推論が非計算的であるという結論の後、ペンローズは物議をかもしながら、量子力学的状態の崩壊に関わる何らかの仮説的な非計算的プロセスが人間に既存のコンピュータに対する特別な優位を与えるという推測に進んだ。既存の量子コンピュータはチューリング計算可能なタスクの複雑さを軽減するだけで、依然としてチューリングマシンの範囲内のタスクに制限されている。ペンローズとルーカスの論証によれば、量子コンピュータがチューリング計算可能なタスクのみを完了できるという事実は、量子コンピュータが人間の心を模倣するのに十分ではないことを意味する。したがってペンローズは、波動関数の自発的量子崩壊を通じてプランク質量のスケールで新しい物理学を出現させる可能性がある量子重力などの、新しい物理学に関わる他のプロセスを求める。これらの状態は、ニューロン内部と複数のニューロンにまたがる両方で生じると彼は示唆した。.しかし他の科学者たちは、脳の中に量子計算を利用する説得力ある有機的メカニズムが存在しないこと、また量子デコヒーレンスのタイムスケールがニューロン発火に影響するには速すぎることを指摘する。
ドレイファス：暗黙的技能の優位
ヒューバート・ドレイファスは、人間の知性と専門知識は主として段階的な記号操作ではなく速い直観的判断に依存していると論じ、これらの技能は形式的規則に決して捉えられないと主張した。, , . See also , and .
ドレイファスの論証はチューリングが1950年の論文で先取りしており、チューリングはこれを「振る舞いの非形式性からの論証」と分類した。.チューリングはこれに対し、複雑な振る舞いを支配する規則を知らないからといって、そのような規則が存在しないということにはならないと論じた。彼は書いた。「振る舞いの完全な法則の不在を、われわれはそれほど容易に確信できない……そのような法則を見つける唯一の方法は科学的観察であり、われわれは『十分に探した。そのような法則は存在しない』と言える状況を知らない。」, under "(8) The Argument from the Informality of Behavior".
ラッセルとノーヴィグは、ドレイファスが批判を公表して以来、無意識の推論を支配する「規則」の発見に向けた進歩がなされていることを指摘する。.ロボット工学研究における状況運動は、知覚と注意における無意識の技能を捉えようとする。See , and .ニューラルネット、進化的アルゴリズムなどの計算知能パラダイムは、主として無意識的推論と学習のシミュレーションを目指す。AIへの統計的アプローチは人間の直観的推測の精度に近づく予測を行える。常識知識の研究は知識の「背景」または文脈の再現に焦点を当ててきた。事実、AI研究は全体として高レベルの記号操作から離れ、より多くの直観的推論を捉えることを目的とした新しいモデルへと移行している。
認知科学と心理学は最終的にドレイファスの人間の専門知識の描写に同意するようになった。ダニエル・カーネマンらは同様の理論を発展させ、人間が問題解決に使う2つの「システム」を「システム1」（速い直観的判断）と「システム2」（遅い意識的な段階的思考）と呼んで識別した。
ドレイファスの見解は多くの点で正当化されたが、認知科学とAIでの研究はそれぞれの分野における特定の問題への応答であり、ドレイファスに直接影響されたわけではなかった。歴史家でありAI研究者でもあるダニエル・クレヴィエは「時代はドレイファスのコメントのいくつかの正確さと洞察力を証明した。より穏やかに表現されていれば、それらが示唆する建設的な行動がずっと早く取られていたかもしれない」と書いた。.
機械は心・意識・精神状態を持てるか？ これは他者の心の問題と意識のハード・プロブレムに関連する哲学的問題である。問いはジョン・サールが「強いAI」と定義した立場を軸に展開する。 物理記号システムは心と精神状態を持てる。 サールはこの立場を「弱いAI」と呼ぶものと区別した。 物理記号システムは知的に振る舞える。 サールはこれらの用語を導入して強いAIを弱いAIから分離し、より興味深く議論の余地があると彼が考えた問題に焦点を当てた。彼は、たとえ人間の心とまったく同じように振る舞うコンピュータプログラムがあったとしても、依然として答えなければならない困難な哲学的問いが残ると論じた。
サールの2つの立場のどちらもAI研究にとって大きな関心事ではない。なぜなら、それらは「機械は一般的知性を示せるか？」という問いに直接答えないからである（意識が知性にとって必要であることが示せない限り）。チューリングは書いた。「意識について謎がないという印象を与えたくはない……しかしこれらの謎は、（機械が考えられるかどうかという）問いに答える前に解決される必要は必ずしもないと思う。」, under "(4) The Argument from Consciousness". See also , where they identify Searle's argument with Turing's "Argument from Consciousness."ラッセルとノーヴィグも同意する。「ほとんどのAI研究者は弱いAI仮説を当然のこととして受け入れており、強いAI仮説を気にしない。」.
イーゴル・アレクサンダー、スタン・フランクリン、ロン・サン、ペンティ・ハイコネンなど、意識が知性の本質的な要素だと考える研究者も少数いるが、彼らの「意識」の定義は「知性」に非常に近い。（人工意識参照。）
この問いに答えるには、「心」「精神状態」「意識」が何を意味するかを明確にしなければならない。
意識・心・精神状態・意味
「心」と「意識」という言葉は、異なるコミュニティによって異なる使い方をされる。一部のニューエイジ思想家は、例えば「意識」という言葉をベルクソンの「エラン・ヴィタール」に似たもの——生命と特に心に浸透する不可視のエネルギー的流体——を表すために使う。SF作家はこの言葉を、われわれを人間にする本質的な特性を表すために使う。「意識」を持つ機械や宇宙人は、知性・欲望・意志・洞察・誇りなどを持つ完全な人間キャラクターとして描かれる。（SF作家はまた、この本質的な人間的特性を表すために「感覚」「知性」「自己意識」や「ゴースト」——マンガ・アニメ『攻殻機動隊』のように——という言葉を使う。）その他の人々にとって、「心」や「意識」という言葉は魂の世俗的な同義語として使われる。
哲学者・神経科学者・認知科学者にとって、これらの言葉はより精密で、より平凡な意味で使われる。すなわち、知覚・夢・意図・計画のように「頭の中に思考がある」という日常的・身近な経験、また何かを見る・知る・意味する・理解する方法を指す。「意識の常識的な定義を与えるのは難しくない」とサールは観察する。"[P]eople always tell me it was very hard to define consciousness, but I think if you're just looking for the kind of commonsense definition that you get at the beginning of the investigation, and not at the hard nosed scientific definition that comes at the end, it's not hard to give commonsense definition of consciousness." The Philosopher's Zone: The question of consciousness, . Also see .謎めいて魅力的なのは何であるかではなく、どのようにそうなのかである。脂肪組織と電気の塊が、知覚・意味・思考というこの（身近な）経験をどのようにして生み出すのか？
哲学者はこれを意識のハード・プロブレムと呼ぶ。これは心の哲学における「心身問題」と呼ばれる古典的問題の最新バージョンである。.関連する問題として、意味や理解の問題（哲学者が「志向性」と呼ぶもの）がある。すなわち、われわれの思考と思考している対象（世界の対象と状況）の間の関係は何か？第三の問題は経験（または「現象論」）の問題である。2人の人が同じものを見るとき、彼らは同じ経験をするか？あるいは「頭の中に」（「クオリア」と呼ばれる）人によって異なりうるものがあるか？.
神経生物学者は、意識の神経相関を特定し始めるにつれて、これらの問題すべてが解決されると考える。AIの最も手厳しい批評家のいくつかは、脳はただの機械であり、意識と知性は脳の物理的プロセスの結果だということに同意している。For example, John Searle writes: "Can a machine think? The answer is, obvious, yes. We are precisely such machines." .困難な哲学的問いはこうである。ゼロと一のバイナリ数字を操作するデジタル機械上で動くコンピュータプログラムは、はたして精神状態（理解や知覚など）を持つ心、そして究極的には意識の経験を作り出すニューロンの能力を複製できるのだろうか？
コンピュータが心と精神状態を持てないとする論証
サールの中国語の部屋