この記事は、人工知能の最新の研究成果を探る連載記事「AI研究論文のレビュー」の一部です。
ロボットのプラグを抜いたり、人工知能のアルゴリズムのスイッチを切ったりすることは、悪いことだと思うべきでしょうか？ 今のところはそうではありません。
人工的な一般知能（AGI）の結果についての議論は、AI自体の歴史と同じくらい古いものです。 ほとんどの議論では、人工知能の未来は、「ターミネーター」のような黙示録か、「ウォール・イー」のようなユートピアかのどちらかに描かれています。 しかし、あまり議論されていないのは、人工知能エージェントが生命、知能、意識の特徴を持つようになったとき、私たちはどのように知覚し、相互作用し、受け入れるのかということです。
最近出版されたエッセイの中で、このように述べています。 Zagreb School of Economics and Managementの科学者であるBorna Jalsenjak氏は、超知的なAIと、生物と人工生命のアナロジーについて論じています。 タイトルは「The Artificial Intelligence Singularity:
Jalsenjakは、哲学的人類学的な生命観と、それが自らの操作によって進化できるAIシステムにどのように適用されるかを説明しています。
AIシンギュラリティ
シンギュラリティという言葉は、一般的なAIに関する議論でよく出てくる言葉です。 そして、人工知能に関係するすべてのことに共通することですが、シンギュラリティとは何かについては、多くの混乱と意見の相違があります。 しかし、ほとんどの科学者や哲学者は、シンギュラリティが、AIシステムが自分たちよりも賢くなる転換点であることに同意しています。 シンギュラリティのもうひとつの重要な点は、時間とスピードです。
「もっと簡潔に言うと、人間と同じレベルのAIが存在し、そのAIがもう少し知能の高いAIを作り、そのAIがさらに知能の高いAIを作り、その次のAIがさらに知能の高いAIを作り、というように、人間が達成できるものよりも著しく高度なAIができるまで続く」とJalsenjakは書いています。
はっきり言って、ナローAIと呼ばれる現在の人工知能技術は、そのような偉業を達成するには程遠いものです。 ジャルシェンジャクは、現在のAIシステムを、”ハンバーガーを作るのは得意だが、それ以外のことは苦手なAI “といった「領域限定型」と表現しています。 一方、AIシンギュラリティの議論となっているようなアルゴリズムは、「対象を特定しないAI、言葉は悪いですがドメインレスであり、そのためどんなドメインでも行動できるAI」だとジャルシェンジャクは書いています。
これは、いつ、どのようにAGIに到達するかという議論ではありません。 これは別のテーマであり、多くの議論の焦点でもあります。ほとんどの科学者は、人間レベルの人工知能ができるのは少なくとも数十年先のことだと考えています。
Is artificial intelligence alive?
AIコミュニティでは、特に知能の兆候を示す機能を開発した機械を人間と見なす傾向が強くあります。
「高度なAIが人間の知能と同じ構造を持つようになると考える理由はありませんが、世界の状態を自分に最も近い形で提示するのが人間の本性ですから、ある程度の擬人化は避けられません」と、エッセイの脚注に書いています。
人間と現在の人工知能技術との最大の違いは、人間が「生きている」（その意味については後ほど説明します）のに対して、AIアルゴリズムはそうではないという点にあります。
「今日のテクノロジーの状態を見れば、テクノロジーが生きていないことは疑う余地がありません」とJalsenjak氏は書いていますが、「私たちが興味を持てるのは、もしシンギュラリティの議論で予測されているような超知性が現れたら、それも生きていると考えられるかどうかを試してみる価値があるかもしれません」と付け加えています。”
有機的ではないとはいえ、そのような人工生命は、私たちがAIをどのように認識し、どのように行動するかに多大な影響を与えるでしょう。
Jalsenjak氏は、哲学的人類学の概念に基づいて、生物は自律的に行動し、自分自身や種の世話をすることができる、いわゆる「内在的活動」があると述べています。”
「少なくとも今は、どんなに機械が進化しても、その目的は人間の延長線上にしかありません」とJalsenjakは述べています。
生命にはさまざまなレベルがありますが、この傾向が示すように、AIは少しずつ生命に近づいています。 哲学的人間学によれば、生物が目的に向かって成長するときに生命の最初の兆候が現れるとされていますが、今日の目的志向のAIにはそれが存在しています。 草木にはそのような意識がなくても、私たちは生きていると考えているので、AIが目標を「意識」せず、無心に数字を入力していることは関係ないと、Jalsenjakは言います。 また、子孫を残し、その面倒を見ることも必要です。 これは、木、昆虫、鳥、哺乳類、魚など、私たちが生きていると考えるあらゆるものに見られることです。
子育てについて、Jalsenjak氏は、AIの生殖は必ずしも他の生物の生殖と並行して行われるわけではないと推測しています。 “機械は種の存続を確保するために子孫を必要としない。 AIは、故障した（死んだ）部品を新しい部品と交換できるだけの交換部品を用意するだけで、物質の劣化問題を解決できる」と書いている。 “
自己改善に関しては、もう少し微妙なところがあります。
現在の機械学習アルゴリズムは、ある程度、自分の行動を環境に適応させることができます。 現実世界から収集したデータに合わせて多くのパラメータを調整し、世界が変われば、新しい情報に基づいて再学習することができます。 例えば、コロナウイルスのパンデミックでは、私たちの通常の行動に基づいて訓練されたAIシステムが破壊されたことがありました。 例えば、コロナウイルスが流行すると、人間の普段の行動で学習したAIシステムが崩壊します。 これらのアルゴリズムは、マスクをした顔の画像を使って学習することで、パラメータを再調整することができます。
理想的な自己改善型AIとは、根本的な改善をもたらす全く新しいアルゴリズムを作り出すことができるAIです。 これは「再帰的自己改善」と呼ばれるもので、AIがますます賢くなるという無限の加速サイクルにつながるものです。
現在、遺伝的アルゴリズムやグリッドサーチなど、機械学習アルゴリズムの学習不可能なコンポーネント（ハイパーパラメータとも呼ばれる）を改善できるメカニズムがあります。 しかし、それらがもたらす変化の範囲は非常に限られており、依然として人間の開発者によるある程度の手作業が必要です。
再帰的な自己改善は、AIに「使用しているアルゴリズムを完全に置き換える可能性」をもたらします、とJalsenjakは指摘します。 “
決定された特性から類推すると、超知能AIは生きていると考えられ、AIが人間の延長であるという主張は無効であるとJalsenjak氏は結論づけています。 “
それでもあなたは罪悪感を感じることなくロボットのプラグを抜くことができるでしょうか？
生きているだけでは十分ではない
エッセイの最後で、Jalsenjak氏は人工生命についての考察が多くの疑問を残すことを認めています。 “
最後にJalsenjak氏は、人工的な生命についての考察が多くの疑問を残していることを認めています。
哲学者・科学者であるダグラス・ホフスタッターの『私は奇妙なループ』を読んだばかりの私は、間違いなく「ノー」と言えます。 アイデンティティ、自己認識、意識などは、生物を差別化する概念です。 例えば、全宇宙をクリップにするためにアルゴリズムを改良し続ける、頭を使わないペーパークリップ・ビルダー・ロボットは、生きていて自分の権利に値するのでしょうか？ “人間は、自分の存在を完全に与えているわけではないが、自分の存在を目的化し、その目的を果たすという意味で、自分自身の共同創造者である」とJalsenjak氏は書いています。 “未来のAIが自由意志の可能性を持つかどうかは明らかではありません」
そして最後に、超知能AIの倫理性の問題があります。 これは、AIがどのような道徳的原則を持つべきか、人間はAIに対してどのような道徳的原則を持つべきか、AIは人間との関係をどのように捉えるべきかなど、幅広いテーマです。
AIコミュニティは、現在の深層学習システムの明らかな限界や、一般的なAIを実現するという遠大な概念を指摘して、このような話題を否定することがよくあります。
しかし、他の多くの科学者と同様に、Jalsenjak氏は、これらの話題を議論する時は、手遅れになってからではなく、今日であると念を押しています。 “
Springerで公開されているエッセイの全文では、Jalsenjak氏が人工知能のシンギュラリティや生命の法則について、詳細に説明しています。 完全版の書籍「Guide to Deep Learning Basics」では、人工知能の哲学についてより深い資料を提供しています。