オセロの失敗

２０２０年３月２日　（月曜日）

オセロの失敗

(othello2.jpg)

(desde01.jpg)

(sylvie500.jpg)

(sylviex.jpg)

ケイトー。。。、どうして急にオセロの失敗を持ち出してきたわけぇ～？

(kato3.gif)

実は、バンクーバー市立図書館で借りていた本を読んでいたら次の箇所に出くわしたのですよ。。。

オセロの失敗

シェイクスピアの悲劇『オセロ』では、主人公オセロが妻デズデモーナを同輩のキャシオと密通しているとなじり、キャシオを殺害したと告げる場面がある。

妻の顔に恐怖と苦悩をみてとったオセロは、それを罪と認めた証と解釈する。

妻は密通が露呈したと恐れ、恋人の死を嘆いているのだろう、と。

だがデズデモーナはたしかにそのとき恐怖と苦悩の表情を浮かべたが、その理由はオセロの想像とは違った、とポール・エクマンは指摘する。

デズデモーナは夫の不合理な嫉妬を恐れ、自らの無実を晴らせないこと、そしてまもなく夫に殺害されることを悟って悲しんでいたのだ。

オセロの悲しい誤解からも明らかなように、特定の感情を示す生理的シグナルを探知するのは簡単だが、そのような感情を引き起こした理由を特定するのははるかに難しい。

意思決定の参考として感情的なデータを使うときには、そのデータを解釈するのが人間か機械かにかかわらず、常にオセロの失敗の教訓を意識する必要がある。

顔の表情、声の手がかりをはじめとする生理的データは正直シグナルであり、感情認識システムは人間がどれほど努力しても気づくことができないパターンを探知する。

感情に関する精製されたデータがリアルタイムに手に入れば、われわれの暮らしにとほうもない恩恵があるかもしれないが、それは同時にリスクもはらむ。

(amazon01.jpg)

（注：　赤字はデンマンが強調。
読み易くするために改行を加えています。
写真はデンマン・ライブラリーより）

２００-２０１ページ
『アマゾノミクス　データ・サイエンティストはこう考える』
著者: アンドレアス・ワイガンド　訳者：　土方奈美
２０１７年７月３０日　第１刷発行
発行所：　株式会社　文藝春秋

つまり、オセロの失敗を読んで、ケイトーの恋人が不貞をしでかしたと思っても、そう簡単に恋人を殺してはダメだという教訓を得たわけねぇ～。。。

まさかァ～。。。　僕には不貞をしでかすような恋人はいませんから。。。

だから、仮定の話よ。。。

仮定にしろ、現実にしろ、そういう不貞だとか、嫉妬だとか、殺人だとか。。。、そういう事とは、全く関係ないことを僕は連想したのですよ。。。

それは、いったい何よ？

ちょっと、次の小文も読んで欲しいのですよ。。。

(ai003.jpg)

２０１６年の夏には東京大学医科学研究所で、専門医でも診断が難しいとされる６０代の女性患者の特殊な白血病を、約２千万件の医学論文を学習したAIがたった１０分ほどで見抜き、担当医に適切な治療法をアドバイスして女性の命を救ったという事例もある。

AIの能力が人間に追いつき、加速度的に追い越していく時点を「シンギュラリティ（技術的特異点）」と呼び、２０４５年か早ければ２０３０年頃には到達すると予測されている。

もちろん、医学・医療界にもその時は訪れるだろう。

その時にはこうした診断分野だけでなく、難病の治療法の発見や、画期的な新薬の開発、その効果判定もAIが行うと考えられている。

さらに、我々がまだ知り得ていない生命の神秘をAIが解き明かしてしまう可能性すら示唆されている。

そうなれば、医師の仕事はかなりの部分がAIにとって代わられるだろう。

（注：　赤字はデンマンが強調。
読み易くするために改行を加えています。
写真はデンマン・ライブラリーより）

１５８-１５９ページ『医学部』
著者：　鳥集徹
２０１８年３月２０日　第１刷発行
発行所：　株式会社　文藝春秋

つまり、AIの能力が人間に追いつき、加速度的に追い越していく時点を「シンギュラリティ（技術的特異点）」と呼び、２０４５年か早ければ２０３０年頃には到達すると予測されているけれど、AIはオセロの失敗をしないのだろうか？　その事がケイトーに気になったわけぇ～？

そういうことですよ。。。　AIの能力が人間に近づいても、人間らしい失敗をするのではないか！　僕は、そう思ったわけですよ。。。

でも、それは違うと思うわ。。。

どうして。。。？

だってぇ～、約２千万件の医学論文を学習したAIがたった１０分ほどで見抜き、担当医に適切な治療法をアドバイスして女性の命を救ったわけでしょう！？　だから、AIは人間のような失敗をしないと思うのよ。。。

でもねぇ～、AIの能力が人間を超えると言っても、やはり限界があると思うよ。。。

たとえば、どのような限界。。。？

ちょっと次の小文を読んでみてください。。。

(ai004.jpg)

論理、確立、統計。

これが４０００年以上の数学の歴史で発見された数学の言葉のすべてです。
そして、それが、科学が使える言葉のすべてです。
次世代スパコンや量子コンピューターが開発されようとも、非ノイマン型と言おうとも、コンピューターが使えるのは、この３つの言葉だけです。

「真の意味でのAI」とは、人間と同じような知能を持ったAIのことでした。
ただし、AIは計算機ですから、数式、つまり数学の言葉に置き換えることのできないことは計算できません。

では、私たちの知能の営みは、すべて論理と確率、統計に置き換えることができるでしょうか。
残念ですが、そうはならないでしょう。

　（中略）

数学が発見した、論理、確立、統計にはもう一つ決定的に欠けていることがあります。
それは「意味」を記述する方法がないということです。

数学は基本的に形式として表現されたものに関する学問ですから、意味としては「真・偽」の２つしかありません。

「ソクラテスは人である。　人は皆死ぬ。　よって、ソクラテスも死ぬ」のようなことしか演繹できないし、意味はわからないというより表現できないのです。（略）

数学は、論理的に言えること、確率的に言えること、統計的に言えることは、実に美しき表現することができますが、それ以外のことは表現できません。

人間なら簡単に理解できる、「私はあなたが好きだ」と「私はカレーライスが好きだ」との本質的な意味の違いも、数学で表現するには非常に高いハードルがあります。
これが、東ロボくんの成績が伸び悩んでいる根本的な原因だと言えるでしょう。

　（１１７-１１９ページ）

論理、確率、統計に還元できない意味

今、「シンギュラリティ」という言葉が時代の寵児のように受け止められています。
その日が来ることを、たとえば、１９６０年代に、人類が月面着陸に成功する瞬間を、わくわくして待ち侘びたのと同じように、心待ちにしている人も少なくないと思います。

ウィキペディアの日本語版が「人工知能研究の世界的権威」と持ち上げ、グーグルのAI開発を指揮する未来学者のレイ・カーツワイルが２０２９年に真の意味でのAIが開発され、２０４５年に１０００ドルのコンピューターが全人類を合わせたより知的になると公言しているのですから、信じる人が多くても仕方がないのかもしれません。

私は、この言葉の賞味期限は長く見積もってもあと２年だろうと思っています。

　（１６１ページ）

（注：　赤字はデンマンが強調。
読み易くするために改行を加えています。
写真はデンマン・ライブラリーより）

『AI vs.教科書が読めない子どもたち』
著者：　新井紀子
２０１８年３月２７日　第６刷発行
発行所：　東洋経済新報社

AIは計算機ですから、数式、つまり数学の言葉に置き換えることのできないことは計算できないのですよ。。。

つまり、デズデモーナの恐怖と苦悩の表情を、すべて論理と確率、統計に置き換えることができない、とケイトーは思うわけぇ～？

だから、上の本の著者が、そう言ってるのですよ。。。　僕も、そう思いますよ。。。　デズデモーナの恐怖と苦悩の表情は数学的に表現できないので、AIといえども、デズデモーナの心のうちを感知することができないのですよ。。。

でも。。。、でも。。。、約２千万件の医学論文を学習したAIがたった１０分ほどで見抜き、担当医に適切な治療法をアドバイスして女性の命を救ったのだから、２万人の女性の恐怖と苦悩の表情をAIが１０分間ほどで見抜いて、オセロに「デズデモーナを殺すことは間違っている！」と伝えることができると思うわァ～。。。

あのねぇ～、シルヴィーが、そういう風に思考実験するのはかまわないけれど、問題は「意識」ですよ。。。

どういうこと。。。？

つまり、デズデモーナの恐怖と苦悩の表情を「意識」が判断するのですよ。。。　だから、AIが「意識」を持つことができるのか？　それが問題ですよ。。。

意識

(ishiki01.jpg)

意識（Consciousness）は、一般に、「起きている状態にあること（覚醒）」または「自分の今ある状態や、周囲の状況などを認識できている状態のこと」を指す。

ただし、歴史的、文化的に、この言葉は様々な形で用いられており、その意味は多様である。
哲学、心理学、生物学、医学、宗教、日常会話などの中で、様々な意味で用いられる。

日本語では、「ある物事について要求される注意を払っている」とか「考え方や取り組み方について努力が行われている」といったことを表す場合に、意識が高い（または低い）といった言い方が許される。

たとえば公害や廃棄物などの問題についてよく勉強し、改善のために様々な行動や対策を行っている個人や集団を、環境問題についての意識が高い、などと表現する。
このような用法は遵法意識、コスト意識、プロ意識、意識調査、意識改革、など様々な表現に見られる。

学術的には、文脈に応じて意識という語は様々な意味で使用される。

認知科学・人工知能における意識

認知科学、人工知能の分野では、人間が人工知能に質問などをして、その人工知能があたかも人のように反応し、人から見て人と何ら区別がつかなければ、それをもってしてその存在は知能あるいは意識を持っていると見なしていいのではないか、とアラン・チューリングが提案した（チューリング・テスト）。

心理学

19世紀中葉のヨーロッパでは、哲学から心理学が分科した。
ヴィルヘルム・ヴントは意識という概念を中心に心理学を組み立てようとした。

意識は自分の感ずる「感覚」「感情」「観念」に分けられる。
この三つの意識を自分自身が感じたままに観ることを内観法（ないかんほう）という。

行動主義心理学では、意識という概念を用いずに、刺激と反応という図式で人間の行動を理解しようとする。

精神分析学

精神分析学では人間の心を、意識・前意識・無意識の三つに分ける。

自分で現在認識している内容を意識という。つまり、我々が直接的に心の現象として経験していること、これは私の経験だと感じることのできることを総体的に意識という。
意識は短期記憶・作動記憶と関係がある、ともされる。

自分で現在認識していないが、努力すれば思い出すことができる内容を前意識という。

自分で現在認識しておらず、努力しても思い出せない内容を無意識という。
精神分析学では通常の方法では思い出せない無意識下にあるものを、自由連想法などを用いて意識に持ってゆくことで無意識を理解しようとした。

出典:　「意識」
フリー百科事典『ウィキペディア（Wikipedia）』

つまり、数学のように「意識」が明確に定義されていないということは、AIに「意識」を埋め込むことができないということですよ。。。

要するに、現在では、汎用AIも「意識」を持つことができない。。。　だから、「意識」を数式化してAIにプログラムとして教え込むことができるまでは、AIも人間もオセロの失敗を繰り返すというわけねぇ～。。。

そういうことですよ。。。

要するに、「意識」を記述する方法を考え出せばいいわけねぇ～？

そのとおりです。。。

分かりました。。。　じゃあ、「意識」を記述する方法を考え出して私がノーベル賞をゲットするわあァ～。。。　うふふふふふふ。。。

共有: