シンギュラリティは起こらない？
- カテゴリ：パソコン/インターネット
- 2018/04/09 15:33:55
再帰的に改良され、指数関数的に高度化する人工知能により、技術が持つ問題解決能力が指数関数的に高度化することで、（頭脳が機械的に強化されていない）人類に代わって、人工知能やポストヒューマンが文明の進歩の主役に躍り出る時点の事である。
と説明されている。2045年問題とも呼ばれていて、将棋の藤井聡太六段がAIを使った研究で強くなったことや、将棋や囲碁のトップ棋士がAIに勝てなくなってきたことで、ディープラーニングによりあっというまにシンギュラリティが起こるのではないかとワイドショーなどでは特集されている。
しかし、AIの研究で東ロボくんプロジェクトで東大合格を目指すプロジェクトディレクターの新井紀子氏は上記の本のなかで、今の技術の延長線上にはシンギュラリティは絶対に起こらないと断言している。
それは、AIは数学であらわせるものしか使えないから。数学では論理、確率、統計の３つしか使えません。いろんなことが実戦数学で計算されているけれども、結局のところはこの３つしかないから、外れる現象を表すことはできないから人間を越えることができないと説明されています。
一番の弱点は「意味」を理解できないこと。Siriの例が引かれていて「おいしいイタリア料理店」はと聞くと数件のリストがずらずらっと並ぶけれども「まずいイタリア料理店」はと聞いても同じようなリストが並ぶと。（今は改良されている可能性が高い）
それは統計によりイタリア料理だけを探しているからでおいしいとかまずいとか言葉の意味は考えないから。
同じように写真の判定もサンプルとなる正しい情報がないと判別できないから、丸いお椀に入った白いご飯はご飯と判定できるけれど、四角のお皿に入った白いご飯はわからないということが起こる。
つまり、一人前のAIに育てるにはとんでもない数のサンプルを入れなければ判断できない（統計でね）。
だから英作文も国語の作文も作曲もできない（短い時間ならできるけど、長文はむり）ってことになるというのが新井氏の主張。
だけど、もっと困ったことにこのAIと同じレベルで「意味」が理解できない子どもたちが増えているらしい。ということはAIは今のままでも人間の仕事を奪っていくってことだね。困ったことに。。。
コメントありがとうございます＾＾
私は本のタイトルを挙げて記事を書くときに”わざと”いろいろ書き落とします。"AI"という言葉に関しても著者の新井紀子氏が本の中で使っている通りに書いているので、AIの定義については本書を読んでください。数学者らしくきちんと定義されています。本はブログで拾い読みするものではなく買って読むものです。
理解に関しては新井氏も私も理解するしないということで使っていないのでどういう指摘なのかわかりません。人間を越えられないのは「意味」をくみ取れないからですね。コミュニケーションができないのでは人間以上にはなれません。
例文で「私は、山口と広島へ行った。」を英文に直すと"I went to Yamaguchi and Hiroshima."だけど、山口くんと一緒にだったら、"I went to Hiroshima with Yamaguchi."となります。山際としても同じように"I went to Yamagiwa and Hiroshima."としか出力できない。つまり、地名か人名かの意味が区別できない。ってことです。わからないのはわかるように説明する数式を人間が発見できていないってことです。
最後のAIにアウトソーシングして、できることは何ってところは、新井氏は今の中学生、高校生、大学生は読解力が低くて問題を解く力が低下している。大学に入ったばかりの学生に「偶数に奇数を足すとかならず奇数になることを証明せよ」でほとんどの学生ができなかったことが問題で、さらにいえば中高生も簡単な読解問題が解けないレベルとして警鐘を鳴らしている本です。
だけど、この記事ではシンギュラリティの話なのでそこまでいうと本題から外れすぎですね。
「今の技術の延長線上ではなく、脳の動作をエミュレートした実装」や、「統計やその評価によらない自発的演算」が実装されればそれは「別の質を持つものであって、AIとして同じに扱う」ことが誤りになって来る。また、補正するアルゴリズムで画期的なものが出ないとも限らないので、延長線上になにかが起きる可能性も無くは無い。余程の事が起きない限りという意味では大きく間違っては居ないけれど、能動的なパラメータの補正程度でもAIを名乗っていた時期も有るので、定義が曖昧なものを主語にするのは適切と思えない。便宜上の表現だとは思うけれども。
あと、人間は「そろばんだったら半世紀以上前にとっくに負けている」ので、「勝負の土俵とルール」を曖昧にするのはよろしく無い。そもそも人間は本当に「理解」なんてしているのか？という問題も忘れてはいけないし、「理解が何を示すか」の定義を曖昧にして語ることも出来ない。ましてや創造物の優劣を「人間が」評価するなら、出自の違うアルゴリズムに対して創造性なんて曖昧な屁理屈で貶めてるとすら言えるのだが。作ったのは人間である以上「実はブーメランが突き刺さるのは人間の創造性に対する理解の度合い」だったりするのだが見ない振りをするほうが幸せか。理論として確立されているなら実装が出来るわけで、そうならないことの意味から逃げてはいけない。だから物量に頼ったデータとその重みでどうにかしようとしているのであって。
基本的に「人じゃなくても出来る事は増えた。では人が人であることでそれよりも優れた結果を出せる事は何？」という話で、特性として優れている「可能性が」あっても「自己研鑽しない生き物」はその部分でもとっくに負けていることすらあるというだけの話。
個体の勝利や成果に威を借りて「人はまだ負けて無い」なんて安いプライドに頼り始めるって事が既に終わりの始まり。機械に出来る事はアウトソースして、で、僕らはなにをしたらいい？というのがこれから問われる人のあり方で、ある世代が必要な何かを獲得出来ないのは彼らにそれが「生きるのに要らない物」だったという最適化の一つの姿でもある。これは教育の話なので別問題。
星新一賞は原稿用紙換算で50枚以下のショートショートですね。
新井紀子氏はAIは意味を理解できない（数式で表すことが無理なので）から予測変換のようなシステムで一見意味がある文章を作ることが限界だと説明していました。50枚くらいなら読書にたえられるレベルのものができるかもしれませんね。あくまでも確率論の話なのですが。
あります。それには、AIが参加しても良いとされています。
でも、きっと今までの情報や既成の文章を改善、あるいは繋げるようにして
できる文章なのではないかと思います。