三年連続で登壇している日本最大のiOSカンファレンス、iOSDCに今年も応募しました。
今年も人工知能（AI）に関する発表で、タイトルは「iOSアプリに「意識」は宿るのか？ディープラーニングの先にある人工知能（AI）」です。
今年のiOSDC2019の日程は、2019/09/05 〜 09/07とのことです。
以下は昨年の発表の様子です。
アプリにヒトの意識のようなものは宿るのか、教師なし学習や複雑系をふまえて未来のお話をします。
技術パッション共有トークというカテゴリで応募したのですが、60分も発表時間があるので大変です。
もし採択されれば、会場の方が楽しんでいただけるように発表内容を工夫したいと思います。
「AIの遺伝子 RED QUEEN」4巻を読了しました。著者の山田胡瓜氏は元ITジャーナリストなのですが、AIを軸にしたストーリー展開がリアルで面白かったです。
AIの遺伝子 RED QUEEN(4) (少年チャンピオン・コミックス)
ネタバレになってしまうので詳細には触れませんが、この巻で一つの大きなテーマとなっているのが、AIの持つ「欲求」です。
進化の過程で、生き残るために適切な欲求を持つように淘汰された来た我々とは異なり、AIは生来の欲求を持ちません。
そこで、AIの生みの親であるヒトがAIに何らかの欲求を持たせる必要があるのですが、例えば強化学習ではAIが望ましい行動をするようにAIにデジタルな報酬を与えます。
AIがヒトと共生する未来では、どのような欲求をAIに持たせればいいのでしょうか。
AIの遺伝子に登場する超AIには、ヒトの社会を進歩させることなく循環的な平和を保つような欲求が持たされています。
超AIの暗躍により、社会から争いごとがなくなって経済的な繁栄が保たれる一方、停滞した世界に違和感を覚える人々も現れる、というストーリーになっています。
AIの生みの親として、これからAIにどのような「欲求」を与えていくかはこれからの人類にとって重要なテーマかとは思いますが、もし世界に対する影響力が大きいAIが登場するのであれば、ベースとして以下の欲求を与えてはどうかと個人的に考えています。
もちろん、これらに関してはさらなる議論が必要なのは言うまでもありません。
Udemyで「脳科学とAI」のコースを制作予定なのですが、それに先立ち脳の模型を購入しました。
素敵な、実物大の脳模型がやって来ました。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) 2019年4月8日
ワクワクが止まりません。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) 2019年4月8日
人体模型で有名な、ドイツの3Bサイエンティフィック社製です。
色までリアルにしてしまうと脳の模型は生々しすぎるのですが、カラフルに色分けがされていて見栄えもいい感じです。
8つに分解できて脳の各部位を確認できるので、暗記の苦手な私でも脳の各部位を覚えられそうです。
ニューラルネットワークに学習させるための手法として、もっとも代表的なものは誤差逆伝播法（バックプロパゲーション）です。
しかしながら、バックプロパゲーションは動物の神経系とはかけはなれています。
正直、ニューラルネットワークは神経系をとても上手く抽象化てきているように思える。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) 2019年3月14日
しかしながら、バックプロパゲーションはそうではない。
今のところ、脳で一層ずつ情報の逆伝播が起きている証拠は見つかっていないのだ。
また、時系列データを扱う際は、時間を遡ってパラメータを修正する必要があるため、以前の時刻のデータを保持する必要がある、という問題点もあります。
以下に、これまでに提唱されているバックプロパゲーションに代わるアルゴリズムをいくつかリストアップします。
T. Lillicrap et al.,“Random synaptic feedback weights support error backpropagation for deep learning”, Nature Communication 7, 2016.
A. Nokland et al.,“Direct Feedback Alignment Provides Learning in Deep Neural Networks”
M. Jaderberg et al.,“Decoupled Neural Interfaces using Synthetic Gradients”
Y. Bengio,“How Auto-Encoders Could Provide Credit Assignment in Deep Networks via Target Propagation”
D. Lee et al.,“Difference Target Propagation”
この中でも、特にDirect Feedback Alignmentは誤差から直接各層のパラメータを修正するため、小脳のモデルとしても有望に思えます。
バックプロパゲーションが高機能すぎるため現在の人工知能の主流となっていますが、今後より汎用的な人工知能を目指すのであれば、それに頼りすぎずより動物らしい知能を追求するのも大事に思えます。
「意識」について考察した一連のツイートです。
人工知能の究極の目的は、「人工意識」なのかもしれません。
進化は最適なルートを通らない（そもそも最適なルートを定義できない）。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) March 22, 2019
増築を繰り返した建物のようなものなので、ヒトの神経系は技術的負債が貯まっているはず。
人工知能が脳よりも有利なのはその点かも。
生物の神経系は複雑すぎるのでコンピュータで再現するのは難しい、という考えかたもありますが、逆に無駄が多いので複雑そうに見えるだけなのかもしれません。
大事なのは、知能の本質を捉えることですね。
コッホとトノーニの意識に対する考察は大変興味深い。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) March 23, 2019
神経科学の立場から、意識を持つ機械の判定基準を明らかにしようとしている。
「意識を持つ機械」が本当に意識を持っていることを、どのように判定したら良いのでしょうか。
チューリングテストなどは候補かと思いますが、それでもまだ不十分に思えます。
統合情報理論はリーズナブルに思える。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) March 23, 2019
ただ、現行のコンピュータには意識は宿らない、というトニーノとコッホの考えには納得がいかない。
現行のコンピュータに意識が宿せない、と断言するのは悪魔の証明なのではないでしょうか。
ヒトには可能だけど現行のコンピュータにはできない例として挙げている、”違和感”の検知は、既にディープラーニングで可能なように思える。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) March 23, 2019
異常検知は、まさにディープラーニングが得意としている分野です。
画像に対しても、それは適応可能なのではないでしょうか。
線虫のような原始的な生物の知能や意識は、極めて限られた環境にのみ適応している。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) March 23, 2019
これは、現行のAIが極めて限られたタスクしかこなせないのと同じではないのか？
現状のAIは極めて限られたタスクにしか対処できない、とはよく聞きますが、それは原始的な神経系を持つ動物に関しても同じです。
AIの進化次第で、汎用性を持つようになる可能性は否定できないかと思います。
脳のような並列処理とその統合は、CPUとGPUの組み合わせで実現できるのだろうか？
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) March 23, 2019
GPUは並列処理が得意で、CPUは直列処理が得意です。
これらを組み合わせれば、まさに脳のような処理ができるのではないでしょうか。
個人的に、神経系のある動物に死が存在するのは過学習のためと考えている。
— 我妻幸長@著書「はじめてのディープラーニング」発売中 (@yuky_az) March 23, 2019
ある特定の環境、時代に過剰適応してしまった個体は、別の環境や時代では有害となる。
老害となった個体がのさばり新陳代謝が行えないグループは、淘汰される運命に。
ネットワークが過剰に学習してしまうと、汎用性を失います。
環境が変化すると、そのような個体は有害となるため、淘汰する仕組みが必要です。
ジョブズも言っていましたが、「死」はとても有用なツールです。
