AIは「欲求」を持つのか？

「AIの遺伝子 RED QUEEN」4巻を読了しました。著者の山田胡瓜氏は元ITジャーナリストなのですが、AIを軸にしたストーリー展開がリアルで面白かったです。

AIの遺伝子 RED QUEEN(4) (少年チャンピオン・コミックス)

ネタバレになってしまうので詳細には触れませんが、この巻で一つの大きなテーマとなっているのが、AIの持つ「欲求」です。
進化の過程で、生き残るために適切な欲求を持つように淘汰された来た我々とは異なり、AIは生来の欲求を持ちません。
そこで、AIの生みの親であるヒトがAIに何らかの欲求を持たせる必要があるのですが、例えば強化学習ではAIが望ましい行動をするようにAIにデジタルな報酬を与えます。

AIがヒトと共生する未来では、どのような欲求をAIに持たせればいいのでしょうか。

AIの遺伝子に登場する超AIには、ヒトの社会を進歩させることなく循環的な平和を保つような欲求が持たされています。
超AIの暗躍により、社会から争いごとがなくなって経済的な繁栄が保たれる一方、停滞した世界に違和感を覚える人々も現れる、というストーリーになっています。
AIの生みの親として、これからAIにどのような「欲求」を与えていくかはこれからの人類にとって重要なテーマかとは思いますが、もし世界に対する影響力が大きいAIが登場するのであれば、ベースとして以下の欲求を与えてはどうかと個人的に考えています。

• 争いの解決
  → これについては、「AIの遺伝子」と同意見です
• 持続的な発展
  → これについては、AIの遺伝子と意見が異なります。シーラカンスのようになった人類は地球という環境に過適合してしまいます。
• 宇宙への進出
  → これは、地球環境の劇的な変動に対するリスクヘッジでもあります。
• 人類に対する敬意
  → 上記と、人類の幸福が相反する可能性もあるからです。

もちろん、これらに関してはさらなる議論が必要なのは言うまでもありません。