高度な自律性を持つＡＩやロボットが出現したあかつきには、意識や責任、創造などの根源的な問いに誰しも直面せざるを得なくなる。そうした未来はあっという間に訪れる可能性もあるので、今から準備的に議論しておく必要がある。今のＡＩは人間に与えられた欲望しか持ち得ない。だが、報酬系自体をニューラルネットワークによって構成し、報酬をダイナミックに変更させることができたら、人間が与えた以上の欲望を持てるようになる。そうなると、機械の暴走や反乱といったＳＦ的な危険が現実的な問題となる。もはや、哲学的議論を抜きにＡＩは語れない。これは技術的な問題であるばかりでなく哲学的な問題でもあるのだ。