人工知能が最後まで奪えない仕事は「意思決定」である？

私は「人工知能は、人間の良き道具であるべきだ」という立場をとります。

人間が第一であり、AIには支配させたり重要な決定権を任せるべきではない。

だから、私はAIの議論では、哲学と倫理を重んじています。

AIに対する人間最後の砦は意思決定？

そこは人工知能の側の問題というよりは、人間の美意識の問題なんですね。次に指す手を選ぶというのは、美意識を磨くこととかなりイコールに近いものなんです。

羽生善治、AIとの歩み「棋士は存在価値を問われてる」 | R25

AIに対する人間最後の砦は、「意思決定」だと思います。

理由は次の通りです：

1. 技術を達成する前提として、「意思決定とは何か？」という哲学的な問題を解決する必要があること。
   • 厳密には「自由意志」という問題になります。
2. そもそも、人間はどうやって意思決定をしているのかが解明されていないこと。
3. 仮に技術的に意思決定が完璧にできたとしても、人はそれに反発するだろう（単純に「嫌」だろう）という予想。

このような理由で、他の「人間最後の仕事」と言われるものを差し置いて、「意思決定」が最後まで残るだろうと考えます。

AIは「今日の晩ごはん」でさえ決められない？

現代のAIでも「意思決定」がうまくいかないことは、「今日の晩ごはん」を決めるタスクでも言えてしまいます。

あるAIは過去の献立や身体・栄養状態などから、最適な「晩ごはん」を推薦できる。そして、AIが出した今晩の献立は「焼き魚定食」だ！

これは、一つの参考にはなるでしょう（推薦であれば、商業応用も既に沢山あります）。

しかし人間は「いや、今は魚の気分じゃないんだ！」と思ったりします。

AIは人間に対して「推薦」はできても、「意思決定」まではできない（人間がそれを許さない）のです。

それぐらい、「何かを決める」ということは奥の深い話であり、哲学でも「自由意志」という一大テーマとして未だに議論されています。

自由意志 - Wikipedia

---

（追記）

逆に、人間はどうやって「今日の晩ごはん」を決めているのでしょうか？

科学的には解明されつつありますが、まだAIが再現できる水準には至っていません。

ただ、人間はそこまで合理的に「今日の晩ごはん」を決めてないのでは？ということは、直観的には分かりそうです。

例えば、多くの人は「栄養価がこうだから…」「一週間の過去の献立はこうだったから…」とか人は深く考えずにメニューを決めているはずです。

（ただ、ざっくりと「体に良さそう」ぐらいなら普通に考えるでしょう。また、いわゆる「賢い主婦」とか栄養士さんならこのレベルで考えますが、少数派のはずです。）

強いて言うなら「昨日はカレーを食べたから、今日はカレーはやめとくか」ぐらいは考えるでしょう。

でも、カレーを食べたあとに「あっ、昨日もカレーだった！」なんてことは、人によってはよくやると思います。（少なくとも私はよくやります（笑））

このように、人間の意思決定は、案外合理的でないのです。

---

ビジネスや司法においてでも、極力最後まで合理的に決断を進めますが、「最後の一押し」は「えいやっ！」と非合理的に決めるしかないのです。

『シン・ゴジラ』でも、総理に対して「ご決断を！」「総理！」と全員が迫る場面がありました。

その段階で可能な限りの「合理的な推論」はやり尽くしてしまったので、あのように「総理の鶴の一声」が必要なのです。

そこには、「国民の安全」とか「国家のあり方」とか「人間の矜持」のような、総理の主観を入れなければなりません。だから、「人間の組織の長」として総理の存在意義や裁量権が（建前上は）あるのです。

行政システムとしては、「人間が独断する余地」を、どこかに残しておく必要があるのだと思います。

このような「非合理性」こそが、人間らしさの秘密ではないか？と私個人は思っています。

---

この辺の話に興味のある方は、ダニエル・カーネマンの『ファスト&スロー』を読むと面白いかもしれません。

ファスト＆スロー　（上）

ファスト＆スロー　（下）

人間は、AIが出した死刑判決に納得できるだろうか？

別の例として、このような思考実験を考えます。

---

死刑制度のある国で、ある司法用AIが開発された。 （死刑制度の是非は、ここでは考えません。）

仮定

そのAIは

• この国の全ての法令等を、文言通りではなく柔軟かつ妥当に解釈できる。
• 過去の判例データベースを適切に検索し、必要に応じて適切に引用できる。
• 上記の法令等と過去の判例から、人間の裁判官と同程度に妥当な判決を出せる。

問題

問題は次の場面です。

あなたは、刑事事件で死刑を求刑されている。 同時に、司法用AIの運用第1例でもある。

司法用AIは、検察側から見ても完璧かつ妥当な推論として、あなたに「死刑」を言い渡した。

あなたやあなたの弁護士は、はたしてそれに納得できるだろうか？

そして、その先の場合分けが重要です。

1. AIの結論は、人間の裁判官が参考にするのみである。判決は人間の裁判官が下す。
2. AIの結論は、ただちに正式な判決となる。その間に人間は関与しない。

さて、どう思うか？

まず、すごく素朴な感情として、2は嫌じゃないですか？

なぜなら、人間でない人工物に、自分の生死が委ねられるからです。

それは、例えるなら「会社に生死を委ねる」「飛行機に生死を委ねる」「原発に生死を委ねる」感覚に近いです。

「自分たち人間が制御できない人工物に、生死を委ねるべきではないのでは？」

このような倫理学の問題に帰着すると、私は考えます。

なので、私の予想としては、たとえ裁判官も検察官も弁護士もAIを活用する時代になったとしても、「形式や芝居としての人間による裁判」は、最後まで残るのではないか？と予想しています。

---

このように、どんなにAIが発達しようとも、「意思決定」は「人間の矜持」として最後まで残るのではないか？

（逆に、もしAIが「人間の意思決定」を奪いに来る事態になったら、それは全力で阻止するべきでは？）

それが、私の主張です。

藤原 惟

---

追記

はてなブックマークより。

むしろ意思決定こそAIに任せる方向に進むと思うけどな。というか、一見自分で意思決定しているようで定められた方向に誘導される的な感じだろうか（レコメンドエンジンめいて）。現時点でもそういう傾向はあるだろ。

id:wwolf のコメント / はてなブックマーク http://b.hatena.ne.jp/entry/299213058/comment/wwolf

この意見は取り上げておきたいです。

言い換えると、「人間には自由意志なんて、あってないようなもの（もしくは全く存在しない）」という立場とも言えるかもしれません。

Twitterにおいても、ある方が「IoT（＝人工知能）が意思を持ち、スマートフォンなどのデバイスを経由して人間を操る」というシナリオを提唱されています。

例えば、現時点でも「Googleマップ（乗り換え案内）をハックすれば、山手線内の任意の場所に人間を集められる」という仮説を立てられます。

その意味では、先のはてブの意見は無視できないと思います。