とある哲学の問題にトロッコ問題（トロリー問題）というのがあって、ついにこれを解決しないといけない時代が到来しました。

トロッコ問題とは、「ある人を助けるために他の人を犠牲にするのは許されるか？」という形で功利主義と義務論の対立を扱った倫理学上の問題のこと。

トロッコ問題の要約

線路を走っていたトロッコがあって、トロッコには運転手が１人乗車しています。
走行中、ブレーキがかからなくなってトロッコが制御不能になりました。
トロッコの運転手が前方を確認すると５人の作業員がこちらに気づかず線路上で作業をしているのが見えた。
このままでは５人を轢いてしまうことに…
でも運転手は５人がいる地点よりも手前の位置にトロッコが曲がるための分岐点があることに気が付いた。
そこで曲がれば前方にいた５人は助かることになる。
でも運転手は、その分岐点の先にも１人の作業員が線路上で作業していることに気づいてしまった。
つまり、分岐点で曲がってしまうと前方にいた５人は助かるけど、代わりに曲がった先にいる１人はトロッコに轢かれてしまうことに…
この状況で、どうするのが正解なのか？って問題

思考実験

トロッコ問題は思考実験の１つでしかありません。
簡単に言い換えると、ある人を助けるために他の人を犠牲にするのは許されるのか？という倫理的な問題。
そのままトロッコを進めれば５人が死んでしまうけど、その５人の命を救うために別の１人の命を犠牲にしてもかまわないのか？ってこと。
このトロッコ問題は、長い間多くの人の頭を悩ませてきたのですが、実は正解なんてありません。

５人を轢くと判断をする人

感情を優先する人は、こっちになりやすいのかもしれません。
トロッコを動かしてしまうと、自分が１人の人を殺してしまうような気分になると考える。

１人を犠牲にする人

理論的に判断する人は、こっちになるのかもしれません。
社会的な有用性や利益を考えれば、１人より５人を助けるべきだと考える。
１人より５人のほうが命の価値が大きいって考えるパターン。

他の似た問題（臓器くじ）

病院に、誰かに臓器移植をしてもらわなければ命が助からない５人が入院していました。
この５人に必要な臓器は、それぞれ別の部位。
この時、国民の中からランダムに選ばれた健康な人の臓器を全て取り出し、５人に臓器移植を行う。
つまり、健康な人１人の命を使って、５人の命を救うってこと。
はたして、こんな制度が存在してもいいのか？って問題

考える必要がないとされた問題

多くの人を助けるために少数の人を殺すことは許されるのか？という問題
直接的に人を殺すって考えると、そんな制度は許されませんが、結局は想像の問題で、こんな場面に直面することなんて普通はありません。
仮に直面したとしても、そこで正確に判断する時間もないだろうし、こんな問題は考える必要がないようにも思える。

正しい正解が必要

ＡＩの普及や車の自動運転なんかに伴って、実際にトロッコ問題のような決断を迫られる可能性が出てきました。
特に直近では、自動車の自動運転ではこれらの判断が必要になると考えられます。
いずれはＡＩの自動運転によって、目的地まで自動でたどり着けるようになります。
この自動運転が実現するにあたって、実はトロッコ問題に正しい正解を考えなくてはいけなくなりました。
トロッコ問題と同じ状況に直面したとき、人間なら判断できなくてもＡＩならどのような状況でもプログラムにのっとって一瞬で正確な判断を下します。
つまり、このような場面に直面した場合、どちらの命を助けるべきかを、あらかじめ設計者が決めておかなければならないのです。

どっちのバイクに追突するか？

自動運転車が道路を走行中、後続車に猛スピードで追突されて押し出されてしまったとする。
その前方にはヘルメットを被ったバイクとヘルメットを被っていないバイクが走ってたとする。
もしも、自動運転車がこのバイクのどちらかに追突しそうなとき、一体どっちにハンドルを切るのが正しいのだろうか？って問題
ヘルメットをしているほうが事故にあっても生き残る確率が高いと考えるからって、安全対策をしている側にハンドルを切ったとすると、ルールを守ってヘルメットを被った人のほうが危険な目にあってしまうことになります。
安全対策をすればするほど自動運転車に追突されるという変な事態を生むことになります。

パラドックスみたいなややこしい話

自動運転車が一本の橋を渡っている時、道路の真ん中を歩いている数人の歩行者に追突しそうになったとする。
自動運転車は、そのまま歩行者に追突するか、それともハンドルを切って自ら橋の上から落下するのかの選択があるとすると、この時に自動運転車にはどう判断させるのか？って問題
数人の人に追突するのか、自分一人が犠牲になるのかってことです。
助かる命の数を考えると、自動運転車が橋から落下したほうがいいとも思うけど、こんな状況に直面した時に自爆を選んでしまうような自動運転車には誰も乗りたくないはず。
いざとなったら自分の命を捨ててしまうような車に自分の命を預けられるはずがありません。
選ぶ選択は公平であってほしいと思いますが、公正に判断して自殺する自動運転車には乗りたくないですよね。
車を買う側からの視点だと、運転者を守る車に乗りたいと思うのかもしれませんし、販売する側も、運転者の安全を優先するようになっていくと思います。

モラルマシン

マサチューセッツ工科大学では、研究チームが「モラルマシン」というサイトを作り、トロッコ問題を自動運転車に応用した思考実験の調査が行われています。
このサイトでは、トロッコ問題のような状況に陥った場合、一体人はどちらを助け、どちらを犠牲にするのかを調査するために、いくつかのシチュエーションについて人がどう判断するのかのアンケートを取っています。

さいごに

自動運転車を実現するためには、トロッコ問題と似たような問題をたくさん考えなくてはいけません。
トロッコ問題は意外と現実的な問題だったんです。
結論を出すには、まだまだ研究段階ですが、どうするべきかは少しずつ研究が行われています。