考え方

人工知能はトロッコ問題をどう解決するのか?

人工知能はトロッコ問題をどう解決するのか?

とある哲学の問題にトロッコ問題(トロリー問題)というのがあって、ついにこれを解決しないといけない時代が到来しました。

トロッコ問題とは、「ある人を助けるために他の人を犠牲にするのは許されるか?」という形で功利主義と義務論の対立を扱った倫理学上の問題のこと。

トロッコ問題の要約

線路を走っていたトロッコがあって、トロッコには運転手が1人乗車しています。
走行中、ブレーキがかからなくなってトロッコが制御不能になりました。
トロッコの運転手が前方を確認すると5人の作業員がこちらに気づかず線路上で作業をしているのが見えた。
このままでは5人を轢いてしまうことに…
でも運転手は5人がいる地点よりも手前の位置にトロッコが曲がるための分岐点があることに気が付いた。
そこで曲がれば前方にいた5人は助かることになる。
でも運転手は、その分岐点の先にも1人の作業員が線路上で作業していることに気づいてしまった。
つまり、分岐点で曲がってしまうと前方にいた5人は助かるけど、代わりに曲がった先にいる1人はトロッコに轢かれてしまうことに…
この状況で、どうするのが正解なのか?って問題

思考実験

トロッコ問題は思考実験の1つでしかありません。
簡単に言い換えると、ある人を助けるために他の人を犠牲にするのは許されるのか?という倫理的な問題。
そのままトロッコを進めれば5人が死んでしまうけど、その5人の命を救うために別の1人の命を犠牲にしてもかまわないのか?ってこと。
このトロッコ問題は、長い間多くの人の頭を悩ませてきたのですが、実は正解なんてありません。

5人を轢くと判断をする人

感情を優先する人は、こっちになりやすいのかもしれません。
トロッコを動かしてしまうと、自分が1人の人を殺してしまうような気分になると考える。

1人を犠牲にする人

理論的に判断する人は、こっちになるのかもしれません。
社会的な有用性や利益を考えれば、1人より5人を助けるべきだと考える。
1人より5人のほうが命の価値が大きいって考えるパターン。

他の似た問題(臓器くじ)

病院に、誰かに臓器移植をしてもらわなければ命が助からない5人が入院していました。
この5人に必要な臓器は、それぞれ別の部位。
この時、国民の中からランダムに選ばれた健康な人の臓器を全て取り出し、5人に臓器移植を行う。
つまり、健康な人1人の命を使って、5人の命を救うってこと。
はたして、こんな制度が存在してもいいのか?って問題

考える必要がないとされた問題

多くの人を助けるために少数の人を殺すことは許されるのか?という問題
直接的に人を殺すって考えると、そんな制度は許されませんが、結局は想像の問題で、こんな場面に直面することなんて普通はありません。
仮に直面したとしても、そこで正確に判断する時間もないだろうし、こんな問題は考える必要がないようにも思える。

正しい正解が必要

AIの普及や車の自動運転なんかに伴って、実際にトロッコ問題のような決断を迫られる可能性が出てきました。
特に直近では、自動車の自動運転ではこれらの判断が必要になると考えられます。
いずれはAIの自動運転によって、目的地まで自動でたどり着けるようになります。
この自動運転が実現するにあたって、実はトロッコ問題に正しい正解を考えなくてはいけなくなりました。
トロッコ問題と同じ状況に直面したとき、人間なら判断できなくてもAIならどのような状況でもプログラムにのっとって一瞬で正確な判断を下します。
つまり、このような場面に直面した場合、どちらの命を助けるべきかを、あらかじめ設計者が決めておかなければならないのです。

どっちのバイクに追突するか?

自動運転車が道路を走行中、後続車に猛スピードで追突されて押し出されてしまったとする。
その前方にはヘルメットを被ったバイクとヘルメットを被っていないバイクが走ってたとする。
もしも、自動運転車がこのバイクのどちらかに追突しそうなとき、一体どっちにハンドルを切るのが正しいのだろうか?って問題
ヘルメットをしているほうが事故にあっても生き残る確率が高いと考えるからって、安全対策をしている側にハンドルを切ったとすると、ルールを守ってヘルメットを被った人のほうが危険な目にあってしまうことになります。
安全対策をすればするほど自動運転車に追突されるという変な事態を生むことになります。

パラドックスみたいなややこしい話

自動運転車が一本の橋を渡っている時、道路の真ん中を歩いている数人の歩行者に追突しそうになったとする。
自動運転車は、そのまま歩行者に追突するか、それともハンドルを切って自ら橋の上から落下するのかの選択があるとすると、この時に自動運転車にはどう判断させるのか?って問題
数人の人に追突するのか、自分一人が犠牲になるのかってことです。
助かる命の数を考えると、自動運転車が橋から落下したほうがいいとも思うけど、こんな状況に直面した時に自爆を選んでしまうような自動運転車には誰も乗りたくないはず。
いざとなったら自分の命を捨ててしまうような車に自分の命を預けられるはずがありません。
選ぶ選択は公平であってほしいと思いますが、公正に判断して自殺する自動運転車には乗りたくないですよね。
車を買う側からの視点だと、運転者を守る車に乗りたいと思うのかもしれませんし、販売する側も、運転者の安全を優先するようになっていくと思います。

モラルマシン

マサチューセッツ工科大学では、研究チームが「モラルマシン」というサイトを作り、トロッコ問題を自動運転車に応用した思考実験の調査が行われています。
このサイトでは、トロッコ問題のような状況に陥った場合、一体人はどちらを助け、どちらを犠牲にするのかを調査するために、いくつかのシチュエーションについて人がどう判断するのかのアンケートを取っています。

さいごに

自動運転車を実現するためには、トロッコ問題と似たような問題をたくさん考えなくてはいけません。
トロッコ問題は意外と現実的な問題だったんです。
結論を出すには、まだまだ研究段階ですが、どうするべきかは少しずつ研究が行われています。


follow us in feedly

ブログ記事を応援してくれる方はポチッっと下のボタンを押してね

そして、この記事をツイッター投稿してくれるなら下のボタンを押してね

特売の卵が安い理由前のページ

海外との直接取引で注意すること次のページ

関連記事

  1. 考え方

    本の紹介「あなたの体は9割が細菌」

    抗生物質は、人類にとてもいい影響を与えました。でも、そのデメリットも知…

  2. 考え方

    家族が末期癌になったときの話 4

    癌になった家族にできることは、何があるのでしょうか。私なりによく考えて…

  3. 考え方

    髪は死んだ細胞の集まり

    トリートメントのCMなどでは、髪の毛が修復するようなイメージで宣伝して…

  4. 考え方

    ダイオキシンは、そんなに有害じゃない

    善:「じゃぁ、俺がよく行っている、焼き鳥屋って、どうなるんやろう」瀧 …

  5. 考え方

    コピノ(Kopino)とは

    コピノ(Kopino)とは、韓国人(Korean)とフィリピン人(Ph…

  6. 考え方

    寂しいと感じる理由

    寂しいと感じるのは「自分が誰かにとって必要な存在だと思えない」から。…

役に立つ記事

気になる記事

笑える記事

PAGE TOP