全自動運転自動車が持つという道徳的ジレンマが、最終的な完全な全自動運転の普及にストップを掛けていた。俗にいう「トロッコ問題」である。

トロッコ問題とは、

「ある人を助けるために他の人を犠牲にするのは許されるか？」

という問題で、イギリスの哲学者フィリッパ・フットが提起した倫理学の思考問題である。

これは、ハーバード大学教授のマイケル・サンデルによるハーバード白熱教室（Justice with Michael Sandel）という番組で世間にも広く知られるようになった。その中で

「あなたは路面電車の運転手である。ブレーキが故障して止まれなくなった。そして前方の線路上には5人の労働者がいる。隣の待避線には1人の労働者がいる。いま使えるのはハンドルだけだ。さて、道徳的に正しい選択は?」

という問いかけをしている。これは「法的」ではなく「道徳的」に正しいということなので、絶対的な回答はない。

ところが、この問題を人を含む「価値」の計算によって解決することが国際会議で2025年に決定され、その後はトロッコ問題は生じないという立場になっている。この価値の判定は「格付 (Rating)」と呼ばれ、新たに設立された格付会社によってスタートされた。

設立当初は欧米系の格付会社から人が派遣され運用されていたが、複雑で膨大な変数を取り扱う為、次第に IT会社手動となった。その後、遺伝子解析組み込まれるようになったため、大手製薬会社の研究機関からの人員が参画するようになり、組織も巨大になってしまい、維持コストが世界的な問題となって来た。そのうちにAIベンチャーが画期的なディープラーニング機能を備えたしすてむを開発することにより、人が介在しないシステムとなった。

今日では、武装したセキュリティロボット群の中にメンテロボットがいるだけの無人のサーバー群がこの役割を負っている。

※この物語はフィクションです。登場する人物・団体・名称等は架空であり、実在のものとは関係ありません。