2030年の近未来を描いた作品です。国民の多くが利用する医療AI「のぞみ」が何者かによってハックされ、命の選別を始めようとする話です。
AI「のぞみ」のプログラミングした天才 桐生浩介の過去に何があったのか?なぜ、AIが命の選別を行おうとするのか?この辺りを中心に書いていきます。
映画予告はこちら。
ネタバレ感想とか
以下はネタバレを含みます。
桐生浩介の過去に何があったか?
桐生浩介は、HOPEで社長を務める西村悟の義兄です。
また、東北先端大学大学院ではAIの研究をおこない、AI分野での第一人者です。この人は圧倒的な天才で、AIの「のぞみ」を作り上げる。
この「のぞみ」という名前は、浩介の妻である桐生望(西村悟の姉)の名前からとっている。
なぜ「のぞみ」を作ったか?
桐生望は乳がん(ステージⅢ)で、だんだんと体調が悪くなっていく。
桐生浩介は妻を救うため、医療AIを開発しようとする。「分子標的治療」により、がん細胞のみを破壊する新薬を、ディープラーニングによって探すためである。要するに、「のぞみ」を作った理由は
妻のがん細胞を壊す新薬を探すため
です。桐生浩介は天才的な研究者・プログラマーであったため、桐生望の生きているうちに「のぞみ」を作り上げます。
*分子標的治療:正常細胞を壊すことなく、特定の細胞を狙い撃ちして壊す治療
なぜ新薬を作らなかったか?
「のぞみ」による新薬探索のためには、膨大なデータや文献が必要であるが、各方面の協力もあり集めることができます。そして、ある日
がん細胞を壊す新薬の構造式を見つけられた
のです。
しかし、この新薬を創成するために、法整備の問題やAIにより職の奪われる薬剤師などの問題があり国に反対されます。
とくに、のちに総理大臣となる、AI導入保守派の田中英子によって反対されます。
法律と人の命
西村悟は、桐生浩介に法律を破ってでも新薬を作るべきと訴えます。要するに、姉の命を見捨てて法律を守ることを優先すべきではないと言います。
それでも、桐生浩介は法律を守り、結局 桐生望は亡くなってしまいます。
桐生望の選択
桐生浩介も実は新薬を作ろうとしたが、桐生望に止められた。
桐生望は、AI「のぞみ」もまた自分の子供だと考えていました。そして、その子供に悪いことを教えると、将来的に「のぞみ」が悪いAIになってしまうのではないかと考えました。要するに
法律を破る悪いことを「のぞみ」に教えるな
ということです。AIの機械学習で必要な教師データに倫理的に悪いデータを用意することに反対したのです。
この桐生望の気持ちを尊重して、桐生浩介は新薬を作らない選択をしました。
そして、桐生望の思いを継ぎ、「のぞみ」を医療AIとして人の役に立てるようにしました。したがって、「のぞみ」が命の選別をおこなうと知ったときはショックを受けます。
なぜAIが暴走したか?
誰が暴走させたか?
警察庁の桜庭理事官もまたAI研究者のひとりです。彼は警察側でAIを利用し、「百眼」と呼ばれる監視システムをつくります。
そして、桜庭が「のぞみ」を暴走させ、犯行を桐生浩介になすりつけようとします。そして、「百眼」によって桐生浩介を追い詰めてきます。
何のために暴走させたか?
桜庭の1番の動機は、AIにより人間を選別することでしょう。そして、少子高齢化による日本の末路を憂えて、人を殺していくことでしょう。
「のぞみ」が必要であったのは、「のぞみ」が国民の多くのデータを持っているためです。膨大なデータをAIによる人間の価値判定(余命価値)に使うつもりでした。
どのようにAIを暴走させたか?
桐生浩介が関わっているため、AI「のぞみ」のセキュリティは完璧です。したがって、ネットワークからの侵入は不可能です。
そこで、桜庭は検査プログラムと騙して、西村悟に非接触メモリを「のぞみ」に読み込ませた。そしてバックドア(ファイアウォールを無視できる裏口のようなもの)を作る。
桜庭はこのバックドアから、「のぞみ」を暴走させたのである。
いくつかの伏線/その他
冒頭での西村の挙動、自動運転時のホログラム、タバコと喫煙所などいくつか伏線がありますね。
西村悟の挙動
冒頭部分で、社長室の西村悟が怪しい行動をとります。これによって一連のAIの暴走が、西村による犯行かもしれないと思わせます。
さらにメモリを「のぞみ」に読み込ませているところも、監視カメラにバッチリ写っているため、「あぁ、犯人だったのね」と思わされます。
結局のところ、社長室の不審な挙動は「ビデオレターの撮り直し」であったし、メモリの読み込みについては桜庭に騙されていただけ、だということでした。
この西村悟という人物は、本作で最も人の良い人物だと思います。撃たれて死んでしまうのが惜しいですが…。
喫煙所とタバコ
HOPE内で唯一の喫煙者である飯田が、前半で前川がタバコ吸わないように喫煙所を監視していると言うシーンがあります。頭の片隅にはあったのですが、これが桜庭に関係するとは思わなかったです。
飯田と桐生浩介の出会い時にも、桐生浩介が「タバコの匂いに敏感である」ことが描写されていますね。これも後々、桐生浩介が「桜庭が喫煙者である」と知る伏線になります。
そして、喫煙者であることと喫煙所のゴミから、桜庭が西村にメモリを読み込ませているときにHOPE社にいたことがバレてしまいます。
この物語で、タバコは重要な役割を果たしています。桜庭を除けば、本作の喫煙者はほとんど良い人でした。
その他
思ったことがあれば追加していきます。
メデューサの鏡
桐生浩介が桜庭を追い込むために閃いた「メデューサの鏡」は以下の2つです。
思ったこと
- 非常時に「のぞみ」の部屋に全く入れないのはどうかしてる。
- 西村悟は桜庭に渡された修正プログラムを確認したほうがよかったのではないかと。それか一ノ瀬あたりに相談したほうがセキリュティ面でいいと思った。
- 桜庭小部隊CITE, 麻生は洗脳されているか良いとして、望月は桜庭の犯行だと分かったときに、なぜ桜庭側についたのか。
コメント