先週、AIスタートアップ業界の方々とご飯行ったときにお勧めされたことがきっかけで、「AI崩壊」という映画を観てきました。これまた、AIとアイデンティティの関わりや、技術周りの政治の在り方などについて考えさせられて、すごい衝撃を受けたので、書き留めておこうと思います。
※ ネタばれ注意
Summer WarsとInfernoを足したような映画
2009年のアニメ ”Summer Wars”の「テクノロジーが制御不能になり、日本の社会インフラが機能不全に陥る」というというストーリーに、ダン・ブラウンの小説 ”Infernno”の「人口を間引く」でいう概念を加えたような映画だと思いました。 ※ ”Summer Wars”は、前のブログ記事アニメで考えるテック業界の世界観分析しています。
Summer Warsとの大きな違いは、Summer Warsにおいては、社会的インフラを支えるシステムが機能不全に陥ったのに対して、AI崩壊においては、社会インフラを利用する人間の健康管理周りのシステムが制御不全になったことです。
例えば、「渋滞になって交通機関が止まる」という同じ現象でも、Summer Warsでは、信号やカーナビという社会基盤となっているシステムに異変が起きたことに対して、AI崩壊では、運転手のウェアラブル端末の信号を受信できなくなった車が、運転手が死んだとみなし、急停止をしたことで事故が相次ぎ渋滞になっています。 つまり、AI崩壊では、社会インフラに「人間」という要素が加わったのです。
ダン・ブラウンの小説Infernnoとの大きな違いは、Infernoは「ランダムに」人口を間引く仕組みを整備したのに対し、AI崩壊は「ソーシャルスコアリングによって」人口を間引く仕組みを構築しようとしました。
Infernoでは、死をもたらす遺伝子が全人類に埋め込まれ、3分の1の確率で発動しますが、AI崩壊では、所得などの金融情報・持病などの健康情報などのいくつかのパーソナルデータを元に、その人間を生かすべきか生かさないべきかをスコアリングして判断させています。
技術的な観点から観ると
アイデンティティ基盤無しに、AIだけでは作れない世界
一番初めに指摘したいのは、この映画で描かれている、各個人の健康状態に応じた医療がエンドツーエンドで提供され、室温調整から子育てまで生活全般が個人の健康状態に応じて行われるパーソナライズされた社会は、AIだけでは実現できません。AI以外の基本要素のひとつとして、AIの各個人への適用を可能にする強固なアイデンティティ基盤が必要です。
まず、パーソナルデータをAIで分析するためには、収集したパーソナルデータを各個人に紐づけて管理し、データベースに保存するインフラが必要です。 そして、このパーソナルデータを、国・病院・薬局・ウェアラブルデバイスなど、相当な数の組織やマシーンの間でやり取りし、AIが分析した結果を、意図された個人に確実に適用しないといけません。
これらの機能を実現するには、全国民規模で官民横断で認証・認可を実現できる洗練されたアイデンティティ基盤が必要です。
また、現在用いられているような中央集権型のサイロ化された管理方法では、1つのデータベースがハッキングされたときのリスクが高すぎますし、本人が自信に関する情報を好きに扱うことができないままです。 つまり、分散型のアイデンティティ基盤が特に魅力的なユースケースなのです。
マイクロサービスも必要？(←職業病)
マイクロソフトでITのインフラ側の知識が身についてきたせいか、各病院で各病気や各薬に応じてAIを適用するとなると、かなりの数のアプリを作り、アップデートしていく必要性が出てくるので、国規模でのマイクロサービスの構築も必要になってくるのではないか、というところまで考えてしまいました。
セキュリティの一番の脆弱性は信頼とヒューマンエラー
AIが崩壊したきっかけを作ったのは、悪意のある人間を信頼したことによるヒューマンエラーでした。「警視庁からのお願い」ということで、AIを管理するHOPE社の社長自らがAIのマルウェアが含まれているプログラムをAIに読み込ませてしまったのでした。
ヒューマンエラーにもっと対応できるような設計にするために、ゼロトラストの考え方が特に大事になってくるのではないでしょうか。
Deep Learningの次は何？
最近、大学向けのAIカリキュラム作成のお手伝いをしている関係でAIを猛勉強しており、現時点でのAIのケイパビリティは大体把握しているつもりです。なので、そもそもAIがこの映画で描かれているように暴走できるくらい進化するのってまだまだ先でしょー、と最初はのんきに観ていました。
しかし、「5年後のAIは写真の中のオブジェクトを特定できるように進化する」という予想が的中した、最近見た以下のAIマンガを思いだし、2030年にAIが暴走するケイパビリティを持つ可能性も否めないと思うとぞっとしてしまいました。
実際に、最近研究者界隈では、「Deep Learningの次のAIはなにか」という議論が始まっており、数年後にまた次のブレークスルーが期待されています。
政治的な観点から観ると
パーソナルデータを取り扱う法整備が無しに、AIだけでは作れない世界
映画の中では、医療AIに対抗する形で、全国民を監視・追跡可能な、行政側で作った捜査AIが出てきます。捜査AIの利用において疑問視すべきは、パーソナルデータの取り扱い方でした。 例えば、個人のデバイスや車に付属しているカメラを犯人を追跡するために稼働させたり、個人にまつわる情報を安全保障という目的で捜査に転用したり、と個人の承諾完全に無視した使い方になっていました。
AIにインプットするデータを決めるのも、アイデンティティを発行するのも、どのテクノロジーにおいても、信頼の根本(Root of Trust)は人間です。 その人間が動くフレームワークを定められるのが法なので、前述のような、ビッグデータの活用に依存したパーソナライズドな社会が来るのであれば、最新技術に適用したパーソナルデータを取り扱う法整備の重要性がわかっていただけると思います。
※ 別の機会にまた詳しく書くかもしれませんが、上記がまさに私が目指す大学の専攻をエンジニアリングから法・政治に変えた理由の一つです。
先日のブログにまとめた「アイデンティティの7原則」をアイデンティティ基盤の設計に確実に反映させることなどが最初のステップとしてふさわしいのかもしれません。
ちなみに、前のブログのCountdown to Zero Dayでも取り上げたように、アメリカ政府によるイランの原子力発電所を内部から破壊したサイバー攻撃が発覚した後に、この議論はアメリカでも起こっています。
今の日本の法としては、日本で大企業によるパーソナルデータの利活用が進んでいない理由の一つとして、利活用が個人情報保護法においてグレーゾーンである、と指摘される現状です。 ただ、行政と民間企業は異なりますし、法は施行されてから実際の使われるときの解釈にが大事なので、政府がパーソナルデータを本来とは別の目的で転用していないとは言い切れないですね。。
AIは仕事を奪うのか？どうすればいいのか？
気になったのが、映画が、エンディング含め、全体的にAIに対する否定的なイメージを植え付けるものになっていないかという点です。
AI賛成派・反対派の意見をバランスよく描き出すことは言論の自由という意味でも異論はありません。ただ、この映画では、AIが職業を奪うことに対する恐怖と、AIが制御不能に陥る可能性があることに対する恐怖、という本来は別の論点が混ざっていたことが心配です。 現在、求められているのは、正しい知識を基にした、国民間の健全な議論なのに、この映画が感情的な思い込みを増強してしまっては、元も子もありません。
個人的には、私たちが便利な生活を求めている以上、AIの利用が生活に浸透していくことは止められないと思っています。仕事を奪うという理由でAIの導入を阻むよりは、AIに代替された仕事に従事していた人をどうりスキリングし、AIを最大限に活用するためにどのような新しい職を生み出せばいいのかを議論したほうが建設的ではないでしょうか。
「AIが人を幸せにできるか」＝「親が子を幸せにできるか」？
映画の最後のキメ台詞は、「AIが人を幸せにできるか、という問いは、親が子を幸せにできるか、という問いに置き換えることができる」という要旨のものだったのですが、個人的に納得がいっていません。
（親が子を、そしてAIが人を）幸せにできるときとできないときがある、家族によって幸せの形が異なる、幸せにする義務がある、などいろいろ考えてみたのですが、いまいちしっくりこないのです。 この一言を読み解けた方がいれば、ぜひ教えてください。
少子高齢化どうするの？投げかけられている疑問
労働者人口が総人口の50%、子供は10%以下、40%以上が高齢者という社会でリソースを最適分配するために、スコアリングによる合理的な人口間引きを実施する決断に至った日本政府。
ある意味、映画製作者から国に対して、少子高齢化どうするの？本当に備えてるの？ソーシャルスコアリングという究極の手段を使ってまで解決するという事態にはならないよね？という不安をぶつけているようにも捉えることができるのではないでしょうか。
ちなみに、映画の中でAIはホームレス・テロリスト・過激派・デモの引率者など、社会の秩序を乱すような行動をとる人間を教師データにして人口間引きアルゴリズムを学習していましたが、実際にそのような行動をとる人間の間にどのような共通点があるのかは少し気になります。考え方としてのスコアリングによる人口間引きは、非倫理的だと思いますが。
女性総理
映画の中の総理が女性だったことに喜びを覚えたのも束の間、女性総理はあっさり暗殺されてしまいます。 せっかく女性の政治進出を描いたのに、これだと、暗殺される女性総理というネガティブなイメージがつき、暗に逆効果になってしまわないか、わたしは少し心配です。
些細ですが、突っ込ませてください
-
ほぼ死にかけて、お父さんに助けてもらって、最初に発する言葉が「汗臭い」ってどういうこと？これ、欧米の家族のとらえ方からすると、全く理解できません。
-
主人公のように24時間以内に警察庁のAIをハッキングして、警察庁のドローンシステムと配信システムもハッキングするのって現実的に無理ですよね？できたら、日本は最強のハッキング王国になりますね。
-
本当にHOPEみたいな医療AIを作り、厚労省の認可のもと、販売する会社が出てきたとしたら独占禁止法に引っかかりませんかね？それとも、半分国営化してしまうのでしょうかね？
-
テロリストなどからデータベースを守るのであれば、まずガラス以外の素材を使う気がします。そもそも、爆弾でも壊せないガラスってあるんですね。
-
男性俳優3人（賀来賢人さん・大沢たかおさん・岩田剛典さん）かっこよすぎ
終わりに
映画を見た帰り道、分散型アイデンティティが整備されている世界を、一生をかけてでもいいから作りたいと心から思いました。DevRelやってる暇ではないんだよな。
ちなみに、この映画が好きな人は、、前のブログで取り上げた、探偵AIのリアル・ディープラーニング、犯人ＩＡのインテリジェンス・アンプリファー―探偵ＡＩ ２の2冊のSF小説も好きだと思います。