アニメで考えるテック業界の世界観

最近、世界観について話しているときにSummer Warsという映画の話になって、久しぶりに見直してみようと思ったら、もうね、バーチャルに、セキュリティに、AIに、倫理観に、いまテック業界周りで盛り上がっている要素が盛りだくさんすぎて興奮したので、書き留めておこうと思います。

#書き上げて思うのは、私の脳内の点と点の結び付け方が可視化されている気が、、 Summer wars

私のビットが立ったテック業界に関連する論点

人々は、インターネット上の仮想世界“OZ（オズ）”上のアバターで、ショッピングからゲーム、各種のコミュニケーション、そして行政手続きに至るまで、実生活の多くを行うようになっている。 → これ、現実とバーチャルの融合、アイデンティティ、電子政府のお話 .
強固なセキュリティで守られているはずだったOZの世界だが、セキュリティへのキーを握る暗号が破られ、侵入者が全部コントロールできるようになってしまった → これ、セキュリティ、暗号化、中央集権型管理のお話 .
侵入者は人間ではなく、Hacking AIだった。公共交通機関をマヒさせたり、偽救急アラートを出したり、実世界にカオスを作り出したのは、悪いことをしたいからではなく、ゲーム感覚から → これ、AI、シンギュラリティのお話 .
これは、アクシデントではなく、米国のペンタゴンが日本人の研究者からHacking AIを買収する前のテストとして実証実験を行っていた。ただ、実証実験中にAIの制御が利かなくなってしまい、ゲーム感覚のAIは、衛星を原子力発電所に落とそうとプログラミングした → これ、政府による監視社会、実証実験の実生活への影響、国家間の技術移転(Technology Transfer)のお話

＃本当に私のビットが立ったところ(バーチャル、セキュリティ、AI、倫理観など)のみを議論していくので、声優さんとか主題歌とか柔らかめの説明をお読みになられたい方は、いろんなまとめサイトがあるのでそちらをお読みください。

ちなみに日本語の要約は人間関係・恋愛的な一面が強調されるものがほとんどである中、一番最初に出てくる英語のあらすじは以下のように私が注目した本質を捉えていて、うなされました。

A young math genius solves a complex equation and inadvertently puts a virtual world's artificial intelligence in a position to destroy Earth.

興奮：この映画を2009年に作った日本人はすごい

『時をかける少女』などで有名な細田守監督による映画で、第33回日本アカデミー賞最優秀アニメーション作品賞を受賞した名作なのですが、2009年にテック業界を騒がす課題をこんなにふんだんにもりこんだ映画を作れる日本人はやっぱりすごいですよ！！

だって、ブロックチェーンの論文が発表された2008年の翌年だし、エドワード・スノーデンがNSAによる国際的監視網（PRISM）の実在を告発した2013年以前だし、AI倫理が本格的に騒がれ始めた2016年以前だし！

自衛隊が米国政府と連絡を取っていたり(安全保障)、みんなガラケーなのに、AIを作った日本人研究者のみスマホだったり(テック業界とその他の業界の収入格差)、細かいところまで考えこまれてますし！

論点①：アイデンティティ、電子政府、現実とバーチャルの融合

映画の中では、OZの世界のアバターで実生活のサービスが利用できます。つまり、アバターが自身のデジタルアイデンティティなのです。

実世界とつながったSecond Life、アバター要素が加わったエストニアの電子政府をイメージしてもらえるといいかもしれません。

ただ、実生活のサービスには行政手続きに限らず、ショッピング、ゲーム、コミュニケーションなどあらゆるものが含まれているので、一つのアイデンティティにこれらすべてが結びついているという意味では、エストニアの電子政府を超える官民連携ですよね。

今まで私が一か所に個人データを集めるという議論をしていたときは、なんとなくプラスチックのカードやスマホアプリを想像していたのですが、アバターってありだなと気づかされました。

もっと言うと、サービス利用時の認証をアバターで置き換えたり、ゲーミフィケーションするのもありだなと思ったり。映画では、アバターにアクセスするのにはパスワードが要りますが、そのあとは認証済みという扱いだったのですが。

先月のシリコンバレーのInternet Identity Workshopでもブロックチェーンの秘密鍵をゲームを通して管理するソリューションを作っているスタートアップがいました。アイテムを特定の個人にしかわからない順番で収集するというゲームをプレイすることがパスワード代わりになったり、秘密鍵のリカバリーに使えたりするのです。

欲を言えば、個人が自身のデータを透明性をもって管理できるというところまでの発想がなかったのは惜しかった。

現実とバーチャルの融合については、どこまでが実生活での出来事で、どこまでがバーチャルの中の出来事なのかを人間が明らかに困惑しているシーンが印象的でした。

これは、ゲーム的な、自分がどっちの世界にいるのかがわからなくなる、といった一面だけではなく、発電所、消防署、公共交通機関など身の回りのインフラがどこまで人間に、どこまで機械で自動で制御されているのかという一面もあるのかと。ここら辺は、Stuxnetという、USがイランの核施設に送りこんだスパイウェアからも浮かび上がってきます。

実生活の人間の感情がそのままアバターに伝わっていたりと実現まで時間がかかりそうな部分もありましたが(脳波とかでできるのかしら)。

論点②：セキュリティ、暗号化、中央集権型管理

高校生にも破られる暗号だったのは置いといて、数十億人のアイデンティティを一つのセキュリティセンターで管理していたという中央集権型モデルの弱さを視聴者に感じてほしい。

ここまで脆弱なシステムは少なくとも先進国にはもう残っていないと信じたいけれど、分散型の方がセキュリティが高いといわれるのを直感的に理解できるのかなと。分散型といっても何を分散させるかなどでいろんなパターンがあるので、そこはまたそのうち書きます。

ちなみに、ゼロトラストネットワークの考え方とかの重要性まで考えがめぐった私w

ブロックチェーンの要素技術の一つは暗号化技術。そのため、今は改ざんができないと言われていますが、スーパーコンピューターなどの計算能力が上がれば、破られるでしょう。破られない暗号はないので。

この映画のポイントが、アカウントが乗っ取られたことにあったので、そこらへんは、生体認証とか入れて強固にできるかも。そんなことしたらこの映画が成り立たなくなりますが

論点③：AI、シンギュラリティ

AIと人間の付き合い方に関して数点。

大枠の個人的な見解は、アクセンチュアのHuman + Machineの考え方に影響を受けていて、人間の能力をAIが拡張するパターンと、AIがメインで人間が最終決定をするパターンが両極端だとしたときに、その間のSpectrumに分布している認識です。

最近、シンギュラリティが来ると信じている人と議論をしたときに、私の中でまとまった考え方は、よく映画で描かれるような全面的なシンギュラリティは来ないと思うけれど、上記のSpectrumのように、シンギュラリティに極端に近づく業界は出てくるのは否定はできないかなと。

シンギュラリティ（技術的特異点）とは、人工知能が発達し、人間の知性を超えることによって、人間の生活に大きな変化が起こるという概念を指します。

この映画で、Hacking AIが強力になったきっかけがAIに「新しいを知識を求める知的好奇心を与えた」ことだったのは、知識の探求をこの上なく愛する知的好奇心の塊である個人としては、かなりビビっと来ましたね～現在AIの現在の発達段階や今後の進化は絶賛勉強中ですが、AIがこのレベルに来るのは相当時間がかかるという認識です。

AI倫理については、今、絶賛ハマり中のTools and Weapons: The Promise and The Peril of the Digital Ageという本でちょうどAI倫理の章を読んでいるので、また別途まとめます。

一つだけ補足すると、現在執筆している「人道支援プロジェクトがデジタルアイデンティティを導入するための技術的要件定義（仮）」というホワイトペーパーのディスカッションコールの時にもデジタルアイデンティティを構成する技術の倫理ってなんだろうという話にはよくなります。

Secure Identity Alliance Code of Conducのように既存の倫理的枠組みも多いので、各技術に特化した倫理ガイドラインがあるというよりは、横断的な倫理ガイドラインが必要というのが持論ですが。

論点④：政府による監視社会、実証実験の実生活への影響、国家間の技術移転(Technology Transfer)

エドワード・スノーデンが暴露した米国政府のよる監視網の実在に世界が唖然としたわけですが、大手テック企業のCEOが米国政府に監視プログラムの縮小を求めた際に、オバマ大統領は、「でも君たち(大手テック企業)の方がたくさんデータもっているでしょうう?そのうち風向き変わるよ」的な発言をしたとか（Source: Tools and Weapons: The Promise and The Peril of the Digital Age）

この映画だとOZという仮想世界で実証実験を行い、実世界と繋がっていたから大きな問題になったわけですが、実世界と繋がっていないが実世界と同じルールで機能し、人間が操作しているアバターが動く仮想世界での実証実験なら精度高く実験できるのではないかと思ったり。ただ、その場合は、仮想世界で起こったことに精神的ダメージを受けない人間が実験に加わるべきなので、Selection Biasがかかってしまうのが課題の一つになりそう。

実証実験に関しては、グレーゾーンでかつニーズが高いから、新しい技術の実証を途上国でやろう！というお話も多いですが、それって実験台にしているだけだからどうなの？という声もあったりするわけで、なかなかハードルが多いのです。

ちなみに、私のDigital Identityのプロジェクトには前述のSecond Lifeの初期メンバーの一人がアドバイザーとして入ってくれているのですが、彼女のモチベーションは、現実世界とバーチャルの法律面での融合の探求、でした。

Second Lifeに実世界の法律を持ち込んだら、面白味は削減されるかもしれないけれど、実証実験を行う場は整うかもしれませんね。

国家間の技術移転(Technology Transfer)という発想になったのは、気候変動に関わっていてUNFCCC(国連気候変動枠組条約)の会議に参加させてもらったときにまさにこのテーマを追っていたからです。後はIP Law(知的財産)に興味があるからですね。要は、最新技術を国家間で簡単に共有できるようにしてイノベーションを促進することと、最新技術をパテントで守って自国の利益につなげることのバランスをどう取っていくのかの議論です。

最近は、最新技術を盗む国も多くいのが問題ですが、某日系大手企業の執行役員とお話をしていて、某アジア国の強豪に知的財産データが盗まれているのは知っているが、訴訟を起こすコストよりも、協業（彼らを自社のサプライチェーンに組み込んでしまったり、共同開発をしたり）する方をシナジーを出すという観点から選択した、というお話を伺ったことがあり、複雑な気持ちになったことを思い出しました。 Embedded content: https://www.youtube.com/watch?v=WF6bdVbI4G0

終わりに

点と点を繋げすぎな部分もあるかもしれないけれど、良い頭の体操になったので満足。

最後にこの映画を見たのが中学か高校の時で、その時は、好きな相手がこんなに数学出来たらかっこいいなあとぽけーっと考えていた気がするので、自分の成長も実感できました(笑)