コンピュテーショナル・デザインと拡張するAI技術
AI技術の拡張とリアリティ
ドミニク──最近AI／人工知能について研究者やゲームデザイナーと話をしていると、多くの人が引用していて、議論のベースになる本や考え方は、結局1980年代のマーヴィン・ミンスキーの本『心の社会』（産業図書、1990）〈The Society of Mind, Simon and Schuster, 1986〉だったりします。30年前の考えです。ディープラーニングなどに関わる、ニューラルネットワークの基礎的な理論はすでに1980年代につくられています。その後、AI分野は1990年代に冬の時代を迎えますが、先ほど言ったようにシリコングラフィックスのコンピュータが1億円して使えないとか、使えたとしても計算能力として十分ではなかったり、データがなかったりしたからです。2000年代に入り、インターネットバブルが起きると、みんなが個人に関わる情報やライフログを発信して残せるようになり、コンピュータのマシンパワーとデータがセットで得られるようになりました。2008年頃になって、ようやく使えるものになったわけですが、じつは理論的な革命は何も起きていません。いま頃になって慌ててAIと人間の関係性をもっと考えようという議論が出てきています。人間とコンピュータの関係性についての議論はじつは未熟だし、予測が困難です。人文系の研究者たちは、人間社会のなかでのレコメンデーション・エンジンやマーケティングが長期的に及ぼす影響を懸念する向きもありますが、エンジニアリングの世界の最前線は私企業の研究者なので、懸念についての理解はできても、なかなかそこにリソースは割けません。いまのテクノロジーの主な潮流は、より加速的に、効率化や最適化を求める方向です。
「シンギュラリティ」という言葉が一人歩きしている昨今ですが、それをユートピアとみなすかディストピアとみなすかという議論が散見されます。大事なのはいつか不可避的に起こってしまう他人事だとみなすのではなく、より望ましい方向に変えることのできる自分事として捉えることです。だから、未来に懸念があるとすれば、未来から現在を逆照射するように、現在の問題意識と接続するシステムを設計し続けるしかないと思うのです。
私見ですが、ディストピア論の人たちの多くは実装の提案がない。ユートピア論の人の多くは懸念をあげる人を「怖がり」と蔑む。両方とも空虚だと言わざるを得ません。もっと自然に、解像度を高く、長所を伸ばし、短所を手当てするバランスのよい議論の土壌が必要です。
一方で、技術が低価格化する流れもあるので、高校生であっても、自分のラップトップに高性能なAIのオープンソース・ライブラリを落として、すぐに何かつくることもできます。フランク・ゲーリーが1980年代に語った「思ったことが形になる」という「How to Make（Almost）Anything」的な発想や夢に技術が追いついてきて、いまようやく実現しつつあるということですね。AIやインターネットで起きていることの全体としては、非常に面白い状況になってきていると思います。
小渕──AI研究では、欧米と日本では同じプラットフォームに乗っているのでしょうか。また、技術的に同じ方向を目指しているのでしょうか。建築の世界ではやはり欧米と日本を比較すると温度差があります。もちろんアメリカとヨーロッパでも違いがありますが、欧米ではある程度の共通性があり、日本はそれとは少しずれています。
ドミニク──違っていると思います。日本の人工知能学会で機械学習の研究者たちと話をする機会がありますが、AIを研究したいのであれば、FacebookかGoogleに入社するのが早いという話を聞きました。つまり、20年前にシリコングラフィックスのコンピュータが使えた人と使えなかった人の差があったように、AI研究にも同じことが起こってしまっています。Facebookには毎日ペタバイト級のログが溜まっていき、それを自由に解析できる環境があります。また、世界中の言語、非言語データが集まっていて、そこから出てくる研究が最先端です。でも、日本の大学で研究室でAIをやるときには、データをどうするかと言えば、冗談ですがGoogleをハックするとか（笑）、企業にデータを出してくださいとお願いするかです。それで得られたとしても結果としてウサギと亀のレースですね。技術的にも、スピード的にも、溜まっていく知見としてもです。ですから、最近お話ししている日本の機械学習系の研究者たちは、FacebookやGoogleがやらないような研究をどうつくり出すかという議論をしています。
最近の有名な話で、Facebookがある心理実験をして、論文を出して炎上した件がありました。それは、無作為に選んだ69万人のユーザーを二つに分けて、ひとつのグループのニュースフィードにはポジティブな情報ばかりを流し、もう片方のグループにはネガティブな情報ばかりを流したのです。約1週間後、前者はポジティブな投稿が増え、後者はネガティブな投稿が増えたという結果が出ました。それをインフォームド・コンセントなしにいきなりやって、論文を発表したのですが、集団訴訟されました（笑）。
小渕──プロパガンダに使える話ですね。
ドミニク──洗脳に近いですね。面白いのは、Facebookの担当者はどうしてそれが悪いのかわからなかった、ということです。マスコミから批判を受けた当初は、「ユーザーが同意している利用規約にそういうことをしてもいいと書いてあるから大丈夫だ」という反論を出したのですが、再び大批判を受けました。そこには、情報技術と人間の関係性や、そのヴィジョンの問題が図らずとも顕になっています。百歩譲ってポジティブな情報を流された人はいいとしても、ネガティブな情報を流されてネガティブな気持ちになった人たちがいて、それが科学的な学術研究、論文として認められたということは、情報技術の及ぼす影響という意味で非常に皮肉です。
また、数週間前のことですが、Facebookはまた別の問題が指摘されています。人気のトピックを流す「トレンド」というニュースフィードがありますが、そこにリベラルなニュースメディアの記事しか流していないのではないかという疑惑です。それによって、恣意的に世論を動かすことや、マーケティングしたいことを人びとが意識しないレベルで操作できるということです。
ある社会政策や、情報社会の設計に対して、外野からただ「おかしい」「是正するシステムが必要だ」と言うだけではなく、やはり違う解を実装しないといけません。世界的議論を起こし、Git的に自分たちでコミットしてオルタナティブをつくり、「これを採用しろ」と解決策付きのリクエストを送るような提案型コミュニケーションをしなければ、本当の意味での情報社会の未来のデザインはできません。それは簡単なことではありませんが。実際、Facebookのアルゴリズムを設計している人がいて、ただそこに乗っかるだけの一般市民は、問題が起きていることすらも知らされずに生きていくわけです。ですが、そういう問題が起こらないようなシステム設計やコーポレート・ガバナンスを考える余地は沢山あります。人文知が関わるところと、AIのプロが手を組んで、実効性のあるオルタナティブなシステムをつくれないかというのはいままさに議論になっています。先ほど言った「Deploy or Die」は人文知全体に関わる話です。
- Nick Bostrom, Superintelligence: Paths,
Dangers, Strategies
（Oxford University Press, 2014）
アメリカでは、起業家のイーロン・マスクらが中心となって数億ドルを出資し、「OpenAI」というNPOが設立されました。イーロン・マスクは「人類最大の危機はAIだ」と言いながらも、以前からAIの会社に投資もしています。「OpenAI」は、好きな研究をやっていいよということで、アカデミックな研究者をスカウトし、ただし条件として、そこで生まれた成果やつくられた技術はオープンソースにして社会に返すというものです。イギリスのオックスフォード大学では、『Superintelligence: Paths, Dangers, Strategies』（Oxford University Press, 2014）で有名な哲学者のニック・ポストロムが所長となり、「Future of Humanity Institute」という研究所がつくられました。AIの研究だけではなく、情報技術をどうやって人間と融和させるかという提言書を企業に送ったり、署名を集めたりする科学者のコミュニティです。日本だと、それに匹敵する規模のものはありませんが、少なくとも局所的な議論は起きています。
