
「AI独裁ばらまく中国」と題するブログで筆者は中国発の監視「システムを使えば悪の国家は個人の行動や思想を逐一把握し自分の都合で逮捕し裁判にかけ、場合によっては死刑にすることもできる。」「逆に、善の国家や企業はこのシステムを使って国民の不満や要求を詳細に吸い上げ、それを解決する施策を迅速に打てることになる。 」と述べた。だが、日本や米国のような“善の国家”であっても“AI付きの監視システム”によってその資本主義システムは変容する危険性がある。
John Thornhill氏(英フィナンシャル・タイムズ紙コメンテーター)は「『監視資本主義』の衝撃」というコラムを19/2/14付日経新聞6面に載せている 。彼の論説の監視カメラを多用した監視システムにあるのではなくて、監視カメラからのビデオや映像、その他様々なセンサー、クレジットカード等の購買履歴、インターネットのアクセス履歴等のビッグデータからAIを使ってどの様な情報を引き出すかの論理についてだ。このプロセスには当然“価値観”が関わってくる。“価値観”は“倫理(morals, morality, ethics)”と言い換えても良い。
これは有名な事例だが、ある若い女性の購買履歴を調べたら、この女性は妊娠初期であり、その為の商品を購入する確率が高いと判断され、業者はそのカタログをその女性に送ったことがある。その女性の父親は自分の娘がよもや妊娠する様なことをしているとは夢にも思わずその業者を非難し、娘も同調した。だが、その娘はその後自分が妊娠していたことに気付いたのだった。これは個人のトラブルであってどちらかというと平和な例だが、もし対象者が成年の男性で政治活動をしていたなら、彼に対して次の選挙で特定の党に投票するよう誘導したり、テロを実行しそうなので逮捕したり、特定の商品や思想傾向の本を買う様に誘導したりできる。

グーグルのニューヨークオフィス(出典;ロイター、2019/2/14付日経新聞)
「米グーグル、米フェイスブック、中国のアリババ集団、同騰訊控股(テンセント)などの企業は、消費者を"監視"して様々なデータを収集・分析し、それを"資源"にかつてない規模で効果的に人の行動を先読みすることで稼ぐ、新しい形の資本主義を開きつつある。」とショシャナ・ズボフ氏(米ハーバード・ビジネス・スクール名誉教授)は“監視資本主義”の危険性を指摘している。「IT各社がいかに資本主義のルールを書き換えつつあり、権力構造をも変えつつあるかという指摘だ。」
これは「今後のカネと権力を誰が握るのかという」闘いでもある。例えば、乗用車を買いそうな見込み客をネットの行動から特定し、自社の製品を購入する様なタイミングでメッセージと購入条件をその見込み客に送ればその商品のメーカーは市場で勝てる。この様な誘導はより多く利用者を獲得し、より多様なサービスをネットで提供する事業者が、より優先的な立場を獲得することになる。一旦その地位を得ればそれを覆すのは困難になる。事実、アマゾンやグーグルに日本人の生活は大きく依存し、行動のスタイルは変化しつつある。
ズボフ氏は「この監視資本主義はやがて『(人間の個々の行動や経験を予測、マネタイズするためだけの材料にしてしまい、個人ではもはやそれにあらがうことができなくなる)インストロメンタリアニズム(instrumentarianism)」という新たな恐るべき権力形態に変貌する危険がある」と言い、「この邪悪な収益化装置」を無力化するには「政府による規制、市場における競争、個々人」がネットの利用方法を工夫する必要がある、と言う。この3点の詳細については長くなるので日経新聞をご覧頂きたい。「資本主義のプログラムを育んでいくためのデータを提供しているのは、結局、我々なのだということを忘れてはならない。」とズボフ氏は論を閉じている。
これらに関して日本でも既に色々議論があるようだ。筆者はこれに関して3点を挙げたい。
第1に、ズボフ氏が「この形態への変化は中国で既に最も目に見える形で始まっている」という様に我々は文明の岐路に立っていることを十分に理解することだ。中国がウイグルやチベットで展開しているAI監視システムがヒトラー以上の人権弾圧や民族浄化を可能にしていることをわれわれは認識すべきだし、こうした中国の非人道的な価値観に対して否定の声をあげるべきだ。
第2に、民間企業は倒産しない為に、収益を上げる為にビッグデータを不当な方法を使ってしまうことがある為に発生する問題に対処しなければならない。ビッグデータをどう使うべきかの議論は日本では個別的で散漫な感じが否めない。企業が収益をあげるためにビッグデータをどう使い、それを官僚が社会システムとして妥当かどうかを個別に判断する程度ではないか?我々はネットに関する倫理をもっと体系的に考える必要があろう。我々はどういう倫理を基礎にした社会を創ろうとするか、宗教者、哲学者を含めた議論をすべきだ。
第3に、これらの議論を通して得られた倫理体系を実現するGAFAのようなデータ産業複合体が育つ環境を政府が整備するよう求めたい。家電などの「ものずくり」産業で繁栄した日本の産業はまだインターネット産業時代に適応していない。例えばスマートスピーカの仕様についてあれこれ批評して喜んでいるのはお寒い限りだ。スマートスピーカの背後にあるネットとサービスとそれを支えるAIが重要であってスマートスピーカなどある程度の性能を満たせばどうでもよいのだ。インターネット産業時代は情報が全てなのだ。米国はそれを理解しGAFAを産業として育て、中国はそれを理解しGAFAの相似形を作った。日本は追い付かなければならない。
資料;https://www.nikkei.com/article/DGXMZO41217590T10C19A2TCR000/
John Thornhill氏(英フィナンシャル・タイムズ紙コメンテーター)は「『監視資本主義』の衝撃」というコラムを19/2/14付日経新聞6面に載せている 。彼の論説の監視カメラを多用した監視システムにあるのではなくて、監視カメラからのビデオや映像、その他様々なセンサー、クレジットカード等の購買履歴、インターネットのアクセス履歴等のビッグデータからAIを使ってどの様な情報を引き出すかの論理についてだ。このプロセスには当然“価値観”が関わってくる。“価値観”は“倫理(morals, morality, ethics)”と言い換えても良い。
これは有名な事例だが、ある若い女性の購買履歴を調べたら、この女性は妊娠初期であり、その為の商品を購入する確率が高いと判断され、業者はそのカタログをその女性に送ったことがある。その女性の父親は自分の娘がよもや妊娠する様なことをしているとは夢にも思わずその業者を非難し、娘も同調した。だが、その娘はその後自分が妊娠していたことに気付いたのだった。これは個人のトラブルであってどちらかというと平和な例だが、もし対象者が成年の男性で政治活動をしていたなら、彼に対して次の選挙で特定の党に投票するよう誘導したり、テロを実行しそうなので逮捕したり、特定の商品や思想傾向の本を買う様に誘導したりできる。

グーグルのニューヨークオフィス(出典;ロイター、2019/2/14付日経新聞)
「米グーグル、米フェイスブック、中国のアリババ集団、同騰訊控股(テンセント)などの企業は、消費者を"監視"して様々なデータを収集・分析し、それを"資源"にかつてない規模で効果的に人の行動を先読みすることで稼ぐ、新しい形の資本主義を開きつつある。」とショシャナ・ズボフ氏(米ハーバード・ビジネス・スクール名誉教授)は“監視資本主義”の危険性を指摘している。「IT各社がいかに資本主義のルールを書き換えつつあり、権力構造をも変えつつあるかという指摘だ。」
これは「今後のカネと権力を誰が握るのかという」闘いでもある。例えば、乗用車を買いそうな見込み客をネットの行動から特定し、自社の製品を購入する様なタイミングでメッセージと購入条件をその見込み客に送ればその商品のメーカーは市場で勝てる。この様な誘導はより多く利用者を獲得し、より多様なサービスをネットで提供する事業者が、より優先的な立場を獲得することになる。一旦その地位を得ればそれを覆すのは困難になる。事実、アマゾンやグーグルに日本人の生活は大きく依存し、行動のスタイルは変化しつつある。
ズボフ氏は「この監視資本主義はやがて『(人間の個々の行動や経験を予測、マネタイズするためだけの材料にしてしまい、個人ではもはやそれにあらがうことができなくなる)インストロメンタリアニズム(instrumentarianism)」という新たな恐るべき権力形態に変貌する危険がある」と言い、「この邪悪な収益化装置」を無力化するには「政府による規制、市場における競争、個々人」がネットの利用方法を工夫する必要がある、と言う。この3点の詳細については長くなるので日経新聞をご覧頂きたい。「資本主義のプログラムを育んでいくためのデータを提供しているのは、結局、我々なのだということを忘れてはならない。」とズボフ氏は論を閉じている。
これらに関して日本でも既に色々議論があるようだ。筆者はこれに関して3点を挙げたい。
第1に、ズボフ氏が「この形態への変化は中国で既に最も目に見える形で始まっている」という様に我々は文明の岐路に立っていることを十分に理解することだ。中国がウイグルやチベットで展開しているAI監視システムがヒトラー以上の人権弾圧や民族浄化を可能にしていることをわれわれは認識すべきだし、こうした中国の非人道的な価値観に対して否定の声をあげるべきだ。
第2に、民間企業は倒産しない為に、収益を上げる為にビッグデータを不当な方法を使ってしまうことがある為に発生する問題に対処しなければならない。ビッグデータをどう使うべきかの議論は日本では個別的で散漫な感じが否めない。企業が収益をあげるためにビッグデータをどう使い、それを官僚が社会システムとして妥当かどうかを個別に判断する程度ではないか?我々はネットに関する倫理をもっと体系的に考える必要があろう。我々はどういう倫理を基礎にした社会を創ろうとするか、宗教者、哲学者を含めた議論をすべきだ。
第3に、これらの議論を通して得られた倫理体系を実現するGAFAのようなデータ産業複合体が育つ環境を政府が整備するよう求めたい。家電などの「ものずくり」産業で繁栄した日本の産業はまだインターネット産業時代に適応していない。例えばスマートスピーカの仕様についてあれこれ批評して喜んでいるのはお寒い限りだ。スマートスピーカの背後にあるネットとサービスとそれを支えるAIが重要であってスマートスピーカなどある程度の性能を満たせばどうでもよいのだ。インターネット産業時代は情報が全てなのだ。米国はそれを理解しGAFAを産業として育て、中国はそれを理解しGAFAの相似形を作った。日本は追い付かなければならない。
資料;https://www.nikkei.com/article/DGXMZO41217590T10C19A2TCR000/
スポンサーサイト


