あなたの個人データは捏造されて拡散される？
- カテゴリ：仕事
- 2019/04/11 16:29:03
映画評論家の町田智浩氏がwhite trash name（貧乏な白人が好んでつける宝石みたいな名前）を「TED」の字幕スーパーをつける作業でキラキラネームと訳した。日本では不思議な方向へ、唯一無二の読み方をされる名前が登場して、本人が改名を家裁に申し立てて認められるまでになっている。
だけど、唯一無二の読み方だと他の人と間違われる可能性って低くない？
「あなたを支配し、社会を破壊する、AI・ビッグデータの罠」キャシー・オニール著によると。
”想像してみよう。あなたは、スタンフォード大学法科大学院を最近卒業し、サンフランシスコの一流法律事務所に入社面接を受けにきている。事務所のシニアパートナーは、手元の資料に目を通すなり笑い出し、首を横に振りながら、「きみはロードアイランド州で覚醒剤を密造して逮捕されたことになっているぞ」と言った。そのファイルは自動作成されたものだった。あなたの名前はよくある名前だから、きっとコンピューターが馬鹿な取り違えをしたのだろう。面接はそのまま続けられた。
経済の最上層では、便利なツールとしてコンピューターを頼りながらも、重要な決断は人間が行う傾向にある。しかし、経済の主流、なかでも下層では、自動化されていることが多い。調査書類に誤りは付き物だが、調査書類に誤りがあれば、どんなに優れたアルゴリズムも間違った判断を下す。データマニアのあいだでもよく言われているように、「ゴミを入れれば、ゴミしか出てこない」のだ。
この自動化プロセスを「受ける側」の人は、その結果しだいで、何年も苦境に立たされる可能性がある。たとえば、コンピューターで自動生成される「テロ防止用の搭乗拒否リスト」は、誤りが多いことで有名である。テロリストの疑いがある人物と名前が似ているせいで、無実の人が毎回、飛行場で恐ろしい試練を受けている（裕福な旅行者の場合は、お金を支払うことで、セキュリティチェックをスムーズに通過できる「信頼できる旅行者」の地位を取得できる。つまり、数学破壊兵器から身を守るためにお金を支払っている）。
このような誤りはどこでも起きる。連邦取引委員会の2013年の報告によれば、消費者の５％－推定1000万人ーのクレジットレポートに深刻な誤りがあり、融資を受ける時に本来よりも高い金利を強いられることになるという。これは、由々しきことだ。それでも、少なくともクレジットレポートは、データ経済のなかでも「規制を受けている側」に存在している。消費者は、年に1回は情報開示を請求し、手痛い結果につながりかねない誤りを修正することができるし、そうすべきだ。
だが、データ経済の「規制を受けていない側」は、なお一層危険である。アクシオム社のような巨大企業から先行きの怪しい事業まで、多数の企業が、国中のすべての消費者に関する膨大な事実を集めるために、小売業者、広告主、スマートフォン向けのアプリメーカー、宝くじ運営会社、ソーシャルネットワーク運用会社から情報を購入している。たとえば、糖尿病を患っていないか、同居人のなかに喫煙者はいるか、といった情報や、SUV車を運転している、2匹のコリー犬を飼ってる、といった情報に彼らは着目する（ひょっとすると、本人がこの世を去ってからだいぶ経った後も、書類上では生き続けることになるかもしれない）。また、こうした企業は、投票記録や逮捕歴、住宅販売データなど、政府の公開データについても片っ端からかき集める。そして、そのすべてを消費者プロファイルに詰め込んで、販売する。”
結果、生まれてから現在までのすべてがデータとして詰め込まれていて永久に消えない。訂正の機会があるならいいけれども、ないことも多い。子どもの頃、あなたとよく似た名前の子どもがスーパーでお菓子をポケットに入れて補導されたってだけで、あなたは就職できないかもしれないのだ。
ビッグデータの世界ってこういう危険と背中合わせなんだよ。
悪人をどうやって規制するかはずっと昔から問題で、治安組織を作ったり、法律を作ったり、とずっと対応しているのですが、悪人も法の抜け穴を見つけるのが上手くていたちごっこですね。
立法府の人間も悪人だったりすると目も当てられませんね。
AIで一番怖いのは、どの世界でもそうでしょうが、善人ばかりでないのが、一番心配です。
必ずと言っていいほど、悪人も出てきますから。
それが、どんなふうにするのかは分かりませんが、悪用されると、どんな恐ろしいことが起きるのか想像もできません。
kiriさんの最後の行は、面白かったです。
AIについてはメディアで言われていることがバラバラでむずかしいのですよね。
日本のAI研究の専門家の新井紀子氏は今の延長線でAIが人間を超えることはありえないといっていて、その根拠として、まだ人間は「意味」を「数式」に出来ないからといっています。
藤井太洋さんが書いた「ビッグデータコネクト」というSF小説で、今回の日記で紹介したような近未来が書かれているのですが、個人情報に登録するときにどこからもれたかわかるように、１社ずつメールアドレスを変えて、個人情報も少しずつ変えてってやっている凄腕のプログラマが出てきます。
クレジットカードは学生の時の知り合いにも使いすぎて、お金を貸してくれって大騒ぎしていた人がいましたね。現金主義がいちばんではないかもしれないけど、信用取引はきちんと節制ができないとしんどいですよね。
企業は節制ができないほうが売れていいのかもしれませんが。
今度の話は、私は知識不足で完全には、理解できません。
まあ、歳もいっているし、限度額も少なく、借り入れはできないけど、自分でない自分が存在するのでしょうから、嫌なことは、間違いないですね。
あまり隠すものもないので、ばれたところで構わないのですが、嘘のデータを公開されることは、困りますね。
借金はありませんが、毎回の確認は、紙で必ずしてます。
といって、それが正しいのかどうかは分からないので、毎月のつけ込み作業は欠かさずやってますけどね。
いずれにしろ、もう、自分のデータは、完全に漏れているというのは、年取ってから覚悟しました。
データを取ろうとする会社は、見え見えだったので、若い頃はデタラメなデータを入力してました。
家族２０人、年収５０万円とか、毎回違うデータを入力していたので、（クレジットは作らなかったです。常に現金主義）
意識レベルの高い人は、良いのでしょうが、自制力のないひとは、クレジットは危ないものと、昔から思ってました。
どうせもうすぐ、取られるモノがない世の中になるから、「まあいいや」で生きてます。