「自己像の同一性」の利益とプライバシー－” Scored Society”の歩き方－大谷卓史吉備国際大学

電子情報通信学会技術と社会・倫理研究会インターネットアーキテクチャ研究会共催インターネットと運用技術研究会連催2016年 3月 4日（金）虹ノ松原ホテル（佐賀県唐津市）

はじめに• ドラゴンボールの「スカウター」は、戦闘力を計測・可視化する架空の装置・・・• しかし、実は私たちは点数化（数値化・順位化）されて判断されるという「スカウター」もどきの経験をすでにしている。• たとえば、、、

はじめに• たとえば、ローンやクレジットの与信審査では、信用情報をもとに Scoring（数値化・順位化）が行われている。• 職業・勤務先・年収、支払い状況などが、与信審査の Scoringの基礎データ。

はじめに• 法学者 Citronと Pasqual(2014)によれば、ビッグデータの社会的応用として、” Scored

Society“とでも呼ぶべき人間の特性を全面的にスコア化 /点数化（数値化・順位化）して比較する社会が到来しつあるとされる。• さらに、この Scoreの基礎データや算出アルゴリズムは公開されない傾向があり、結果として、 Scoreの開示・訂正がされない問題が生じると予測する（ Pasqual 2015）。

はじめに• 本発表は、 Scored Society概念を説明し、それがすでに現実的な事実を説明したうえで、• Scored Societyでは、私たちが「自己像の同一性」を脅かされ、さまざまな不利益を被る可能性がある点を指摘し、• オンラインプライバシーの課題は、自己情報の隠蔽ではなく、自己像のポジティブな側面の積極的開示に重点が移ってきたことを示す。

SCORED SOCIETYとは何か

Scored Societyとは何か• 人びとのあらゆる特性（人柄なども含む）が点数化（数値化・順位化）され、比較される社会。• 点数と順位によって、人々の取扱いは変化。• 特性や人物像は、プロファイリングによる推測も（特に、オンラインでの断片的情報取得の場合）

Scored Societyとは何か点数化• フィクションの例： Google風の企業を舞台にした近未来小説『ザ・サークル』（ Eggers 2013=2014）• 従業員は，企業内ソーシャルメディアへの貢献度が点数化され，順位付けされる．警官は網膜に装着するアプリによって，犯罪者となりうる人がどれだけ危険か色によって教えられる．情報機関は，被疑者の連絡先のネットワークを可視化し，それぞれの人びとが被疑者の知り合いだとタグ付したうえで，どれだけ被疑者に近いのかやはり色で表わされる。

Scored Societyとは何か点数化• 現実の成功例：『マネーボール』（ Lewis

2003=2013）• Oakland Athleticsの GM Billy Beanの物語。• 野球を 27 回アウトを取られるまで終わらないゲームと定義。塁に出て長打でホームに返すのがゲームでの必勝法。出塁率と長打力をもとに、選手の特性を点数化。投資対効果の高い選手を獲得し、貧乏球団を常勝球団に。

諸特性の点数化・順位化の例• 与信審査• オークションや EC サイトでの売り手買い手評価• アパート賃貸の可否審査• 求職者の審査（オンライン活動からの創造性とリーダーシップの推測）• ソフトウェア開発者の能力評価（ Git Hub

Ranking）• 仮釈放時期の決定（累犯可能性の推測）など。

IoTの文脈における点数化• Scored Societyのオンラインからオフラインへの全面的展開・・・• ウェアラブル健康機器のセンシング結果の集約と解析→点数化し生命保険料率の計算へ• ドライブレコーダーの記録の集約と解析→点数化し自動車保険料率の計算へ• オフラインでの言動の記録の集約と解析→点数化し就職者選抜での活用へ・・・？？

SCORED SOCIETYの問題点

Scored Societyの問題点1. 記録の永続性2. 点数化・順位化の正のフィードバック効果3. ゲームとその評価基準の定義のバイアス4. 点数化システムとそのアルゴリズム・メカニズムの隠蔽5. 恣意的評価と差別6. 意図せざるバイアス

記録の永続性• 記録媒体の大容量化と低コスト化→記録コストの極端な低下→あらゆる記録が消去されず，そのまま保存される傾向の増大• 人物の評価とその評価のもとになるデータも、すべて記録され永続的に保存される可能性→悪評の永続化（ Digital Scarlett

Letter）の可能性（ Solove 2007）• 点数化・順位化された結果も、永続的に保存される可能性あり

点数化・順位化の正のフィードバック効果• 一度低い点数を得てしまうと，その低い点数にふさわしい職種や会社内での地位に甘んじなければならなくなる可能性が高い（ Fertik and Thompson 2015=2015: 108-113）。• サーチエンジンの検索結果の表示順位を決める要素の一つはユーザーのクリックのフィードバック。下位の検索結果は、その結果上位になかなかあがれない（ Brey 2004:

Tavani 2012）。

ゲームとその評価基準の定義によるバイアス• 点数化・順位化は、ある枠組みの中で可能・・・例）マネーボールにおける野球のゲームの定義と点数化・順位化• しかし、野球は、本当に Beanの定義したようなゲームなのか？評価基準も野球の性質を変える・・・例）犠打や盗塁は点数化で無視• 人間の特性の評価を行うためには、ある種の文脈・枠組みを設定するが、人間や人生の見方が変化しないか？→適応的選好形成と人生の意味の変容？？

点数化システムとそのアルゴリズム・メカニズムの隠蔽• 不正な点数の操作を防ぐためには、点数化システムとそのアルゴリズム・メカニズムの隠蔽が必要（ Citron and Pasqual

2014）• 与信審査システムとそのアルゴリズムは一般に非公開（ Citron and Pasqual 2014）• サーチエンジンが SEOによる検索結果の表示順位の操作を防ぐためにアルゴリズムを隠蔽する例（ Levy 2011: 54-57）

恣意的評価と差別• 一般的な人物評価における恣意的評価・差別• 例）同一履歴書に対する典型的白人女性の氏名と黒人女性の氏名で採用率に違い（ 9.65%と

6.45%）（ Bertrand and Mullainathan 2004）• 人間が設計・実装するため、判定アルゴリズムや判定基準に差別的バイアスが入る可能性あり。• 傍証） 50 万ファイル中 29%の消費者の与信情報の点数が 50点以上異なる（ Carter et al. 2006）

意図せざるバイアス• 人物評価における恣意的評価や差別を取り除いても残るソフトウェア中のバイアス→設計・プログラミングの容易さなどから判断メカニズムを簡略化、歪曲する可能性あり（ Friedman and Nissenbaum 1999）• 一般的相関を実装した判断メカニズムによる差別の問題。例）郵便番号による与信審査、職業による与信審査など（ Citron and

Pasquale 2014）。

SCORED SOCIETYの歩き方：制度的対応と個人的対応

“Scored Society”の歩き方：制度的対応と個人的対応1. 制度的対応• Scoringの透明性と訂正を実現するデュープロセス導入（ Citron and Pasquale 2014）• 忘れられる権利、プロファイリングされない権利の実装（ EUデータ保護一般規則）2. 個人的対応• 意図的な自己の評判形成と自己像の管理（ Fertik and Thompson 2015=2015: 64-71, 99-

106, 130-136, 161-166, 196-203など )

デュープロセス導入• 点数化と利用の段階（ Citron and Pasqual

2014）①点数化される個人についてのデータを収集．②収集されたデータを計算し点数化．③点数を意思決定者（雇用主など）に伝達．④ 意思決定において点数を使用．• 各段階において、透明性と訂正のためのデュープロセスの導入が期待される。

デュープロセスとは• 法に基づく適正手続きの保障のこと。• Scoringの透明性と訂正を実現する適正手続きを法に基づいて実現せよと、 Citron

and Pasqual（ 2014）は主張。

Credit Score 規制とその課題• FCRA(Fair Credit Reporting Act)でできること–信用機関が保管する自己の信用履歴の開示と訂正 .–訂正ができない場合には注釈の付与．

• FACTA（ Fair and Accurate Credit Transaction Act）でできること–信用機関に対して credit scoreの開示要求可能

FICO Scoreの公開と応用• FICO: 米国で貸し手が活用する Credit

Score（私企業が提供）。• FICOは、 FCRA および FACTAをもとに本人に向けて Credit Scoreが公開。• そのため、個人が自分の FICO Creit Scoreを監視して知ることができるツールも提供されている（ my FICO）。

Credit Score 規制とその課題• 点数化の各段階への有効かつ妥当な規制は、 FCRAおよび FACTAでも行われていない。• Citron and Pasqale(2014)は、次のデュープロセス導入を主張。① 基礎データの開示と訂正の要求② 点数化・順位化アルゴリズムとメカニズムの監督査察による透明化の確保③ 恣意的な評価基準やアルゴリズム等が発見された場合，リスクアセスメントと是正勧告を行う措置

Credit Score 規制とその課題• 個人の保護に必要な追加的措置① 監査証跡に基づく信用機関の通知の保障②自分の行動が credit scoreにどう影響するかインタラクティブに示すシミュレーションソフト• 信用機関の信頼性のために必要な措置① 個人が点数化・順位化システムを騙して不正に点数・順位を上げようとした場合，信用機関が異議申立てできる制度

「自己像の同一性」としてのプライバシー

意図的な自己の評判形成と自己像の管理• それでも、 Credit Scoreは比較的透明性高い。• それ以外の評判 Scoreは点数化システムそのものが存在するかどうかさえ不明。• Fertik and Thompson（ 2015=2015）の勧告→意図的な自己の評判の形成と注意深い自己像の管理

意図的な自己の評判形成と自己像の管理• 自己のポジティブなイメージをつくりあげる–あらゆる言動が記録され分析されると認識。不要な過ちの告白は避け，影響力ある人びとと積極的につながりコミュニケーションする，具体的な業務遂行上のスキルのアピール。

• 自分ではコントロールできないネガティブな自己情報の消去→「煙幕」の活用–ポジティブかつ定量化が容易な自己情報を多数発信。

「自己像の同一性」としてのプライバシー• 「虚偽の光」（ Prosserの第 3類型）によって人物像を誤解させる行為• フランス法の自己像の同一性に対する権利• 「要するに，人の人格が誤って社会的に表象されることからの保護を求める権利であり，典型的にはメディアによる人の誤った描写，すなわち，インタビューが不正確に報道された場合や，行ってもいない行動を行ったと報道された場合において，救済を求めるような例」→プライバシーの保護法益は「自己像の同一性」（曽我部 2013: 203）

自己イメージと自己アイデンティティにかかわるプライバシー理解• van den Hoven（ 2008）：道徳的アイデンティティを傷つける個人情報の不正行為• 曽我部（ 2013）：「自己像の同一性」に対する権利（利益）• 阪本（ 1986）と佐伯（ 1984） ：「社会的評価からの自由」と「世間に対する役割と表象の多元性……の確立」• 棟居（ 2008: 173-214）：「多様な人間関係において役割イメージを使い分ける自由」 [24]• 阪本（ 1999）：「フレーム」で捉えられた記号の解釈で生じるプライバシー侵害の理解

自己像にかかわるプライバシー保護の方法• Fertik and Thompson（ 2015=2015）によれば、自己の評判形成のため、自己像に関する情報は隠蔽するのではなく、積極的に定量化しやすいポジティブな自己情報を発信するのが良いとされる。• 現代におけるプライバシー保護の一側面は，従来考えられていたように，自己情報を隠すことではなく，自己情報を開示し，積極的に発信していくこと。

まとめと今後の展望

まとめ• 個人のあらゆる特性のプロファイリングと点数化・順位化は、意思決定を容易にする。• 意思決定者にとって Scored Societyは好都合だが、対象となる個人には問題が多数ある。• デュープロセスの導入や新しい権利の導入が対策として期待される（が、有効性は不明）。• プライバシー保護は（一部）隠すことから、定量化容易なポジティブ情報の積極的発信へ。

今後の展望• 積極的に発信された自己情報によって構成される自己像は，ネガティブな情報を隠す仮面（ペルソナ）？• 仮面や化粧などの概念を手掛かりに、プライバシーと自己像・アイデンティティとのかかわりをさらに考察。

謝　　辞• 本研究は， JSPS科研費 23520048 および

JSPS科研費 26370040の助成を受けたものです．本発表はその研究成果の一部です．

参考文献• Bertrand, Marianne and Mullainathan, Sendhil (2004) “Are Emily and Greg

More Employable than Lakisha and Jamal? A Field Experiment on Labor Market Discrimination, “ American Economic Review, vol. 94, pp. 991-1013, Sep. 2004.

• Brey, Philip (2004) “Disclosive Computer Ethics, “ in Readings in CyberEthics. (2nd ed.) Eds. R. A. Spinello and H. T. Tavani, Jones and Bartlett, Sudbury, MA, pp. 55–66.2004.

• Carter, Caroline et al. (2006) “The Credit Card Market and Regulation: In Need of Repair,“ North Carolina Banking Institute Journal, Vol. 10, No. 23, pp.23-56.

• Citron, Danielle K. and Pasquale, Frank (2014) “The Scored Society: Due Process for Automated Predictions,” Washington Law Review, vol.89,pp.1-33.

• Eggers Dave (2013) The Circle: a Novel, Penguin, London. = (2014)吉田恭子訳 , ザ・サークル , 早川書房 , 東京 .

参考文献• Enríquez, Juan (2013) “Your Online Life, Permanent as a Tattoo,” at TED

presentation. https://www.youtube.com/watch?v=pRXmEPZNkpY• Fertik, Michael and Thompson, David C. (2015) The Reputation Economy: How

to Optimize Your Digital Footprint in a World Where Your Reputation Is Your Most Valuable Asset, Piatkus Books, London =　 (2015) 中里京子訳『 勝手に選別される世界　ネットの「評判」がリアルを支配するとき，あなたの人生はどう変わるか』 ダイヤモンド社 , 東京 .

• Fried, Charles (1968) “Privacy[A moral analysis], “ The Yalre Law Journal, vol. , pp.475-493.

• Friedman, Batya, and Nissenbaum, Helen (1996) “Bias in Computger Systems, “ ACM Transactions on Information Systems, vol. 14, no. 3, pp. 330-347, July 1996.

• Lewis, Michael (2004) Moneyball : the Art of Winning an Unfair Game, W.W. Norton, New York. = (2013) 中山宥訳 , マネーボール 完全版 , 早川書房 , 東京 .

参考文献• Levy, Steven (2011) In the Plex: How Google Thinks, Works, and Shapes Our

Lives, Simon & Schuster, New York• Marwick, Alice E. (2014) How Your Data Are Being Deeply Mined, The New

York Review of Books, Jan. 9, 2014. http://www.nybooks.com/articles/2014/01/09/how-your-data-are-being-deeply-mined/

• Pasquale, Frank (2015) The Black Box Society : The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge: MA.

• Prosser, William (1960) “Privacy[A legal analysis], “ California Law Review, Vol. 48, pp. 338-423.

• Rachels, James (1975) “Why Privacy is Important, “ Philosophy & Public Affairs, vol. 4, no.4, pp.323-333. Sen, Amartya (1984) “Well-being, Agency and Freedom: The Dewey Lectures 1984, “ Journal of Philosophy 82, 169-221.

参考文献• Sen, Amartya (1985) “Well-being, Agency and Freedom: The Dewey

Lectures 1984, “ Journal of Philosophy, vol. 82, 169-221.• Solove, Daniel (2007) The Future of Reputation: Gossip, Rumor, and Privacy

on the Internet, Yale University Press, New Haven and London.• Tavani, Herman (2012) “Search Engines and Ethics, “ Stanford Encyclopedia

of Philosophy. http://plato.stanford.edu/entries/ethics-search/• Trottier, Daniel (2014) Identity Problems in the Facebook Era, Routledge,

Abington.• van den Hoven, Jeroen (2008) “Information technology, privacy, and the

protection of personal data, in Information technology and moral philosophy, “ in Information technology and moral philosophy, J. Van Den Hoven and J. Weckert eds., Cambridge University Press, Cambridge, pp. 301–322.

参考文献• 佐伯仁志 (1984)「プライヴァシーと名誉の保護（ 1）～（ 4 ・完）」『法学協会雑誌』 , vol. 101, no. 7-9, 11.• 阪本俊生 (1999) 『プライバシーのドラマトゥルギー　フィクション・秘密・個人の神話』世界思想社 , 東京 .• 阪本昌成 (1986) 『プライヴァシー権論』日本評論社 , 東京 .• 総務省 (n.d.) 「個人データ保護規則」案仮訳 .

http://www.soumu.go.jp/main_content/000196316.pdf (原著 Europe Union, Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on the protection of individuals with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation, 2012)

• 曽我部真裕 , 反論権と表現の自由 , 有斐閣 , 東京 , 2013.

参考文献• 本田由紀 (2004) 『多元化する「能力」と日本社会　ハイパーメリトクラシー化のなかで 』 NTT出版 , 東京 .• 棟居快行 (2008) 『人権論の新構成』信山社 , 東京 .• 「マネーボール」 , Wikipedia.

https://ja.wikipedia.org/wiki/%E3%83%9E%E3%83%8D%E3%83%BC%E3%83%BB%E3%83%9C%E3%83%BC%E3%83%AB