テクノロジの進化と人権 Research...5 AT&T Berkshire Hathaway Inc. 492.12 6 Citi Group Tencent Holding 491.98 7 Gazprom Alibaba Group Holding 467.11 8 BP Facebook Inc. 464.19

Copyright (C) The Japan Research Institute, Limited. All Rights Reserved.

2019年6月20日

株式会社日本総合研究所

若目田光生

テクノロジの進化と人権”Human Rights by Design” の提案

ステークホルダー・エンゲージメントプログラム

Copyright (C) The Japan Research Institute, Limited. All Rights Reserved.1

若目田光生（わかめだみつお）

日本総研リサーチ・コンサルティング部門上席主任研究員

1988年NEC入社。金融機関向けITソリューションのエキスパートと

して、大規模システムや新規サービスの開発を担当した後、全社の

ビジネスインキュベーション、ビッグデータ事業の立上げに従事。

AIやデータ利活用の推進に従事する反面、プライバシーや人権課題

の重要性を強く認識、専門組織（デジタルトラスト推進本部）を立上

げると共に社内外への発信、啓発、政策提言を開始。

現在は、経団連データ戦略WG主査、データ流通推進協議会理事な

どの活動を通じ国のデータ流通政策に関わるとともに、日本総研にお

いて官民データ流通に関するコンサルティングに従事する。


主な経歴

2

⚫ 産業競争力懇談会（COCN）「IoT時代代におけるプライバシーとイノベーションの両立」テーマ推進リーダー

⚫ 公益社団法人企業情報化協会ビッグデータ戦略的ビジネス活用コンソーシアム企画委員

⚫ IoT推進コンソーシアムデータ流通WG 「カメ

ラ画像利活用サブワーキンググループ」構成員

⚫ 個人情報保護委員会

「カメラ画像の利活用の在り方検討会」委員

⚫ IoT推進コンソーシアムデータ流通WG

「データ連携サブワーキンググループ」構成員

⚫ 経産省「官民データの相互運用性実現に向けた

検討会」構成員

⚫ 総務省・経産省「情報信託機能の認定スキーム

の在り方に関する検討会」構成員

⚫ 総務省・経産省

「データポータビリティに関する検討会」委員

⚫ 経産省「AI・データ契約ガイドライン検討会」

委員

⚫ 経団連21世紀政策研究所「データ利活用と産業化プロジェクト」研究員

⚫ 一般社団法人科学技術と経済の会「データ利活用とサービスイノベーション」幹事

⚫ 総務省・経産省「情報信託機能の認定スキームの在り方に関する検討会・金融データWG」構成員

⚫ 経団連デジタルエコノミー推進委員会企画部会データ戦略WG 主査

⚫ 一般社団法人データ流通推進協議会理事利活用促進委員長

⚫ IoT推進コンソーシアム「安全なデータ流通における技術と法の研究会」構成員

⚫ 経団連未来産業・技術委員会「AI活用原則TF」オブザーバ

⚫ 慶応義塾大学グローバルリサーチインスティテュート客員研究員

⚫ 文部科学省科学技術・学術審議会情報委員会委員


１．データ資本主義と人権

3


世界株式時価総額 TOP10ランキングから読み取れること

2007 1) 2018 2)

1 Exxon Mobil Apple Inc. 851.32

2 General Electric Alphabet Inc. 719.25

3 Microsoft Microsoft 702.76

4 Royal Dutch Shell Amazon.com Inc. 700.67

5 AT&T Berkshire Hathaway Inc. 492.12

6 Citi Group Tencent Holding 491.98

7 Gazprom Alibaba Group Holding 467.11

8 BP Facebook Inc. 464.19

9 Toyota Motor JPMorgan Chase 377.41

10 Bank of AmericaIndustrial and Commercial Bank of China

345.08

出典: 1) Financial Times Global 500 rankings – 2007, 2nd Quarter (June 29, 2007)2) World Stock Market Cap by Think 180 around (May 2018)


考察１ ⇒ AI時代の新たな企業ヒエラルキー

データ・AI技術を持つ会社

出典：安宅和人「人工知能はビジネスをどう変えるか」Diamond ハーバード・ビジネスレビュー（2015/11）を基に作成

どちらも持たない企業

AI技術を持つ企業

データを持つ会社


◼医療データ会社買収による、3億人分の医療データ獲得

米IBMが、医療分野で活用するサービス拡大に向け、医療データを保有するトゥルブン・ヘルス・

アナリティクスを26億ドルで買収。累計で3億人分の世界最大級の医療データベースを構築する。

◼運動アプリ運営会社買収による、3,300万人の運動データ獲得アシックスが、運動記録アプリをもつ米フィットネスキーパーを95億円で買収。

スマホのアプリにより、運動中の移動距離や速さの測定データを活用し、

新たな商品開発や利用者向けの商品提案を実施する。

◼睡眠関連サービスの子会社化による、約3万人の睡眠データ獲得帝人が、睡眠関連のマーケティング事業を展開するねむログをグループ会社化し、ねむログがもつ

約3万人6000の利用者の睡眠データを入手。ねむログのサービスを自社の睡眠情報サービスへ統合。

◼LinkedIn買収による、4億3300万人の企業関連会員のデータ獲得

米マイクロソフトは社会人のソーシャルネットワークのLinkedInを過去最大となる262億ドルで買収。

プロフェッショナルコミュニティに関する比類なきインサイトを集めることが可能となり、

自社プロダクトを届ける潜在的な販売チャネルを獲得。

企業買収にみるパーソナルデータの価値


パーソナルデータの不適切な提供

不適切に取得したデータに基づく助言？

米国大統領選挙への何らかの影響？

英国EU離脱国民投票結果への何らかの影響？

選挙コンサルティング会社

Facebook

政治団体政治団体

考察２ ⇒ 人権・プライバシーと企業価値（Facebook事案）


2018年2月 2018年3月

1 Apple Inc. Apple Inc. 851.32

2 Alphabet Inc. Alphabet Inc. 719.25

3 Amazon.com Inc. Microsoft 702.76

4 Microsoft Amazon.com Inc. 700.67

5 Tencent Holding Berkshire Hathaway Inc. 492.12

6 Facebook Inc. Tencent Holding 491.98

7 Berkshire Hathaway Inc. Alibaba Group Holding 467.11

8 Alibaba Group Holding Facebook Inc. 464.19

9 JPMorgan Chase JPMorgan Chase 377.41

10Industrial and Commercial Bank of

China

Industrial and Commercial Bank of

China345.08

（単位：10億米ドル）出典: World Stock Market Cap by Think 180 around

米フェイスブックの株価は2018年3月19日に7％近く下落、時価総額約37億ドル（約4兆円）が棄損


考察３ ⇒ パーソナルデータと国家戦略

中国の監視カメラネットワーク「天網」

➢ 中国は「世界最大の監視カメラ・ネットワーク」を構築

➢ 国内各地に監視カメラ1億7000万台がすでに設置、今後3年間で推定4億台が追加

➢ 顔認証技術により市民の加須画像データべースと照合、個人特定

➢ 警察官の目の届かない所でもカメラが作動、信号無視をした違反者を直ちに特定

➢ 警察官にカメラ付きサングラスを導入

➢ ソーシャルスコアリングとの連携

➢ 膨大データのAIによる学習（カメラ＋顔照合＋AI）

犯罪のないパラダイスか？超監視社会というディストピアか？


２．トピック超監視社会とスコア化社会

10


超監視社会

スコア化社会


芝麻信用（Zhima Credit）の信用スコアサービス

• アリペイ付帯機能として2015年開始

• ５つの要素で総合的に信用度を算出

➢身分特質：年齢、学歴、職歴など個人情報

➢履約能力：預金、株式、車、住宅などの資産情報

➢信用歴史：ネットショップでの購買履歴、ローンや公共料金などのクレジット情報

➢人脈関係：SNSでの友だちの数や質、発言などの交流情報

➢行為能力：使ったサービス（ゲームのプレイ時間など）、寄付の有無などの行動情報

• 従前の指標では信用力を示すことができなかった個人にも新たなチャンス

• 好スコアだと・・・

➢デポジット不要

➢金利優遇やクレジット限度額

➢シンガポールのビザが取りやすい

➢空港の専用出国レーンが通れる

➢シェアリングサービスの利便性

➢高スコア者のみ参加可能な婚活サービスての登録


信用スコアサービスの光と影

メリット

• 点数アップを目指すことによる社会のマナー向上や犯罪抑止

• 従前の評価（経済的評価）のみでは信用力の弱い個人のエンパワー

• シェアリングエコノミーの進展

• スコアのみの提示で詳細情報出すことなく信用の授受が可能

• スピーディーで便利なサービス

懸念

• 低スコア者への差別や負のスパイラル

• サービスの制限、職業選択や子供の就学への影響などの懸念

• 政府や捜査機関による国民管理、監視機能との連携（政府では「社会信用システムとして別途整備中」）への懸念

信用弱者のエンパワーや社会の効率化か？新たな貧困層の拡大や差別社会か？


情報信託機能の認定スキームにおける信用スコアの取扱いの議論

平成31年4月26日情報信託機能の認定スキームの在り方に関する検討会（第12回）会議資料より引用


デジタル時代の国際競争の「第２幕」はサイバーとフィジカルの融合

令和元年6月7日内閣官房情報通信技術（IT）総合戦略室「デジタル時代の新たなIT政策大綱（案）」概要から引用


エリアに関するデータ取得

価値を創造

見える化

分析

対処デジタル空間の都市

スマートシティとプライバシー

• デジタルツイン、データ利活用型スマートシティなどの政策は、カメラやIoT（センサー）の活用、位置情報や行動履歴といった、人の可視化とAI活用がキーテクノロジ

• 即ちプライバシーへの配慮や、生活者のコンセンサスは必須


グーグルのスマートシティ計画に暗雲、プライバシー保護に懸念

17

• カナダ政府、オンタリオ州政府、トロントによる「Toronto Waterfront（ウォーターフロント・トロント）」という再開発計画事業。Alphabet社の子会社「Sidewalk Labs（サイドウォーク・ラボ）」とパートナーを組み、「Sidewalk Toronto（サイドウォーク・トロント）」として事業を進めることが決定。

• 人の移動（混雑のレベル）、電力消費量、騒音レベル、空気汚染レベル、ゴミの量など、エリアで起こっている出来事のあらゆるものがセンサーで計測され、データで可視化される街を指向

• スマートシティ・プロジェクトに関するプライバシー問題の監督を担う専門家を採用するが、プライバシーに関する懸念から、オンタリオ州の元プライバシー委員であるアン・カブキアンはプロジェクトから離脱

• 辞職の理由として、キーサイドの住人に関する個人の特定が可能な情報をサイドウォーク・ラボが第三者である企業や開発者がアクセスできるようにしようと計画していたこと。

• さらに今年、カナダ自由人権協会は、この事業によって監視が強化されることや、政府の役割を民間企業に外注することを懸念し、カナダ政府などを相手取り訴訟を起した。「カナダはグーグルの実験用マウスではない」と主張。


グレーゾーン

フィジカル空間のデジタル化（カメラ画像のAI活用）の課題

技術の進歩に比例し、プライバシーや人権への影響は拡大

事業者側からはグレーゾーン、レピュテーションリスクと表現される領域が拡大

顔（人物）検出（人数カウント）

カメラや画像処理技術の高度化

顔特徴点検出（年齢・性別属性推定）

顔認識（個人特定）

新サービス・マーケティング

社会の安心安全

街づくり

• 人流分析による快適性向上• バリアフリー型の街づくり• 街の回遊性向上

• 商業施設における来場者分析、動線分析、リピーター分析• おもてなし等、消費者エクスペリエンスの向上• 見守りサービス

新たな利活用による産業競争力向上

• テロ対策• 危険行為や混雑の検知• 災害時の避難誘導

固定カメラ→移動カメラ／単体→ネットワーク化

映像利用可能性の拡大

人物導線解析

ドローンカメラ

パーソナルロボット搭載カメラ

車載カメラ

ウェアラブルカメラ

• ドローン、ランニングポリス等、新たなカメラ活用から得られる画像活用による研究開発（自動運転、AI等）

・犯罪抑止・証拠保全

防犯カメラ


いわゆる炎上事案

▌大阪ステーションシティ実証概要

⚫ 2014年4月から2年間を予定

⚫大阪駅ビル構内にカメラ92台を設置

⚫独立行政法人情報通信研究機構NICT

⚫通行人の顔映像を特徴情報に処理し、特徴情報で行動を追跡することにより、シティ内の人の流量や滞留の度合い等を把握し、災害発生時の安全対策等への利用可能性を検証する実証実験を計画。

▌社会的批判と第三者委員会の提言

⚫市民や有識者ら不安の声や中止の要請が寄せられ、実験は延期。第三者委員会を設置

⚫第三者委員会の提言

1.実験手順や実施状況等を定期的に確認し公表すること

2.個人識別のリスクを市民に対して事前に説明すること

3.撮影を回避する手段を設けること

4.映像センサーの存在と稼働の有無を利用者に一目瞭然にすること

5.人流統計情報の提供に際しては委託契約⼜は共同研究契約を締結すること

6.安全管理措置を徹底すること

7.本実証実験に関して適切な広報を行うこと

JR大阪駅市民の不安受け、顔認証の追跡実験を延期（2014年3月）


▌札幌市地下歩行空間における実証概要

⚫2017年8～9月実施を予定

⚫地下歩行空間にビーコンやカメラを設置

⚫札幌市まちづくり政策局都心まちづくり推進室

⚫通行人の人流情報と属性情報（性別、年代など）を収集し、地下歩行空間の通行量をリアルタイムで把握することで、災害発生時の状況を把握し、人の流入や経路を測定する狙いで実証実験を計画。

▌社会的批判

⚫2月の北海道新聞が『「顔認証」実験へ』と題し、「個人情報乱用の懸念」「公共空間厳格な運用を」と報道。

⚫その後、市民から札幌市に対し、問い合わせが殺到。

⚫札幌市は、「顔認証」の実験を実施する計画はなかったものの、市民が納得のいく説明ができず、カメラ設置を断念。

札幌市、人流解析の実験でカメラ設置を断念、「顔認証」報道で市民からの問い合わせが殺到（2017年2月）

いわゆる炎上事案


３．課題認識

21


Society5.0

・・・

防災ヘルスケアオリンピック・パラリンピック

パーソナルデータの利活用により期待される市場規模や政策の効果

市場規模政策効果

適用領域

現実の市場規模や効果

データ利活用に対する生活者コンセンサスの壁

スマートシティ

ヘルスケアリテール

生活者の不安や事業者の躊躇

拡大するギャップ

• センサーの普及• AIプロファイリング• 顔照合技術• 情報漏えい事案案

技術の進化と共に受容性のギャップは広がっている

AI、IoTなど技術の進歩により、データ利活用によるイノベーションが期待されているが、生活者コンセンサスに向けてのギャップは広がっている


日本におけるデータ流通の課題（技術経営会議より）

パーソナルデータに関する課題

⚫事業者への不安（データ漏えい）や不信（知らないところで第三者へ提供）

⚫そもそも生活者の許容度の低い日本

⚫自らのデータが活用されることに対しメリットを感じない

⚫データ流通に関するメディアの取り扱い

⚫あまりに多くのサービスやアプリがパーソナルデータの提供を前提としており、管理限界を超えている

⚫わずかな炎上でも可能性があれば利用をあきらめる（レピュテーションリスク、グレーゾーン対応基準や体制が無い）

⚫プライバシーや人権への対応が複雑化（グローバル対応）

⚫そもそも名寄せ（DB統合）ができていない

⚫匿名加工情報では目的を果たさない、匿名加工の技術が足りない


プライバシー対応の難しさ


マズローの欲求五段階説

サイバー犯罪から守る情報漏えいを防ぐ（義務的・守備的要素が大きい）

生活者の多様性への対応国や地域、個人により求められる要素が異なる（義務的要素もあるが、差別化要素、イノベーションとしての要素も大きい）

自己実現欲求

尊厳欲求

社会的欲求

安全欲求

生理的欲求

プライバシー対策

情報セキュリティ対策

情報セキュリティとプライバシーの違い


出所：2016年12月2日株式会社日立製作所株式会社博報堂「第三回ビッグデータで取り扱う生活者情報に関する意識調査」

生活者はなぜ不安に感じるのか？

Q.生活者情報が利活用されることにより、自分のプライバシーが侵害されることに不安を覚える理由は、何ですか。次の中から該当するものを3つまで選んでください。また、その中でもっとも気になるものを1つ選んでください。

透明性、アカンタビリティ、自分のデータのコントーラビリティなどが課題


メディアの関心？？

後を絶たない「顔画像」炎上事案

2017年5月日経ビッグデータ

迫る超監視社会

2017年12月 AERA

顔画像の商業利用、手探り

2018年2月日本経済新聞


名称一般データ保護規則（General Data Protection Rules）

適用開始日 2018年5月25日（金）

適用範囲⚫ EEA＊のデータ主体に対し商品またはサービスを提供するもの⚫ EEAのデータ主体の行動を監視するもの（例：嗜好、行動パターン分析）

個人データ識別されたまたは識別可能な自然人に関連する全ての情報

（位置情報、オンライン識別子（IPアドレス、Cookie）等も含む）

新たな権利

⚫ 忘れられる権利⚫ データポータビリティ権

⚫ プロファイリング（自動的なデータ処理決定）に反対する権利

制裁金（上限）軽微な違反：1,000万€ or 全世界売上高の2%のうち高い方

重大は違反：2,000万€ or 全世界売上高の4%のうち高い方

越境移転原則: 禁止

例外: 本人同意、十分性認定、SCC（SDPC）、BCR等

その他⚫ 情報漏えい時の通知義務（情報漏えい認識後72時間以内）

⚫ DPO（Data Protection Officer）の選任等

＊欧州経済領域（EEA：European Economic Area）

EU一般データ保護規則（GDPR）概要


顔認証システムに対する人権団体の指摘（Amazon Rekognition）

▌米国では、アマゾンが警察に提供する顔認証システム（Amazon Rekognition）が政府にとって極めて濫用しやすいように設計されていることを理由に、複数の人権団体から販売中止が要求されている

▌この要求の中で、顔認識のソフトウエアは、白人よりも有色人種の顔で誤認率が高いことなどから有色人種や移民などマイノリティに特に重大な脅威を与えること（例：有色人種や移民などの誤認逮捕の増加等）が指摘されている市民

警察（オーランド州、フロリダ州など）

amazon

顔認証システムの提供

街中監視

人種差別等を理由に販売中止を要求


対応しなければならない面積は広がっている


３．我が国や企業の取り組みの方向性

31


国際的なデータ流通網の構築（DFFT）でもプライバシーを重視



カメラ画像利活用ガイドブック（１／３）

⚫ 何がプライバシー情報に当たるのか、地域、個人、世代等によって異なる

⚫ IoTデバイスからパーソナルデータを取得する場合、本人の明確な同意を得ることが困難

* IoT推進コンソーシアム、総務省、経産省「カメラ画像利活用ガイドブック ver2.0」（2018年3月）http://www.meti.go.jp/press/2017/03/20180330005/20180330005-1.pdf

** IoT推進コンソーシアム:経済産業省と総務省が、産学官連携でのIoTに関係する技術開発やビジネス創出の推進を目的に設立した組織

「カメラ画像利活用ガイドブック*」を公表（IoT推進コンソーシアム**、総務省および経産省）

→ 事業者による個人情報保護法の遵守を前提とし、カメラ画像の利活用を望む事業者が、生活者のプライバシーを保護し、適切なコミュニケーションをはかる際の配慮事項をユースケースごとに整理

カメラ画像の取り扱いに関して、

http://www.meti.go.jp/press/2017/03/20180330005/20180330005-1.pdf


出典：IoT推進コンソーシアム、総務省、経産省「カメラ画像利活用ガイドブック ver2.0」（2018年3月）http://www.meti.go.jp/press/2017/03/20180330005/20180330005-1.pdf

コンビニ

来店顧客

店舗改善・店内ﾚｲｱｳﾄ最適化・品揃えの充実、欠品防止

カメラ画像から動線データを生成*

* カメラ画像から動線データを生成後、速やかに元画像を破棄

▌店舗内設置カメラ（人物の行動履歴の生成）のケース

カメラ画像利活用ガイドブック（２／３）



▌プライバシーへの配慮事項

⚫店頭、自社ホームページ等に掲載する事前告知文・通知文に関して、

•生活者に一目でわかるような表現を使用（例：イラストやイメージ図）

•わかりやすい利用目的の表示（例：「マーケティング用途」や

長文ではわかりづらい）

•カメラ画像の利活用で得られる生活者のメリットを明示

⚫生活者との対話（意見調査、改善、継続検討）の努力

⚫相談や質問・苦情等を受け付ける一元的な連絡先を設置

出典：IoT推進コンソーシアム、総務省、経産省「カメラ画像利活用ガイドブック ver2.0」（2018年3月）http://www.meti.go.jp/press/2017/03/20180330005/20180330005-1.pdf

イラスト・イメージ図例

カメラ画像利活用ガイドブック（３／３）




デジタル時代の新しいルール設計（デジタル時代に適した「アーキテクチャ」に基づくルールの構築）


Wi-Fiｱｸｾｽﾎﾟｲﾝﾄ

13:00MACアドレス<XX:XX:XX…>

13:05MACアドレス<XX:XX:XX…>

移動軌跡

測位

測位

*例: グランフロント大阪における実証実験 http://www.festival-project.eu/ja/?p=1502

Wi-Fiアクセスポイントによるセンシング

⚫ Wi-Fi機能がONの状態のスマートフォン等の台数

⚫ スマホ等の位置情報および動線（Wi-Fi電波強度、時間等から計測）

総務省「位置情報プライバシーレポート」

⚫MACアドレスは、単体では個人識別性を有しない（英数字の羅列（例：「A0：B1：C2:...」））

⚫しかし、同一ＩＤに紐付けて行動履歴や位置情報を集積する場合は、個人情報に準じた形で取り扱うことが適切

＜理由＞

•実質的に特定の個人と継続的に結びついている（原則として利用者側では変更困難なもの）

•同一ＩＤに紐付けて行動履歴や位置情報を集積する場合、プライバシー上の懸念がある

MACアドレスの取り扱い

http://www.festival-project.eu/ja/?p=1502


AIがもたらす人権問題への企業の対応

38

◆ 米グーグル• 国防総省と結んだ軍事用ドローン向けのAI技術提供に対し、社内外の批判• 社内3,000人以上の反対署名に対し、自社としてAIの開発や活用原則を打出

し、武器や諜報活動などへのAI利用を禁止• 問題となっていた国防総省との契約更新を取りやめ

◆ 米アマゾン• 人事採用において履歴書をAIで評価する自動システムの開発に着手したが、

AIが女性を就職に不利なように評価していることが判明• 性別に対する偏りが解消できるかどうかの疑問が払拭できず、結果的に導入

を中止

◆ 米マイクロソフト• ツイッターでのユーザーとの会話を通じた理解の研究を目的として開発され

た人工知能チャットボット「Tay（テイ）」について、不適切な発言を繰り返したことから、１日も経たないうちにつぶやきを停止。

• 一部のユーザーが意図的に人種差別や性差別、陰謀論などを吹き込んだ結果極めて不適切な発言を連発。

• そうした発言はマイクロソフトの意見や価値観を反映するものではなく、Tayの設計意図を反映したものでもないと釈明。


OECD８原則（OECDプライバシーガイドライン）

1.収集制限の原則適法・公正な手段により、かつ情報主体に通知⼜は同意を得て収集されるべき

2.データ内容の原則利用目的に沿ったもので、かつ、正確､完全､最新であるべき

3.目的明確化の原則収集目的を明確にし、データ利用は収集目的に合致するべき

4.利用制限の原則データ主体の同意がある場合、法律の規定による場合以外は目的以外に利用使用してはならない

5.安全保護の原則合理的安全保護措置により、紛失・破壊・使用・修正・開示等から保護するべき

6.公開の原則データ収集の実施方針等を公開し、データの存在、利用目的、管理者等を明示するべき

7.個人参加の原則自己に関するデータの所在及び内容を確認させ、⼜は意義申立を保証するべき

8.責任の原則管理者は諸原則実施の責任を有する

出典：首相官邸ホームページhttp://www.kantei.go.jp/jp/it/privacy/houseika/hourituan/pdfs/03.pdf

http://www.kantei.go.jp/jp/it/privacy/houseika/hourituan/pdfs/03.pdf


国際的な議論のためのAI開発ガイドライン案（AI開発原則）

*例えば、IEEE「Ethically Aligned Design」 http://standards.ieee.org/develop/indconn/ec/ead_v1.pdf出典：総務省ＡＩネットワーク社会推進会議「報告書2017」 http://www.soumu.go.jp/main_content/000552117.pdf

1. 連携の原則開発者は、AIシステムの相互接続性と相互運用性に留意する

2. 透明性の原則開発者は、AIシステムの入出力の検証可能性及び判断結果の説明可能性に留意する

3. 制御可能性の原則開発者は、AIシステムの制御可能性に留意する

4. 安全の原則開発者は、AIシステムがアクチュエータ等を通じて利用者及び第三者の生命・身体・財産に危害を及ぼすことがないよう配慮する

5. セキュリティの原則開発者は、AIシステムのセキュリティに留意する

6. プライバシーの原則開発者は、AIシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮する

7. 倫理の原則開発者は、AIシステムの開発において、人間の尊厳と個人の自律を尊重する

8. 利用者支援の原則開発者は、AIシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配慮する

9. ｱｶｳﾝﾀﾋﾞﾘﾃｨの原則開発者は、利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める

http://standards.ieee.org/develop/indconn/ec/ead_v1.pdf

http://www.soumu.go.jp/main_content/000552117.pdf


ソニーグループの AI への取り組み

ソニーは、AI（人工知能）を活用することにより、平和で持続可能な社会の発展に貢献し、人々に感動を提供することを目指しています。同時に、ソニーは、AI が社会に与える影響について様々な議論が行われていることを認識しています。ソニーは、エレクトロニクスを礎に事業領域を拡大し、音楽、映画などのエンタテインメント事業や、金融事業を手掛ける、多様性を持ったグローバル企業となりました。「クリエイティビティとテクノロジーの力で、世界を感動で満たす。」という共通の Purpose（存在意義）を踏まえてこれらの事業を運営していくために、ソニーグループ AI 倫理ガイドラインを定め、多様なステークホルダーとの対話を進めるとともに、ソニーにおける AI の活用や研究開発を促進していきます。

ソニーグループ AI 倫理ガイドライン（抜粋）

本ガイドラインの適用範囲

✓ ソニーが AI を利用した商品・サービス（エンタテインメントコンテンツや金融サービスを含みます）を提供すること

✓ 研究開発、製造、サービスの提供、間接業務などソニーの事業における様々な業務で AI を利用すること

本ガイドラインにおける定義

✓ 「AI」とは、データに基づく機械学習や何らかの手法で抽出したルールや知識により具現化される機能またはその機能を実現するための技術であり、知的と感じられる様々な目的のために情報処理を行うものを指します。

本ガイドラインの見直し

✓ AI に関する各国・各地域の指針、人々の生活スタイルや環境の変化、業界における事例の蓄積、また様々なステークホルダーとの対話を踏まえ、必要に応じて、本ガイドラインを見直し、進化させます。


1. 豊かな生活とより良い社会の実現– ・・・人々の可能性を広げて生活をより豊かにし、クリエイティブで新たな感動を数多く提供して文明の

発展と文化の向上に資することを目指します。

2. ステークホルダーとの対話– AI のより良い活用に努めるとともに、AI を活用する上で生じる課題の解決のために、お客様やクリエイタ

ーの方々をはじめ多様なステークホルダーの関心に配慮し、関連する企業、団体および学術コミュニティ

等と積極的に対話を進めます。また、対話の内容およびその結果をソニーの研究者や開発者を含め関連す

る事業に関わるソニーの役員および従業員に共有し、様々なステークホルダーとの更なる対話を行うため

の仕組みを構築します。

3. 安心して使える商品・サービスの提供– AI のシステム構築において、統計的あるいは確率的な手法が用いられる場合があることから、ソニーは、

このような手法の特性を理解した上でシステム全体の設計を行うなど・・・

4. プライバシーの保護

5. 公平性の尊重– AI の活用において、不当な差別を起こさないよう、多様性やお客様をはじめ様々なステークホルダーの人

権を尊重すると共に、・・・

6. 透明性の追求– 商品・サービスにおいて活用された AI による判断の理由が捕捉可能となるような仕組みを、当該商品・サ

ービスの企画・設計段階において予め導入する可能性を追求していきます。また、お客様が当該商品・サ

ービスを利用した場合に想定される影響に関して、理解しやすい説明や情報を提供するよう努めます。

7. AI の発展と人材の育成– AI を活用した商品・サービスが社会に与える影響を認識した上で、より良い社会を実現する AI の発展に

貢献し、AIの活用や研究開発を通じて明るい未来を形創ることができる人材の育成に・・・42


NECグループ AIと人権に関するポリシー

以下の3点を特に意識して活動

• AIの利活用が、NECグループ社員だけでなくお客様やパートナーにおいても適正な用途で行われること

• AIの利活用促進に向けた技術開発と人材の育成を行うこと• AIの利活用に関して、様々なステークホルダーとの連携・協働を促進すること


先進企業の取り組み（マイクロソフト）

⚫AI技術の方向性と倫理などの社会的課題に対する見解を電子書籍化*

⚫AIを信頼できる存在にするためには、公平で、信頼でき、プライバシーと安全性を重視し、多様性を許容し、透明性を維持し、説明責任を遵守できなければならないことなどを明示

⚫上記の基準の適合性を確認する社内委員会（エンジニアリングとリサーチにおけるAIと倫理委員会）を設置

⚫Amazon、Facebook、Alphabet(Google)、IBMとともに、AIのベストプラクティスの共有等を行うPartnership on AI**を創立

* マイクロソフト「Future Computed：AI とその社会における役割」https://news.microsoft.com/uploads/prod/sites/47/2018/05/The-Future-Computed.pdf/

** Partnership on AIhttps://www.partnershiponai.org/

https://news.microsoft.com/uploads/prod/sites/47/2018/05/The-Future-Computed.pdf/

https://www.partnershiponai.org/


先進企業の取り組み（アップル）

⚫ティム・クックCEOが、米国連邦捜査局（FBI）からの要求（iPhoneロック解除のためのソフトウェアツール提供要求）を拒否し、ユーザのプライバシーを重視するメッセージをホームページに掲載*

⚫政府機関等からデータ開示要求があった場合の手続きなどを定めた「法執行機関の要求に関するガイドライン」を公開**

⚫6ヵ月ごとに発行される「透明性に関するレポート」において、政府機関や民間団体からのデータ開示請求の件数などを公開**

* アップル（A Message to Our Customers）https://www.apple.com/customer-letter/

** アップル（プライバシー）https://www.apple.com/jp/privacy/government-information-requests/

https://www.apple.com/customer-letter/

https://www.apple.com/jp/privacy/government-information-requests/


４．“Human Rights by Design”の提案とNECの取り組み

46


Privacy by Design


1. リアクティブ（事後）でなくプロアクティブ（事前）プライバシー対策は事後の措置でなく、プロアクティブな対策で、問題が発生する前にプライバシー侵害を防ぐことである。PbDは、プライバシー上のリスクが発生した際にプライバシー侵害を解決するための救済策を提供する

2. デフォルト設定でプライバシー情報システムやビジネスにおいて個人情報が自動的に保護されることで、最高のプライバシー対策を提供する。プライバシーを保護するためにシステムにデフォルトで組み込まれている必要がある。

3. 設計時に組み込むプライバシー対策プライバシー対策は、設計時に情報技術、組織や社会基盤に組み込まれており、結果としてプライバシー対策が、構成要素の不可欠な基盤機能となる。

4. ゼロサムではなくポジティブサムセキュリティ対策とプライバシー対策においてゼロサム的なアプローチではなく、すべての正当な利益をポジティブサム"Win-Win"の方法で対応する。

5. エンドツーエンドのプライバシーライフサイクルデータのライフサイクル全体に対応し、情報のライフサイクル管理を保証する。

6. 可視化と透明性全てのステークホルダーは、何が情報技術、組織や社会基盤に関係するかを確認する（可視化）。そして企業組織の理念、目標に対して独立した検証を行う（透明性）。

7. ユーザープライバシーの尊重システム構築者と運用者は、デフォルト設定されたプライバシー対策により、適切な通知、権限委譲、およびユーザープライバシー対策について選択出来る機能を提供する。つまり、個人を中心に個人の利益を考慮し、尊重しなければならない。


Human Rights by Design

Human Rights by Designとは、Privacy by Designの考えを人権全体まで広げ、プライバシーのみならず公平性など人権尊重の考え方をバリューチェーンの各プロセスに組み込む新たなアプローチ


ESG視点の経営優先テーマ（社会受容性に配慮したプライバシー）

ステークホルダー

との

対話・共創

イノベーション・

マネジメント世界No.1 ／

Only1の技術力

社会受容性に

配慮した

プライバシー

ICTの可能性を

最大限に広げる

セキュリティ

ガバナンス／

コンプライアンス

気候変動を

核とした

環境課題への

対応

社会感度の高い

人財の育成

NEC Safer Cities

NEC Value Chain Innovation

社会課題

持続的な

成長実現の鍵

成長に向けた

変革のエンジン

社会価値を創出する

2020 中期経営計画成長領域

N E C の価値創造の考え方

NECの成長と社会の発展を支え、

価値を最大化するESG視点の経営優先テーマ

グローバル

メガトレンド、

SDGsなど


AIの社会実装や生体情報の利活用がプライバシーなど人権に与える影響を

考慮し、Human Rights by Designに基づく戦略策定・推進

• データ流通に係わる事業の戦略策定と推進

• HRbDに基づく製品・ソリューションの企画

• HRbDに基づく全社ポリシーや社内ルールの策定・マネジメント

• ステークホルダーとの対話によるコンセンサスの獲得や政策提言

• 従業員や取引先などバリューチェーンに係わる関係者のHRbDに

対する理解促進

デジタルトラスト推進本部の立ち上げ


社外有識者会議（技術とプライバシー）

情報セキュリティ大学院大学教授湯淺墾道氏プライバシーに配慮したデータ利活用のルールメイキングへの発言力を高め、消費者が安全だと感じる商品・サービスをぜひ生み出していってほしい

サステナビリティ消費者会議代表古谷由紀子氏消費者側の不安を起点に、企業は何をすべきなのかを突き詰めた方がよい。消費者にきちんと情報を開示し、説明責任を果たすというプロセスを経営方針に組み込むべきだ

一般社団法人 NELIS代表理事 Peter David Pedersen 氏儲けようとするあまり、倫理観が後回しになっていないか？テクノロジーより先に人間性を考えているか？を確認しながら“E”thics や“E”cology を価値に変えていく会社になってほしい


社外有識者からのコメント（求められる企業の行動）

▌ BSR（Business for Social Responsibility）*

⚫ ルールメークのための共創 ⇒ より広く社会のために倫理、標準、規範等を決める、業界やマルチステークホルダーによるイニシアチブ（活動）への参加

⚫ ステークホルダーとの対話 ⇒ 現在の環境のために自社のAI戦略で影響を受ける主要なステークホルダーとの対話

⚫ 事業活動への組み込み ⇒ コアビジネスのために

• 広範な視点を取り入れるための、開発における人材と役割の多様性確保

• 工学的な機能にはらむ、人権・倫理的な問題を洗い出すプロセスの整備

• ビジネスソリューションによる、間接差別や悪影響をチェックする仕組み構築

*参考: https://www.bsr.org/jp/

https://www.bsr.org/jp/


慶應義塾グローバルリサーチインスティテュート（KGRI）との共同研究

AIと人権、プライバシーに関して次世代を担う若手憲法学者とのコラボレーション

▌AIに駆動された高度情報ネットワーク化のうねりが現実に止められないものであるとすれば、ヒューマンライツの観点からこれを否定・批判するのではなく、ヒューマンライツのこれまで以上の実現のために積極的に利用すべき

▌ヒューマンライツの観点を織り込んだシステムデザインを積極的に構築し（ヒューマンライツ・バイ・デザイン）、人間中心のAIネットワーク化を推進していくことが強く求められる

▌これらは、企業のサステナビリティを考えるうえでも重要

▌GDPRに顕著なように...自由や民主主義をトップ・プライオリティとしない一部の国や地域を除いて、ヒューマンライツへの配慮を怠る企業は、市場における競争力を失う可能性がある

研究要旨（研究代表者山本龍彦教授）


（前略）NECが提供するサービスによってプライバシーなどの人権侵害を引き起こさないよう、最善の注意を払っています。こうした考えは、サプライチェーンを構成する取引先や従業員に対しても同様であり、女性や障がい者にも配慮した人権の尊重に努めています。

アニュアル・レポートへ技術と人権委ついて記載


５．最後に

56


CSV（Creating Shared Value）経営とプライバシー

低

高

低高経済価値

社会価値 PPP (Pure Pursuit of Profit)

CSR CSV

プライバシー重視人権重視

AI・ビッグデータ分析による自社利益最大化

競争力としてのプライバシー対応• 人とAIの最適な調和の追及• PbDに基づくサービス• VRMやパーソナルエージェント• PET*の追及と社会実装

PET＝Privacy Enhanced Technology プライバシーを保護する為の技術、秘密演算、匿名化、トレーサビリティ技術など


事業の価値・競争力・マーケットポテンシャル＝

データ（質・量）

技術（AI）

デザイン（事業開発の力）

社会受容性への対応強化の重要性

安心納得満足

社会受容性（ルール・倫理・生活者受容性・ESG）


事業の価値・競争力・マーケットポテンシャル＝

社会受容性への対応強化の重要性

データ（質・量）

技術（AI）

デザイン（事業開発の力）

不安怒り

社会受容性

良質なデータ、優れたAI技術があっても、透明性、説明責任、フェアといった、社会に受け入れられる努力を怠ればマーケットポテンシャルは制限される

Documents

テクノロジの進化と人権 Research...5 AT&T Berkshire Hathaway Inc. 492.12 6 Citi Group Tencent Holding 491.98 7 Gazprom Alibaba Group Holding 467.11 8 BP Facebook Inc. 464.19