調和系工学研究室

修士２年 山形 聖志

事例分析に基づく炎上対策モデルの提案とシステム化

Systemization Of Measurement Model Against Flaming Based On Case-Based Analization

SNS炎上の社会問題化

SNS上の不適切な投稿がネット住人に発見・拡散され、取り返しのつかない事態へ発展する事案が多発

・ コンビニ店員がアイス冷凍庫に横たわる写真を投稿して炎上 フランチャイズ契約解消

・ スポーツ店店員が来店したサッカー選手の同伴者を中傷 店員の個人情報が晒され店は謝罪

・ USJでの迷惑行為を写真付きで暴露し炎上 大学生が停学処分、大学は会見し謝罪

・ 看護学生が患者の臓器写真を投稿して炎上 学生は退学処分

・ ホテル従業員が宿泊したアイドル写真を投稿し炎上 ホテル側は謝罪するも、風評被害に

典型的な事例

炎上

投稿者個人：退学、解雇…

投稿者に関係する団体：風評被害、倒産…

不適切な投稿

は主に研修、投稿監視

大きな被害

既存の炎上への取り組み

学術的な調査はほとんど行われておらず、効果的な対策の確立が望まれている

炎上の性質を調査 炎上対策モデルを設計 対策をシステム化

SNSの利便性を損なわずに炎上を抑止すること

過去に発生した炎上事例のデータを収集し、分析

分析を基に炎上に対する適切な対策を設計

効果的な対策を取る事ができるシステムを設計、開発

研究目標

炎上の特性とデータ収集方法

未来に発生する炎上

過去に発生した炎上

多くのデータは変化・消失する

断片的な情報から分析しなければいけない

いつどこで起きるか分からない

ネット上を常にモニターしリアルタイムに追跡できる様にしておく必要がある

BBSアーカイブ： 2ちゃんねる, ハムスター速報

今回はデータが変化・消失しない、ニュースサイト、Webアーカイブを利用60件分の事例データを下記から収集

炎上ニュースを専門に扱うサイト： 炎上速報, 炎上.Bot, フェニックス炎上

Webアーカイブ： ウェブ魚拓, ツイッ拓, Archive.is

今回は炎上についての情報をいち早く配信しているサイトを利用する事で炎上を察知1件分の事例データを下記から収集

分析対象： Twitterでの投稿が原因となった炎上

事例60件から傾向を分析 結果の一部を紹介

0

2

4

6

8

10

12

14

16

18

20

~20

11

/12

/31

20

11

/1/1

…

20

11

/4/1…

20

11

/7/1…

20

11

/10

/1…

20

12

/1/1

…

20

12

/4/1

…

20

12

/7/1

…

20

12

/10

/1…

20

13

/1/1

…

20

13

/4/1

…

20

13

/7/1

…

20

13

/10

/1…

該当する事例数

不適切投稿の投稿日写真あり 写真無し

2012年以前・ 2012年に一旦下火に・ 写真が付与されていない割合が多い

2013年以降・ 発生件数急増・ 写真が付与されている割合が多い

・ “犯罪行為”、”職場の問題行為”が多い・ “他人への誹謗中傷”が少ない

投稿内容の分類 炎上発生件数の遷移

炎上傾向の流動性

0

2000

4000

6000

8000

3:00 7:48 12:36 17:24 22:12 3:00

RT数

リアルタイムに炎上のダイナミクス

アカウントの削除測定開始

21:37

ニュース記事に

5:30

２ちゃんねるの書き込みから確認

1:0916:25２ちゃんねるで話題に

・ 炎上したら、かなりの数拡散される・ 2ちゃんねるに飛び火する前に、ある程度RTは伸びる

炎上の進行プロセス

発見 拡散 本人特定 メディア

無免許運転を暴露

2570RT

BB

S

に掲載

ブログが特定

学歴が特定

交際相手が特定

年齢が特定

ニュース記事に掲載

名前が特定

自動車学校に抗議のメール

23:25 23:49 00:04 00:20 00:21 00:27 00:28 00:44 01:04 02:52

晒しあげ

顔写真が特定

00:36

投稿を削除

・ 進行プロセスは４つの段階に分けられる・ 晒しあげは、主にBBS（２ちゃんねる）で行われる(60件中60件)・ 多くの場合、対処が間に合っていない

対処

発見フェーズ

不適切な

投稿

拡散フェーズ

本人特定フェーズ

メディアフェーズ

アカウント

の炎上

内容の不適切さを把握

投稿・アカウント情報を適切に管理

拡散状況を把握

社会的な対処

謝罪の投稿

個人情報が暴かれている事実を把握

個人情報の漏洩を把握

拡散に関わる設定状況を把握

公開範囲の把握

炎上対策モデル正常な状態

不適切な投稿

を抑止

発見

を抑止

拡散

を抑止

本人特定

を抑止

情報リテラシー

内容の適切さを把握

注意散漫な時に利用しない

発見フェーズ

不適切な

投稿

拡散フェーズ

本人特定フェーズ

メディアフェーズ

アカウント

の炎上

内容の不適切さを把握

投稿・アカウント情報を適切に管理

拡散状況を把握

社会的な対処

謝罪の投稿

個人情報が暴かれている事実を把握

個人情報の漏洩を把握

拡散に関わる設定状況を把握

公開範囲の把握

炎上対策システムの機能

正常な状態

不適切な投稿

を抑止

発見

を抑止

拡散

を抑止

本人特定

を抑止

個人情報推定に役立ちそうな情報が露呈されている事を察知し、ユーザーに提示する機能

ユーザーの個人情報が暴かれている事実を察知し、ユーザーに提

示する機能

拡散に寄与しそうな設定を提示する機能

投稿の拡散を察知し、ユーザーに通知する機能

アカウント情報や投稿が閲覧可能なアカウント（数）を、ユーザーに提示する

機能

情報リテラシー

内容の適切さを把握

注意散漫な時に利用しない

投稿文章の危険性を投稿前に把握する事ができる機能

過去の投稿の傾向を確認することができる機能

投稿文章の危険性を投稿前に把握する事ができる機能

判定結果

過去の投稿の傾向を確認することができる機能

B. Jリーグ選手のアカウントA. 炎上寸前を経験したアカウント

”放送禁止用語”を含む投稿が多い

“都市・駅名”を含む投稿が多い

ポジティブな投稿が多いネガティブな投稿

が多い

日々の利用状況を把握し、改善に活かす事ができる

システムアーキテクチャと運用実績

XML

HTTPアクセス

クライアント

Webブラウザや専用アプリから利用

HTML, XML

HTTPアクセス

DBサーバー

クローラー

XML

HTTPアクセス

SQLAP

サーバー

オブジェクト

SQLWeb

サーバー

ユーザー登録数: ３６９ユーザー警告数: ２２９５９判定した投稿数： ４４４００６誹謗中傷と判定: ９４６

Amazon EC2 Large64bit, vCPU 2, ECU4, mem7.5G, strage 2 x 420G

MySQL

サーバー

ツイートから問題が検出されました: (@kazu535012)のツイート「@tomo95_25 しばくぞ！！」

-ツイート分類結果: 誹謗中傷

実際に送信された警告メール運用実績

システムアーキテクチャ インターネット

2012/11/11 〜 2014/02/05

4月からiPhoneアプリで使える様になります

発見フェーズ

不適切な

投稿

拡散フェーズ

本人特定フェーズ

メディアフェーズ

アカウント

の炎上

内容の不適切さを把握

投稿・アカウント情報を適切に管理

拡散状況を把握

社会的な対処

謝罪の投稿

個人情報が暴かれている事実を把握

個人情報の漏洩を把握

拡散に関わる設定状況を把握

公開範囲の把握

炎上対策システムVer. 2 正常な状態

不適切な投稿

を抑止

発見

を抑止

拡散

を抑止

本人特定

を抑止

個人情報推定に役立ちそうな情報が露呈されている事を察知し、ユーザーに提示する機能

ユーザーの個人情報が暴かれている事実を察知し、ユーザーに提

示する機能

投稿内容をチェックし結果を提示する機能

拡散に寄与しそうな設定を提示する機能

投稿の拡散を察知し、ユーザーに通知する機能

アカウント情報や投稿が閲覧可能なアカウント（数）を、ユーザーに提示する

機能

情報リテラシー

内容の適切さを把握

注意散漫な時に利用しない

炎上傾向の流動性に対応

$user = new YMGT_Post();$post =

$user->filterByKeywordsToDesc(array(“北大"))->getPosts()->filterByKeywords(array(“盗んだ”, “パクった”))->filterByMinRetweetedCount(5)->find();

（使用例）プロフィールに”北大”が含まれるユーザーが行った投稿の中で、”盗んだ”,”パクった”を含み、5RT以上された投稿の情報を取得

SNS炎上の分析や、実装のための予備実験を効率的に行う事が可能

SELECT * FROM tweet_constants C LEFT JOIN tweet_analytics A ON C.tweet_id=A.tweet_idLEFT JOIN twitter_users U ON C.tweet_user_id=U.twitter_user_idINNER JOIN tweet_variables V ON C.tweet_id=V.tweet_id WHERE NOT EXISTS(SELECT * FROM tweet_variablesV2 WHERE V.tweet_id=V2.tweet_id AND V.observed_time<V2.observed_time) AND U.description LIKE '%北大%'AND (C.text LIKE '%盗んだ%' OR C.text LIKE '%パクった%') AND '5' < V.retweet_count;

システムVer. 2 炎上傾向の流動性に対応

まとめ

• 事例分析を実施することで、炎上の性質について調査した

• 調査を基に、炎上に対する適切な対策を設計した

• 炎上から個人を守る事に主眼をおいた“炎上対策を支援するシステム”を実現した

（株式会社調和技研と協同で運用）

実証実験中ですが最終的なサービス化に向けて頑張っています