75
コーパス分析ツールの 選択肢の一つとしての CasualConc 今尾 康裕 大阪大学

コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Embed Size (px)

Citation preview

Page 1: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

コーパス分析ツールの選択肢の一つとしての CasualConc

今尾 康裕大阪大学

Page 2: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

本日の目的

新しい CasualConc のご紹介

選択肢の一つとしてCasualConc も考えてください

Page 3: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

本日のお題目

• CasualConc とは?

• 現行バージョン開発に至るまで• 新バージョンの機能• 研究への応用と今後

Page 4: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

CasualConc とは?

Page 5: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Mac OS X 用コンコーダンサー

Page 6: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

基本機能• KWIC 検索

• 単語・n-gram リスト作成

• コロケーション表• ファイルをグループとして管理• ファイルごとの頻度表(指定文字列)• SQLite を使った高速検索

Page 7: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

基本機能• KWIC 検索

• 単語・n-gram リスト作成

• コロケーション表• ファイルをグループとして管理• ファイルごとの頻度表(指定文字列)• SQLite を使った高速検索

Page 8: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

めざすところはMac らしいアプリケーション

Page 9: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

開発の経緯

Page 10: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Conc

Page 11: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

今世紀初頭でまともなコンコーダンサーと言えば

Windows 用のものしかなかった

Page 12: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

TXTANA

WordSmith Tools

Page 13: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

MonoConc Pro

Concordance

Page 14: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Mac で使えるコンコーダンサーが現れた!

Page 15: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

AntConc

Page 16: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

X11 依存のためお世辞にも使えるアプリケーションとは

言えなかった

Page 17: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

そのような状況で自らコンコーダンサーを作る試みをはじめた

まあ、Javascript でしょ

Page 18: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

痕跡

Page 19: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

ただ、ローカルファイルを扱うのが難しかった

Ruby というスクリプト言語の存在を知る

OS X (Leopard) で Ruby にネイティブインターフェイスがつけられるアプリケーションブリッジ標準搭載

Page 20: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

2008 年 CasualConc リリース

Page 21: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Mac らしいインターフェイス

WordSmith Tools と TXTANA の機能で自分が使いたいものを移植

SQLite データベースを使った高速検索

用例検索が主目的

Page 22: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

その後改良を重ね現在に至る

Page 23: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

現行バージョン

Page 24: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

なぜ新バージョン?

Page 25: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

開発に利用しているブリッジアプリケーションRubyCocoa の開発が止まっている

最新の OS X では開発環境が整わない

ブリッジアプリケーションならではの問題が顕在化してきている

初期の頃からの古いコードが多い

Page 26: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

CasualConc 2.0

Page 27: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス
Page 28: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

RubyCocoa 後継の RubyMotion でほぼ一から書き直し

Page 29: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

基本機能は継承• KWIC 検索

• 単語・n-gram リスト作成

• コロケーション表• ファイルをグループとして管理• ファイルごとの頻度表(指定文字列)• SQLite を使った高速検索

Page 30: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Concord (KWIC)

Page 31: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Word Count

Page 32: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Word Count (sorting)

Page 33: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Word Count (filtering with -ly)

Page 34: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Collocation

Page 35: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

(Word) Cluster

Page 36: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Basic File Information

Page 37: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Word Frequency (by file/corpus)

Page 38: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

TF-IDF

Page 39: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Key Group Frequency

Page 40: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Collocation Frequency

Page 41: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

ただ問題も

文字列処理が遅くなった

並列処理を導入

スクリプトの書き直しでの高速化

Page 42: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

新機能

Page 43: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

OS 標準 tagger と TreeTagger との連携

Page 44: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

統計環境 R との連携

Mann-Whitney-U と Random Forest を利用した特徴語抽出

Page 45: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Mann-Whitney-U

Random Forest

Page 46: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

統計環境 R との連携

Mann-Whitney-U と Random Forest を利用した特徴語抽出

頻度表の視覚化・分析

Page 47: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Word Cloud

Line Chart

Page 48: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Bar Chart

Pie Chart

Page 49: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Scatter Plot

Page 50: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Multi-dimensionalScaling (MDS)

Cluster Analysis

Page 51: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

CorrespondenceAnalysis

Page 52: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス
Page 53: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Principal ComponentAnalysis

Page 54: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Network Analysis

Concordance Plot

Page 55: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

グラフは PDF

統計値など

Page 56: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

R のスクリプトを確認、変更、再実行

R のスクリプトとデータを保存可能

Page 57: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

おまけ的機能

Page 58: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

複数のファイル・ファイルグループからすべてにある単語、それぞれにしかない単語を

抜き出す

Page 59: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Vocab Profiler

Page 60: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

正規表現練習

Page 61: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

単語リスト結合

Page 62: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

研究への応用

Page 63: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

目指している方向性

研究初期段階での探索的な作業の簡略化

本格的な分析への下準備

データの可視化

Page 64: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

コーパス(ファイルグループ)選択

Page 65: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

頻度表作成(stop words/lemma 処理)

Page 66: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Random Forest

Page 67: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Random Forest の結果で抽出

Page 68: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス
Page 69: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

もう一つ

Page 70: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

コーパス

ICNALE 学習者(L2 使用者)

ICNALE 英語母語使用者

Page 71: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Reporting Verbs と-ly で終わる Adverbs の

コロケーションテーブルを作成

Page 72: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

コロケーションテーブル

Page 73: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

分析

CasualConc のネットワーク分析ツールで作図

NNS と NS を分けて作成

ネットワーク分析

Page 74: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

Reporting Verbs - Adverbs

ENSNNS

Page 75: コーパス分析ツールの選択肢の一つとしての CasualConc - 2015 英語コーパス学会@愛知大学名古屋キャンパス

今後の方向性

インターフェイスの日本語化

日本語マニュアルの整備

さらなる機能の追加

具体的な応用例の提示