16
検索エンジン 索引ファイル

検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

検索エンジン 索引ファイル

Page 2: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

・・・

・・・ ・・・

・・・

ウェブ検索には、マッチングとランキングの2段階がある。第1(マッチング)段階終了後は、 マッチした数干~数百万ものページが残される。第2(ランキング)段階では、これらが関連性 の高さ順にソートされる。

検索要求発行

ロンドン バス 時刻表 マッチング ランキング

マッチしたページ ランク付け されたページ

マッチング→ランキング

Page 3: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

1 2 3 the cat sat on the mat

the dog stood on the mat

the cat stood while a dog sat

1,2,3のWebページから成るWWW

a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood 2 3 the 1 2 3 while 3

Webページ番号だけから成る索引(インデックス)ファイル

フレーズ検索“cat sat“を実現できるか?

Page 4: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

2 3 the cat sat on the mat

the dog stood on the mat

the cat stood while a dog sat

a 3-5 (ページ番号3の5番目) cat 1-2 3-2 dog 2-2 3-6 mat 1-6 2-6 on 1-4 2-4 sat 1-3 3-7 stood 2-3 3-3 the 1-1 1-5 2-1 2-5 3-1 while 3-4

1 2 1 3 4

6 5

2 1 3

4 6 5

2 1 3

4 6 5 7

Webページ番号+単語位置情報から成る 索引(インデックス)ファイル

(ページ番号-位置情報)

Page 5: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

By far the most common cause of malaria is being bitten by an infected mosquito, but there are also other ways to contract the disease.

Our cause was not helped by the poor health of the troops, many of whom were suffering from malaria and other tropical diseases.

2 1

also 1-19 ・・・ cause 1-6 2-2 ・・・ malaria 1-8 2-19 ・・・ whom 2-15

マラリアを引き起こす原因について説明しているページはどっち? →コンピュータに判断させる方法は? →文章の意味を理解させる人工知能を作る →もっと簡単は方法は? →索引ファイルだけを使う方法がある(精度は落ちるかもしれない)

マラリアに関連するWebページ

Page 6: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

1 2 3

the cat sat on the mat

the dog stood on the mat

the cat stood while a dog sat

my cat my dog my pets

タイトルと本文を持つWebページ

2 3

<body> the cat sat on the mat </body>

<body> the dog stood on the mat </body>

the cat stood while a dog sat </body>

<title> my cat </title>

1 <title> my dog </title>

<title> my pets </title> <body>

ブラウザー表示

HTMLライクな表示:<>メタワード,タグ

Page 7: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

a cat dog mat my on pets sat stood the while </body> <body> </title> <title>

3-10 1-3 1-7 3-7 2-3 2-7 3-11 1-11 2-11 1-2 2-2 3-2 1-9 2-9 3-3 1-8 3-12 2-8 3-8 1-6 1-10 2-6 2-10 3-6 3-9 1-12 2-12 3-13 1-5 2-5 3-5 1-4 2-4 3-4 1-1 2-1 3-1

dog: 2-3 2-7 3-11 <title>: 1-1 2-1 3-1 </title>: 1-4 2-4 3-4

<title End>

<title End>

<title End>

タグと文字を含んだインデックスファイル タイトルにdogを含むページを検索したい

Page 8: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

Webページランキング (Googleの基本的アイデア)

Page 9: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

アーニーのスクランブル エッグレシピ

ボウルで4個の卵と 塩胡椒少々を混ぜる・・・

バートのスクランブル エッグレシピ

まず大さじ1杯のバターを 溶かす・・・

アーニーのレシピ はよい

バートのレシピは とてもいい

私はバートのレシピが本当に気に入った

バートのレシピは すばらしい

パートのページを参照しているリンクが3つ アーニーのページを参照しているリンクが1つ →バートのページ評価>アーニーのページ評価

ハイパーリンク トリック

Page 10: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

アーニーのスクランブル エッグレシピ

ボウルで4個の卵と 塩胡椒少々を混ぜる・・・

バートのスクランブル エッグレシピ

まず大さじ1杯のバターを 溶かす・・・

ジョン・マコーミックの ホームページ

私は一度アーニーのレシピ を試してみたが、決して悪い ものではなかった。

アリス・ウォーターズの ホームページ

バートのレシピは、間違いなく 最良のレシピの1つだ。

ジョン・マコーミック:コンピュータ科学者 アリス・ウォーターズ:有名なシェフ →バートのページ評価>アーニーのページ評価 でも,コンピュータはどちらが権威をもつページなのか分からない

オーソリティ トリック

Page 11: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

アーニーのスクランブル エッグレシピ

ボウルで4個の卵と 塩胡椒少々を混ぜる・・・

バートのスクランブル エッグレシピ

まず大さじ1杯のバターを 溶かす・・・

ジョン・マコーミックの ホームページ

私は一度アーニーのレシピ を試してみたが、決して悪い ものではなかった。

アリス・ウォーターズの ホームページ

バートのレシピは、間違いなく 最良のレシピの1つだ。

2

2

100

100

1 1 1 1

1 1

1 1

1 1

・・・100pages・・・

オーソリティトリックの近似計算

Page 12: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

A B

C D E

ハイパーリンクの循環参照の例.A、B、Eページは、Aからスタートして、B、続いてEに移動し, 最後に出発点であるAに戻ってこれてしまうので循環参照を形成している。

A 2 2

B

1 C

1 D

2 E

A 4 4

B

1 C

1 D

4 E

循環参照によって起きる問題。 A、B、Eのスコアはいつも修正が必要になり、無限に大きくなっていってしまう。

循環参照問題

Page 13: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

濃い色:サーファーが訪れたページ 破線の矢印:ランダムな再スタート サーファーは、Aからスタートし、2回のランダムな再スタートをはさんで, ランダムにハイパーリンクを選択している。

B

A

C

D

ランダムサーファーモデル

Page 14: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

A

B

C

D 118 126 144 101

109

55 55

74

32

58

16

46

15

21

17

13

A

B

C

D 13% 14% 10%

10%

4%

7% 5%

2%

4%

2%

4% 4%

2%

2%

2%

15%

1000回 (訪問回数)

100万回 (訪問割合)

ランダムサーファーモデルの シミュレーション

Page 15: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

アーニーのスクランブル エッグレシピ

バートのスクランブル エッグレシピ

1%

ジョン・マコーミックの ホームページ

アリス・ウォーターズの ホームページ

0.4%

・・・100pages・・・

28%

1% 32%

0.4% 0.4% 0.4%

0.4% 0.4%

0.4% 0.4%

0.4% 0.4%

サーファーオーソリティ(1)

Page 16: 検索エンジン 索引ファイル...the dog stood on the mat the cat stood while a dog sat 1,2,3のWebページから成るWWW a 3 cat 1 3 dog 2 3 mat 1 2 on 1 2 sat 1 3 stood

A 33% 31%

B

3% 30% 3%

C D E

サーファーオーソリティ(2)