リスク工学概論第 5 回- ソフトコンピューティング -

平成 23 年度宮本定明

教科書：リスク工学概論第 2 章

講義内容（ Contents ）• リスクの定義について（ Definitions of risks ）

– 定量的な定義 (definition with quantity)– 定性的な定義 (definition without quantity)

• リスクを扱う様々な道具 (tools handling risks)– 確率論 (probability)– 統計学 (statistics)– これらを含むソフトコンピューティング (soft

computing)

• リスク解析の諸相 (different aspects of risk analysis)

リスクの定義について• コミュニケーションとメディアの発達につれ、

リスク管理について個人や組織や社会全体の関心が高まってきた。経済学、工学、環境学、生物学、伝染病学、数学、哲学、心理学、社会学、経営学、政治学からこの分野への貢献がなされている。この結果リスクという言葉自体が多義的となってきた。リスク解析（ risk analysis ）やリスク評価（ risk assessment ）という用語は多様な意味で使われるようになり、リスク管理の問題には統一的アプローチが存在しない。（ J.Ansell, F. Wharton, eds., Risk: Analysis, Assessment and Management, 1992 ）Nowadays many disciplines are discussing risks, as a result the term of risks have different concepts, and there is no unified approach to risk management.

リスクの定義について• Risk の語源：アラビア語の risq 　あるいは　

　　　　　　　　　　　　ラテン語の risicum– アラビア語の risq の意味は「（神から）与えられ、それか

ら利益を得るもの」であり、偶然的かつ有利な結果– ラテン語の risicum は、偶然的かつ不利な出来事

• 現代フランス語の risque は主に否定的だが時々は肯定的な含蓄をもつ。たとえば、「リスクがなければ何も得られない」というように

• これに対して英語では ‘ run the risk of’’ 、‘at risk’ が危険にさらされるという意味をもつように、 risk という言葉ははっきり否定的な傾向があるThe word ‘risk’ has two origins: one is Arabic ‘risq’ which has positive

implication. On the other hand, Latin ‘risicum’ has negative meaning.The two has common concept of uncertainty.

リスクの定義について• 専門的文献では、リスクという言葉はある結果の偶然性の

計量（ measurement ）や結果のサイズやこれらの組合せ• 災害の例をとれば、リスクという言葉は、予期しない結果、

たとえば死者２０００人、あるいはその生起確率、たとえば１／１０００、さらにそれらの積、死者２名という統計的期待値

• 永い期間の間にリスクという言葉には異なる意味が、時々は矛盾するような意味が付されてきており、最近では、複合的な意味で使われている。中世ギリシャの解釈に近い単純な定義（有利不利を問わず、事象のサイズや確率の含みがない）は広まっていない。

• 広い定義：「リスクとは、意思決定（ decision ）や行動（ action ）に伴う意図外の (unintended) 、あるいは予期しない (unexpected) 結果のことである。」– 注：全く予期しないリスクは，予測不能

意思決定とリスク(Risk and decision making)

• 自然的意思決定 (naturalistic decision making)– 計量性をともなわない (no quantity evaluation)– 即時の意思決定 (immediate decision)– リスク認知の問題 (risk recognition)

• 計量にもとづく意思決定 (risk evaluation and decision making)– ポートフォリオ理論 (portfolio selection)– 期待効用最大化 (maximum expected utility)– リスク認知の観点から期待効用に対する疑問 (Problems in utility; prospect theory…)

ポートフォリオ最大化(Portfolio theory)

• リスクの計量に分散（変動性の指標）を使用• 一定の利益を確保しつつ，変動性を最小化（リ

スク最小化） [minimize risk and keep return]• 投資ポートフォリオ，というように，分散化の

意味で使われる [investment portfolio]

Mxmxm

tosubject

xxCxV

i

n

ii

n

ii

n

iji

n

jiAAiA jii

11

1

2

,

min

リスク下における意思決定(decision making under risk)

• 期待効用最大化 [Utility maximization]– プロスペクト [for prospect] 　　　　　　　　　　

　　に対して効用最大化 [maximize utility] ：

– 効用関数 u(x) は u(0)=0 の凸関数

• 批判 [Criticism]– Allais paradox– Prospect theory

),;...;,( 11 nn pxpx

)}()(max{ 11 nn xupxup u(x)

Allais Paradox• Gamble 1

– Gamble 1A: Get $1,000,000 with probability 100%– Gamble 1B: Get $1,000,000 with probability 89% get 0 with 1%, get $5,000,000 with 10%Gamble 1A と 1B のどちらを選ぶか？ (which bet do you

choose?)

• Gamble 2– Gamble 2A: get 0 with 89%, get $1,000,000 with 11%– Gamble 2B: get 0 with 90%, get $5,000,000 with 10%Gamble 2A と 2B のどちらを選ぶか？ (which do you choose?)

Gamble 1 では Gamble1A, Gamble 2 では Gamble2Bと答える人が多い

Allais Paradox• Gamble 1

– Gamble 1A: (1,1.0)– Gamble 1B: (1,0.89;0,0.01;5,0.1)– ⇒ Gamble 1A＞ 1B u(1)>0.89u(1)+0.1u(5) i.e. 0.11u(1) > 0.1u(5)

• Gamble 2– Gamble 2A: (0,0.89;0.11,1)– Gamble 2B: (0,0.90; 0.10;5) – ⇒ Gamble 2B>2A– 0.11u(1) < 0.1u(5)

期待効用理論に矛盾 contradicts with utility theory

Framing EffectsRecap: Round 1

• As a doctor in a position of authority, you have been informed that a disease will break out in your country next month and result in the deaths of 600 people. (either death or recovery is the outcome in each case). There are two possible vaccination programmes that you can undertake, and undertaking one precludes the other. Programme A will save 400 people with certainty. Programme B will save no one with probability 1/3 and 600 with probability 2/3.

• You choose: Programme A or B?

Framing EffectsRecap: Round 2

• As a doctor in a position of authority, you have been informed that a new disease will break out in your country next month. To fight this epidemic, one of two possible vaccination programmes is to be chosen, and undertaking one precludes the other. In programme A, 200 people will die with certainty. In programme B, there is a 2/3 chance that no one will die, and a 1/3 chance that 600 will die.

• You choose: Programme A or B?

B: ある種の癌 , A:医学検査 とする． 　ガン B があるとき，検査 A によって９５％ ＋ の結果がでる．ガン B がないとき，＋ の結果は５％である． ある人が検査A を受けたところ、＋の結果になった． この人がガン B である確率はどれくらいか？１． 95％２． 95% より少し高い３． 95% より少し低い４． 95％より低く、 20%程度５． 5%程度６． 1%以下７．次のように計算できる．．．

　ただし、ガン B は一般に一万人に一人見つかる

ベイズ推論における誤り

Error in a Bayesian inference

• We have a medical test for cancer. • Existence of cancer B will result in positive by 95%. • Non-existence of B will result in positive by 5 %.• Only one in 10,000 will have cancer B generally. • Suppose you had this test and got positive. • What is the probability that you actually have

cancer?

適切さの度合い• 形式論理のような厳密な扱いをする場合でも，

明晰な真偽の判定ができる場合は少ない– １＋１＝３である（明らかに偽）– あの娘はとても美しい（あいまい）– 正直な政治家はいない（明らかのようだが，あいま

い）– 宮本定明は 60歳である（限定的に真という意味で，

あいまい）• 現実と数学モデルとの対応関係

– 真／偽というよりも，適切か，あるいは適切でないか．– あいまい性を含んでいる

Degree of relevance• Seemingly logical sentences may have ambiguity:

– 1+1=3 (obviously false)– That girl is very pretty (ambiguous, subjective)– No politician is honest (seemingly true but ambiguous)– Sadaaki Miyamoto is 60 years old (true in a limited situation,

not universally true)

• Correspondence between reality and mathematical model– Relevance/irrelevance instead of truth/falsity– ambiguity

ファジィ集合とファジィ論理

• ファジィ論理：あいまいさと主観性を積極的に利用

• あいまいさを [0,1] の度合いとして解釈– 最も簡単なあいまいさの表現– 工学的・実用的

• ファジィ集合論は，数学モデルとしての位置づけ

• 数学の基礎としての位置づけにはない

Fuzzy logic and fuzzy sets

• Fuzzy logic: positive use of subjective judgments• Degree of relevance is interpreted as a number

between 0 and 1.– Simplest representation of ambiguity– Useful in engineering applications

• Fuzzy sets give a framework and tools for mathematical models

• It is not a framework to describe mathematics.

確率論とファジィ理論の対比• 確率・統計における 2 つの立場

– 頻度論，客観的確率– ベイジアン統計，主観確率の利用– 測度論的確率論，数学モデルと数学とを区別

• ファジィ理論– 集合論的直観を数学モデルに利用– ファジィ数学とファジィ数学モデルとは区別で

きるか？– はじめから主観的，客観的ファジィ理論は？– 確率論と比較すべき可能性理論を提案

Probability and fuzzy systems

• Viewpoints in probability/statistics– Frequency interpretation– Bayesian statistics with subjective probability– Probability based on measure theory

• Fuzzy systems– Set theoretical intuition is used in mathematical

models– Subjectivity is central– Possibility theory has been proposed.

確率と可能性

• 可能性という様相ー様相論理• 確率の場合，確率論理はあまり強力ではな

い• 可能性の度合いが，様相論理からすぐ生じ

るわけではないーー多様相論理の必要性• 多様相論理による可能性理論？

–レベル１，２，・・・の危険性，を記述可能– 危険事象への到達可能性

Probability and possibility

• Possibility is described by a modal logic operator.

• Probabilistic logic is not strong, and not useful.• The degree of possibility is not directly derived

from modal logic – multimodal logic is needed.• Possibility quantification by multimodal logic

– Crisis of Level 1, level 2, … can be described.– Attainability to critical events

システムを記述する言語 システムとは何か？

複合的要素から構成される対象の集まりの一側面で、まとまった機能を果たす

モデル（規範、模型）により記述される [A system is desribed by a model]

例 貴方がブランコに乗っている。この状態そのものはシステムではない。それを物理現象と捉えたとき、システムとして記述される

貴方の脳は高次のシステムであるといわれる。なぜなら、脳の諸側面について、システムとしての記述がされているからである

地球環境は大規模システムの典型だが、地球の一側面について（オゾン、二酸化炭素量など）述べられているのであって、地球すべてを論じているのではない。Systems and languages to describe systems

A system can be broadly defined as an integrated set of elements that accomplish a defined objective.From http://g2sebok.incose.org/documents/assets/MSS//Final/sh%20hdbk%202.2.pdf

model: a small representation or copy (of something) (Longman Dictionary of Contemporary English )　　　　 模型，見本，典型　（研究社新英和大辞典）

・数学モデル，統計モデル，システムモデル (mathematical model, statistical model, system model)

・情報処理におけるモデル (Models in information processing)　　データモデル (data models)　　計算のモデル (models for computation)　　人工知能－問題解決 (artificial intelligence: problem solving)　　認知心理学のモデル (models in cognitive psychology)

02

2

2

22

y

f

x

ff

数学モデル mathematical model

解析的計算 [analytical computation]

数値計算（計算機）[numerical computation]

統計モデルstatistical model

（標本データの性質を規定，予測）

（自然の性質を数学の言語で表現）

数式は言語の拡大機能

計算は「ならば」の拡大

回帰と分類について後述

Input

Output

regression classification

システムモデル (入出力関係の記述 )－制御， Neural NetSystem model (input-output relation) – control, neural network

入力input

出力output

Black Box

情報処理におけるモデル

データモデル：木（ tree ） data models 　表（ table ）

A B C D E

a1 b1 c1 d1 e1

a2 b2 c2 d2 e2

計算のモデル (model of computation)

1. 　チューリング機械（ Turing machine ）　　（無限のメモリをもつ理想化された計算機） an idealized computing machine with infinite memory

状態 (states)

テープ (tape)ヘッ

ド

現在、 Turing機械は実現されていないが、それにもかかわらず、 Turing機械は計算機科学の基礎

Although not actually realized, Turing machine is fundamental to computer science.

人工知能における「モデル」Artificial intelligence challenges traditional system sciences.

従来のモデルに対する挑戦

・統計モデル，システムモデル　 (statistical models, system models)

→　問題解決 (problem solving)

・数学モデル，物理モデル　 (mathematical model in physics)

→　非物理モデル（言語によるモデル non-physics model ）

認知心理学における情報処理モデル

(information processing model in cognitive psychology)

　　（物理モデル，システムモデルから情報処理モデルへ）

input output

Cadillac

beautiful

Subject

Relation

対象システム

人間によるモデリング

コンピュータによる計算

・伝統的システム科学

対象システム

コンピュータによる計算

・ハードな人工知能（モデリングのフェーズがない、問題解決）

システム科学と人工知能モデルについて

Real world system Modeling by humans Calculation by computers

Real world system Calculation by computers

Hard AI does not assume modeling phase by humans

人工知能におけるパラダイムシフト• ハードな人工知能

– 論理と計算ですべてを解決（問題解決機）– コンピュータは自然と人間をすべて記述する

　　　　（思い上がり？）– 不確実性（リスク）に対応できない

• ソフトな人工知能– 生物、人間の機構に学ぶ– 神経回路網コンピュータ–進化コンピュータ– 不確実性への対応

Paradigm shift in AI: from hard AI to soft AI Hard AI tries to solve everything by computer without any risk (uncertainty); Soft AI is based on biological/natural mechanism for computation; risks are assumed.

ソフトな人工知能 (soft AI)（ソフトコンピューティング soft

computing ）• ニューラルネットワーク (neural networks)

– アルゴリズムの自動生成 (algorithm generation)

– 非線形性の積極的利用 (nonlinearity)• 進化計算 (Evolutionary computation)

– 計算の自動進化• ファジィ (fuzzy system)

– 人間的論理 (human logic)• 生物科学的モデル

– Bio-inspired computing

ニューラルネットワークneural networks

人工神経回路網（ artificial neural network ）

非線形性 (nonlinearity) 非線形回帰、非線形分類

学習，最適化の新しいパラダイム(new paradigm of learning and optimization)

性能で従来法より良いか？ (better than traditional models?)

使いやすい (easy-to-use) 非線形統計モデル (nonlinear

statistical models) 脳科学と解析ツールとの分離

(separation between brain science and analysis tools)

ずいぶん簡単だが、 ...( looks too simple … )

ファジィ (fuzzy systems)

• 人間的論理 (human logic)• 寄せ鍋的体系• 使いやすさ (easy-to-use)

–速度が少し速すぎるなら少しブレーキを踏め (if speed is a bit too high, brake a bit.)

–速度が少し遅すぎるなら少しアクセルを踏め (if speed is a bit too low, accelerate a bit.)

速度「問題な日本語」によれば「ファジィ」は誤りで、「ファジー」が正しい

速度

少し速い少し遅い

ブレーキアクセル ０

少しブレーキ少しアクセル

ならば

進化計算（ evolutionary computation ）

• 生物進化の類推による　　　　　　　　　　　　　学習・最適化 (learning/optimization by analogy from biological evolution)

• ニューラルネットに類似　　　　　　　　　　　　　の考え方 (similar to neural nets )

• 従来法との比較？• 使いやすさ？• 進化するコンピュータ• Bio-inspired computing 011001100000110101001010011

図 1 ：リスク解析方法論の複合性

Toward better understanding and solutions of problems in risks; complexity of methodologies in risk analysis

図：リスクー１．リスク研究の４つのレイヤーと関連分野の現状

レイヤー１：リスク解析主問題：不確実性モデル

レイヤー２：リスク管理主問題：合理的意思決定モデルの妥当性限

界

レイヤー３：リスクコミュニケーション主問題：言語・概念の共有

レイヤー４：リスクガバナンス主問題：社会的受容・制度の合理性

リスク研究のキーコンセプト

数理・統計科学工学基礎

経営科学・工学応用

心理学・情報学

法学・社会学

関連学術分野

図 3 ：リスク解析方法論の階層性

図：リスクー１．リスク研究の４つのレイヤーと関連分野の現状

Layer 1: risk analysisMain problem ： uncertainty models

Layer 2: risk managementMain problem ： limitation in decision making

models

Layer 3 ： risk communicationMain problem ： common language and

concepts

Layer 4 ： Risk GovernanceMain problem ： acceptance in societies

Key concepts in risk studies

Fundamental engineering, mathematics

Applied engineering, management science

Psychology, informatics

law, sociology

Related fields

図 3 ：リスク解析方法論の階層性

まとめリスクの概念は多義的であり，その定義には定性

的・定量的，の 2種類がある．リスク解析のためのモデリング・ツールとしてソ

フトコンピューティングが考えられるソフトコンピューティングは，伝統的な確率的情報処理とニューラルネット・ファジィ・進化計算のような新しい分野が含まれる

システムモデルの概念も日進月歩である．リスク工学の方法論は複合的・動的・階層的構造

をもっており，これを進展させつつ，異分野間の情報交換を密にしなければならない

問題： to be announced in the lecture

ConclusionsThe concepts of risks are different, and there are

quantitative or qualitative definitions of risks.A promising modeling tool for risk analysis is soft

computing.Soft computing includes traditional probability and

statistics as well as new tools of neural networks, fuzzy sets, and evolutionary computation.

The methodology of risk engineering has complex, dynamic, and hierarchical structure. To develop the methodology and tools, exchange of information among different fields of sciences is necessary.

Problem for essay ： to be announced in the lecture