of 32 /32
Simulation des raisonnements éthiques par logiques non-monotones Stephen Larroque [email protected] Synthèse des formalismes et architectures de raisonnements éthiques computationnels 30 Juin 2014 RJCIA 2014

Simulation des raisonnements éthiques par logiques non-monotones

  • View
    136

  • Download
    2

Embed Size (px)

DESCRIPTION

Slides de la présentation donnée à la RJCIA 2014.

Citation preview

Page 1: Simulation des raisonnements éthiques par logiques non-monotones

Simulation desraisonnements éthiques

par logiques non-monotones

Stephen Larroque

[email protected]

Synthèse des formalismes et architecturesde raisonnements éthiques computationnels

30 Juin 2014

RJCIA 2014

Page 2: Simulation des raisonnements éthiques par logiques non-monotones

Qu’est-ce que l’éthique ?

• Plusieurs acceptions différentes

• Point d’accord: c’est une faculté essentielle à la décision humaine

• Notre définition: but de l’éthique = favoriser bonnes actions et prévenir les mauvaises selon un ou des critères à définir.

• Convention: morale et éthique aucune différence (comme leurs étymologies)

4

Page 3: Simulation des raisonnements éthiques par logiques non-monotones

Pourquoi modéliser l’éthique?

• Analyse des systèmes éthiques (philosophie, droit)

• Résoudre dilemmes = autonomie dans choix conflictuels

• Bienveillance et confidentialité assurée

• Nécessaire à la décision autonome

5

Page 4: Simulation des raisonnements éthiques par logiques non-monotones

Quelles applications?

• Militaire: drones embarqués, aide à la décision

• Systèmes gérant des données privées (systèmes médicaux, réseaux sociaux, Big Data)

• Systèmes autonomes, surtout si sociable

• Judiciaire et législatif

• Ethical blindness6

Page 5: Simulation des raisonnements éthiques par logiques non-monotones

Robot menteur?

Est-ce qu’un robot devrait pouvoir mentir ?

7

Page 6: Simulation des raisonnements éthiques par logiques non-monotones

Comment modéliser une éthique?

• Modèle du monde (atomes, prédicats)

• Système éthique, composé de règles éthiques (ce qui est juste/injuste)

• Sens commun = causalité

8

Page 7: Simulation des raisonnements éthiques par logiques non-monotones

Logique déontique et dilemme

10

Q : on nous pose une questionL : mentirM : John meurt

Modèle monde

Page 8: Simulation des raisonnements éthiques par logiques non-monotones

Logique déontique et dilemme

11

Q : on nous pose une questionL : mentirM : John meurt

OB(Q -> ~L)OB(~M)OB(~L -> M)

On ne doit pas mentir

On ne veut pas que John meure

Si on ne ment pas, John meurt

Modèle monde

Système éthique

Causalité

{

Page 9: Simulation des raisonnements éthiques par logiques non-monotones

Logique déontique et dilemme

Freddie, qui veut tuer John, nous demande où il est. Que répondre?

12

Q : on nous pose une questionL : mentirM : John meurt

OB(Q -> ~L)OB(~M)OB(~L -> M)

On ne doit pas mentir

On ne veut pas que John meure

Si on ne ment pas, John meurt

Modèle monde

Système éthique

Causalité

{

Page 10: Simulation des raisonnements éthiques par logiques non-monotones

Logique déontique et dilemme

Freddie, qui veut tuer John, nous demande où il est. Que répondre?

13

Q : on nous pose une questionL : mentirM : John meurt

OB(Q -> ~L)OB(~M)OB(~L -> M)

Q.

On ne doit pas mentir

On ne veut pas que John meure

Si on ne ment pas, John meurt

Modèle monde

Système éthique

Causalité

{

Page 11: Simulation des raisonnements éthiques par logiques non-monotones

Logique déontique et dilemme

Freddie, qui veut tuer John, nous demande où il est. Que répondre?

14

Q : on nous pose une questionL : mentirM : John meurt

OB(Q -> ~L)OB(~M)OB(~L -> M)

Q.OB(~L)

On ne doit pas mentir

On ne veut pas que John meure

Si on ne ment pas, John meurt

Modèle monde

Système éthique

Causalité

{

Page 12: Simulation des raisonnements éthiques par logiques non-monotones

Logique déontique et dilemme

Freddie, qui veut tuer John, nous demande où il est. Que répondre?

15

Q : on nous pose une questionL : mentirM : John meurt

OB(Q -> ~L)OB(~M)OB(~L -> M)

Q.OB(~L)OB(M) => Contradiction!

On ne doit pas mentir

On ne veut pas que John meure

Si on ne ment pas, John meurt

Modèle monde

Système éthique

Causalité

{

Page 13: Simulation des raisonnements éthiques par logiques non-monotones

Logiques non monotones• Conséquences non monotones :

ajout d’axiomes peut réduire l’ensemble des conséquences

• Propriétés typiques :– Défauts (déduction si pas de preuve du contraire)– Abduction (déduction du plus vraisemblable par

élimination)– Auto-épistémie (sait ce qu’on ne sait pas)– Révisabilité (nouvelles connaissances peuvent

rétracter d’anciennes)– Prospectivité (explorer conséquences en avant)

16

Page 14: Simulation des raisonnements éthiques par logiques non-monotones

Answer Set Programming• Logique non-monotone, résout NP-hard, univers de

Herbrand

• Answer set (solution) = sous-ensembles minimaux satisfaisant toutes les règles

• ~: négation classique (explicite) (monde ouvert)

• not: négation par échec (monde clos)

• Propriétés : prospectivité, révisabilité, défauts, auto-épistémie (simpliste via nég. par échec), abduction (extension) 17

Page 15: Simulation des raisonnements éthiques par logiques non-monotones

AnsProlog* et dilemme

• Solutions:– AS1: {q, l}– AS2: {q, ~l, m}

18

q :- -l.-l :- m.q.{m}. Règle de choix

Page 16: Simulation des raisonnements éthiques par logiques non-monotones

ASP éthique

• Éthiques conséquentialistes→ altruisme, égoisme, utilitarisme, ...

prédicats: just, unjust, good, bad, worse...

19

(Ganascia 2007)

Page 17: Simulation des raisonnements éthiques par logiques non-monotones

ASP éthique

• Éthiques conséquentialistes→ altruisme, égoisme, utilitarisme, ...

prédicats: just, unjust, good, bad, worse...

20

(Ganascia 2007)

worse(murder, lie)

Page 18: Simulation des raisonnements éthiques par logiques non-monotones

ASP éthique

• Éthiques conséquentialistes→ altruisme, égoisme, utilitarisme, ...

prédicats: just, unjust, good, bad, worse...

• Méta-éthique Kantienne→ universalisme

prédicats: maxim, bind, possible_society

21

(Ganascia 2007)

worse(murder, lie)

Page 19: Simulation des raisonnements éthiques par logiques non-monotones

ASP éthique

• Éthiques conséquentialistes→ altruisme, égoisme, utilitarisme, ...

prédicats: just, unjust, good, bad, worse...

• Méta-éthique Kantienne→ universalisme

prédicats: maxim, bind, possible_society

22

(Ganascia 2007)

worse(murder, lie)

possible_society ← trust(P).← not possible_society.

Page 20: Simulation des raisonnements éthiques par logiques non-monotones

ASP éthique

• Éthiques conséquentialistes→ altruisme, égoisme, utilitarisme, ...

prédicats: just, unjust, good, bad, worse...

• Méta-éthique Kantienne→ universalisme

prédicats: maxim, bind, possible_society

• Théorie des Principes de Constant

23

(Ganascia 2007)

worse(murder, lie)

possible_society ← trust(P).← not possible_society.

Page 21: Simulation des raisonnements éthiques par logiques non-monotones

ASP éthique

• Éthiques conséquentialistes→ altruisme, égoisme, utilitarisme, ...

prédicats: just, unjust, good, bad, worse...

• Méta-éthique Kantienne→ universalisme

prédicats: maxim, bind, possible_society

• Théorie des Principes de Constant

24

(Ganascia 2007)

worse(murder, lie)

possible_society ← trust(P).← not possible_society.

Page 22: Simulation des raisonnements éthiques par logiques non-monotones

Substrat éthique stratifié

25

(Bringsjord 2013)

→ Analogue à la théorie du raisonnement dual

Page 23: Simulation des raisonnements éthiques par logiques non-monotones

Autres approches• Logique prospective (Pereira 2007) et Normative BDI

(Tufis 2012)

• Raisonnement analogico-déductif(Bringsjord 2012)

• Defeasible deontic logic(McCarty 1994),Paraconsistent deontic logic(Costa 1986), …

• ANNEC (Artificial Neural Networkfor ethical classification)(Honarvar 2009)

• Logique des commandements divins (Bringsjord 2012)26

Page 24: Simulation des raisonnements éthiques par logiques non-monotones

Conclusion et ouverture• Robuste résolution des dilemmes éthiques

(logiques non-monotones, substrat éthique)

• Modélise (toutes?) les variations de raisonnements éthiques

• Nombreuses applications : de l’analyse à la conception de systèmes éthiques autonomes

• Mais insuffisant, concepteur fournit plusieurs biais:– Volonté? Intentions? (système éthique)

→ Agents Normatifs BDI, philosophie de l’action, logique de l’action, etc.

– Causalité et sens commun? (règles de causalité)→ Théorie de la connaissance (logique auto-épistémique ?)→ Énactivité, ontologies 27

Page 25: Simulation des raisonnements éthiques par logiques non-monotones

– Ethical System Formalization using Non-Monotonic Logics, J.-G. Ganascia, 2007, Proc. of the Cognitive Science conference (CogSci2007)

– Ethical Regulation of robots is Not Optional, S. Bringsjord and N. S. Govindarajulu, 2013

– Modelling morality with prospective logic, L. M. Pereira and A. Saptawijaya, 2007, in Progress in Artificial Intelligence

– Nonmonotonic foundations for deontic logic, J. F. Horty, 1997, in Defeasible deontic logic

– Psychometric Artificial General Intelligence: The Piaget-MacGuyver Room, S. Bringsjord and J. Licato, 2012, in Theoretical Foundations of Artificial General Intelligence

– Using non-monotonic logics to model machine ethics, J.-G. Ganascia, 2007, Proc. of the international Computer Ethics Conference (CEPE 2007)

– An artificial neural network approach for creating an ethical artificial agent, A.R. Honarvar and N. Ghasem-Aghaee, 2009, IEEE International Symposium on Computational Intelligence in Robotics and Automation (CIRA)

– Introducing Divine-Command Robot Ethics, chapter in Robot Ethics: The Ethical and Social Implications of Robotics, S. Bringsjord and J. Taylor, 2012

Références (partielles) slideshare.net/LRQ3000

Page 26: Simulation des raisonnements éthiques par logiques non-monotones

Merci! slideshare.net/LRQ3000

Page 27: Simulation des raisonnements éthiques par logiques non-monotones

Slides Bonus

Page 28: Simulation des raisonnements éthiques par logiques non-monotones

Logique des défauts

Comment définir D en pratique ?

=> Remplacer D(x,y) par M(x) ?

35

Q(x) : x nous pose une questionL(x) : mentir à xM(x) : x meurtD(x,y) : x est un danger pour y

Q(x) : ~D(x, John) ~L(x)

(Reiter 1980 ; Horty 1997)

Page 29: Simulation des raisonnements éthiques par logiques non-monotones

Logique des défauts

Toujours vrai car John n’est pas mort au moment de la question.

Pas de prospection ni de révisabilité !

36

Q(x) : x nous pose une questionL(x) : mentir à xM(x) : x meurtD(x,y) : x est un danger pour y

Q(x) : M(John) ~L(x)

Page 30: Simulation des raisonnements éthiques par logiques non-monotones

AnsProlog* et dilemme

37

csq(A, S, A) <- .

csq(A, S, B) <- csq(A, S, C), csq(C, S, B).

csq(tell(“I”, truth), s0, murder) <- .

Une autre modélisation du dilemme (Ganascia, 2007) :

Utilisez l'interpréteur Lparse + smodel pour exécuter lesprogrammes. Un GUI pour AnsProlog est disponible ici :

www.baral.us/bookone/ansprolog/

Page 31: Simulation des raisonnements éthiques par logiques non-monotones

Logique déontique et FD

38

Attacking factual detachment in deontic logic :

http://philosophy.stackexchange.com/a/7439

Page 32: Simulation des raisonnements éthiques par logiques non-monotones

THE END