SEARLE, J.R. - Mentes, Cerebros y Programas

8/3/2019 SEARLE, J.R. - Mentes, Cerebros y Programas

http://slidepdf.com/reader/full/searle-jr-mentes-cerebros-y-programas 1/12

III. MENTES, CEREBROSY PROGRAMAS*

JOHN R, SEARLE

¿.OUÉ MpSRTANCIA sicológica y f i losóf ica debemos da r a los esfuerzos

rccientes que se han realizado para que las complttadoras simulen las ha-

bil idades cognoscit ivas del ser hr-rmano? Para tesponder a esta pregunta,

nr e parece út i l diferenciar entre lo qu e llamaré Ia (intel igencia art if ic ial)

"f uerte" e I A "débil" o "cautelosa". Segúrn a ra débil, el principal valor qu e

tiene la computadora en el estudio de la mente es ql le nos proporciona un a

hcrramienta mu y poderosa qu e no s permite, po r ejemplo, formular y com-

pr:clbarhipótesis de modo má s riguroso 1'preciso. Empero, en la Ia "fuerte",

la computadora no es tan sólo u¡a herramienta para est l ldiar la mente;

rurásbien, la computadora programada adectradamente es t 'ealmente un a

nrente en el sent ido de que puede decirse literalmente que lascomputadoras

Llue CUenf n co n prggramaS correc(oS cot t tpret tdet ty poseen ot tos estadOs

cognoscit ivos. En la IA fuerte, como la comprttadora progranrada cuenta

c6 n estados cognoscit ivos, lo s programas no Son meras herramientas qu e

no s permiten probar las explicaciones psicológicas, sino que los programas

constituyen po r sí mismos la s explicaciones

No tengo ninguna obieción a lo que se dice acerca de la IA débil, al menos

er-r o qu e concierne a este artículo. Mi exposición aquí I 'ersará en tor-no a

las af irmaciones que he hecho acerca de la tn fuerte, específ icamente en

t()rno a la af irmación cl equ e la computadora programada adecuadamente

t iene literalmente estados cognit ivos-v

que, en consecuencia, lo s programas

explican la cognición humana. A part ir de ahora, cuando me ref iera a Ia

tA enclré en mánte la versión Fuerte, al cual queda expresada por estas do s

aseveraciones.consideraré la obra de Roger Schank y su s colegas en Yale (Schank y

Abelson, 1977), porque me encuentro má s famil iarizado co n ella que con

ctralesquiera otras aseveraciones similares, y porque oFrece tr n ejemplo

ntuy cláro clel t ipo de trabajo qu e deseo examinar. Pero nada de lo que a

continuación se presenta depende de lo s detalles de lo s programas de

Schank, pues los mismos argumentos se podrían apl icar al SHRDLU

de Winogiad (Winograd, 1973), a1 ELIZA. de Weizenbaum (Weizenbaum,

* JolrnR. Searle, Minds,Brains,an d Programs", lr cBehavioral nd Brait tscietrces,3, 1980,pp.417-424. 198ó,Cambridge nÑersity ressReproducido on pemiso de

CambridgeUniversityPress del autor.

lvlENTES,FI{EBROS I'R()(tR¡\trtAS s:

19ó-5) 'c le hecho a ct ralquier-s imt r lac i r in e. r r í rqt r ina cl e Trrr . i .s cl e fenó-menos mentales ht r lnanos.

Nltr-vbre'emente, v dejando de lado'ar i .s c letai les , el pr .ogr . : r . ra deSchank ptrede describirse de la sigr-riente raner.¿r: l p' .prisito clel r, ,g.rmaconsiste en simular la capacidad hunrara para c().rpr-e.der. relat.s. un acaracter ís t ica de la capac ic lad de los ser.eshrrnra.os par.¿ i .mprenc lerrelatos es que éstos pueden

responcle. pregrntas acel.ca clc-l -elaro, atrncuando la información qr-re .opor-cionen nrrnca se hava establccici lr exolí-c i tamenle en el relato. Así pues. por.ejenrplo, srrp{}ngaqu e cs(.ucl,a la s¡_guiente historia: "u n honrbre entró a un rest¿llr.antc r, or.clerró rn:r haln-burguesa. cuando se la s in ' ieron, estaba t r ta l r re. te qrre. r l rc la,as í <¡'e erhombre estalló en cólera v abanclonó el restarrr.ante irr. irso, , ir, ¡rngu. rahamburguesa ni deja. propina." Aho'a bien, si re pr-eetrntan,or, ". . .s" co'rióel hombre la hamburguesa?", usted probabre. re. tJ respor-rc le, r íá: . .No,

nose a comió." De igual maner-a, si ustec, l scrrch¿ro sigtrie.te: "[Jn hor'breent ró a u n restau.anre'oldenó t ¡ l r ¡ r l ¡ . rbr¡ lqrresr . cra.. l , , st ' l lr s i r . , , . ie l .on,le agradó mucho. Al sali. del r-estau.ante, e Jc. ió a la nlescr.¿r

'r age'erosa

propina antes de pagar la ctrenta." Si se e pr'r.gu11ta:¿S e co'rit i"f

lro,.br-ela -hambtrrguesa?", usted probablen-rente .esponcrería: "Sí,

se la crmió., ,Ahora bjen, la s máquinas de schank ptreclen e.s¡,orr. ier , .eguntas sir¡i lar-esacerca de restaurantes formuladas en estos ér.nrinos.par.al i¿rce.rlc),Llentanco n un a "representación" clel t ipo de inltornración qlre poseen l. s sereshumanos acerca de los r-estau.antes, a cual les per. ' r i{e resp.rcler-l)r-eg'n-ta s como la s antes mencionadas, dado ester ip. de relat.s. c,,r,rr. lo se pr-()-porc iona el relato a la máqr-r ina'se le hace la pr-eg'nt¿r , r r rpr . inr i r . í r-es-puestas de l t ip. de las qr-re speraríamos qr-re l ier:rri los se'es hrrrr ' tnos alescuchar relatos similares. Lo s part iclar. ios de la lR ftrer-teaf ir.nr¿rn ilre enestasecuencia de pregr-rntas respLlestas ¿rmáquina no sólo s inr t r la un ahabi l idac l humana, s ino qu e también:

1) puede deci rse l i teralmente qu e la nráqrr nacct r r tprer t r lc l re lat . y pro-porc iona respuestas a las pr.egrrntas,

2) lo que la máquina y su programa hacen es ex\t l ic.r la cap¿rciclacl u-mana de comprender el relato r. responder.p. "g, ,n iu, ¡r. .", .ca e el .

A mí me parece qu e ningtrna de estas do s afirmaciones c.crrc.rr.a unsostén total en el trabajo de Schank, ' como intentaré clemostr.ar a conti-nuac ión.

un a manera de probar cualquier teoría cle a n-re.te estriba en preg'n-tarse a un o mismo qu é suceder' ía s i nr i mente realrnente ftrncionara sobrelos principios con que Ia teoría dice que funci.nan toclas as n-rentes.Apli-quemos esta prueba al programa de Schank con el sigrrie nre Gerlanketrcx-

I No pretendo ecir, laroestá, ueel propioSchank eencuentre ornprometicloo¡estas firmaciones.



S,1 I',IENTES,CEREBROSY PROGRAITIAS

pcrimerlt.Supongamosque estoyencerrad,o n un a habitaciónv que seme

propo..io.ru'un f-ajo randede textosescr"itos n chino Supongamosade-

rna, (.o-o" ,

d" h"iho el caso)qu e no sé chino' ni escrito ni hablado'

y qr-re i siquiera tengo la certeza de.poder reconocer la escritura china

como tal, distinguiénáola,por ejempló, de la escritura aponesao de una

sel.ie e garabatossi n signiiicadt alguno.Para mí , la escritura chi'a sólo

esun a r"il" d" garabatoJsinsentido.Ahorabien,suponganlosqu e despuésá" .".ibi. est" á; o de extosen chino, se me proporcionaotro que contiene

un a serie de reglas para relacionar el sepgndo fa'ioco n el primero La s

r.eglas stánen nglei v la sentiendo an bien como cualquierotro hablante

cl eesta engua.Me permiten establecer na correlación entre un conjun-

to de sírnbolos ormalesy otro conjunto de símbolos or-males.on "fonnal"

sólo quiero decir aquí qrr" p,,,e.lodentificar lo s símboloscompletamente

po. ,tu formas. S.tpo.rgu*.rs también ahora que recibo un tercer faio

cl esímbolos chinos i.rrio .o r algunas nstr'cciones, otra'e z

en inglés,

qlle me per-rniten orrelacionar elementosde este ercer faio co n lo s do s

primeros, v que estas eglasme instmven acercade cómo responderco n

.i",ro, símbólos chinos de cierta forma a ciertos lipos de forrna que me

lireron proporcionadas en el tercer faio' Sin yo saber'lo, aspêl'sonas ue

nr edierón todosestos ímbolos laman "manuscrito"al primerfajo, "relato"

al segundov "preguntas"al tercero.Además, laman "l'espLrestasla s pre-

,.t.rür"^

lo, ,l-üolos que doy en respuestaal tercer fajo' y al coniunto de

iegl.s en inglés qu e-é

p.opor.ionaron lo llaman "e l programa" Ahora

bien, sól,r para complicar la historia un poco, maginemos que estasper-

sc,nas amtién me proporcionan relatos en inglés,qtle vo comprendo'

v que luego me hacé' preg.ntas en ingléssobre esos elatosv vo les res-

p,rr-r.loambi¿n en ingiés. Supo'gamos también que despttésde tt n rato

i,)gr,, "gui. tan bien ia s instmccionespara descifl'ar os símboloschinos

,, ü, p.o-grrrrrradoresogran escribir tan bien los programas desdeun punto

cle ista externo esto es ,desde a perspectiva e alg¡ien qlle se encuentra

ftrera de la habitación cloncle stoyencerrado- qtte mis respuestas la s

pleguntas pr-reden istinguirse en absoltttode ia s qu e proporcionaría tt nirablanted" l chit o. Nadiequesóloobsen'aramis respuestas odríaafirrnar

qlle no hablo ni un a paiabra de chino. Supongamos ambién qne mis res-

¡,i-restas la s preguntasen inglés so n (qué dr,rda abe) ndistingrriblesde

ia s cle otros hablantesde l inglés, por la sencilla razón de qu e )' o sc)' tl n

hablante de esta engua. Desdeel ptrnto de vista externo -e l de alguien,.¡ueea mi s "respuestas"-, las contestaciones la s preguntasen chino

v . lu. preguntasen inglésso n gualmentebuenas.Empero, en el caso del

chino, a cliferencia el inglés, c¡r-rnulo is respuestasmedianteel manejo

cl esímboios forrnalesno intetpretados,En lo que respectaal chino, nl e

cclmporto simplen-rente omo una computado¡a; realizo operacionesde

lvfENI-ES, EI?LBIiOSpROGR;\IIAS ¡s

cómputo co n base en elementos especif icados l 'onnalmente. En cuanto alchino, no so\-más q' e un ejemplo concreto del p'oer.arrra de t¡na c()mp'-tadora.

Ahora bien, la s al-in¡aciones acerca de Ia t, q f.er. te est i¡-r ' lan c¡-re acomputaclora programada compr.cnde lo s relatos v qu.,

"lp,. . ,g,-a,r-ra. ipl ica

en cierto senticlo la conrprensión humana. Sir-r nrbarg,r, n,-ra.-"r-r.orrt¡an)os

ahora en una posición qrle no s perrnite exalninar estas alir.nraciones a lalu z de nuestro experirnento clel pensamiento.

1/ En lo qu e respecra a la pr-imera asever-acirjn,me pal.gcre asta¡te ¡6vioen el ejempl() qLle no entie'do un a sola palabra cl e os r.elatr¡s hi ' .s. Mi sentradas v salidas de información so n ir-rcl ist ingtribles e las rl e r¡ n ¡abl¿rntechino y'aunqlle pueda contar co n el p'oe.a, 'a forr,-.ral ll e s. - qr-rier.a, ig 'si n ente'der nada. Po r la misma raz.ó¡-t ,zr co'putacl ' r 'a cle .sclra. l. ,oent iende rada de ningú. relato, se a en chino, en ingrés o en Io cr.e sca, yaque, en el caso clel chino, la cornputador.a so\¡ ¡o, v en l.¡s casos en qLle nosol' la computador-a, el la no t iene más que yo'en el caso en que ll . cnt ienc lonada.

2) F.nlo que concier-ne a la segunda afi l ' ' ració' , c1,eel pl.()gr-.rra explicala cor-nprensión

hunrana, podemos obsen.a' qu e la cornprrJora v sL lpuo-granra no aportan sr¡ f ic ientes condic iorres de conrpi -ens i r in, ya qrre lacomputadora v el programa se encuentl 'an en frrr-lciorr¿rnrierrto1, rD llaycotnprensión. No obstan'.e,¿proporci<.rna iqr. l i¿¡.2 na condicirin neccsar. lao hace un a contr-ibuciór-r signif icante parzr la cornpr..-nsi<in? ln o cl,¡ .¡sargulrentos de los clefensores de la ln f trerte es cli le crr¿rncl¡l o¡¡)l .e¡ct() 1l ¡relato en inglés, lo que hago es c-\actanle' te lo rnismo, o quiz-: i alg, nr: is,qu e hacía al manejar lo s sí rnbolos cJr i r ros.Es tan só1, , rn i r - r r¿rni ¡ ru lac ior . rsin-rbólican'rás ormal lo que dist ingue el caso del ir igles, qu e sÍ c,nr¡-,rc.rrclo,de l de chino, qLleno conrprendo. Arrnque n.., re clenro-*tr.ácloa falsedacl cl cesleargunlell to, clertamente parece incrt íble en el e. jenrplo.La cl.eclibi l ic iaclqu e tiene el argurnento proviene de la strposición de qtrr: podenrrs cr.car.un programa qu e tenga ia s mismas entr.at jas

1,salidas qrre lo s habl¿rntes

nativos, además de suponer qu e lo s hablarrtes t iene'r. l lgírn nivel cle cles-cr ipc ión en el qu e tarnbién el los so n ejempl .s c , ,ncr-etosde rrn l l rogr .¿rrr : r .Sobre la base de estas dos ir ipótesis supollenlos cILre un cuanclt¡ el ¡r^rg'a-ma de Schank no sea a historia completa de la cornpr-errsi irn, í ¡ruccleser.parte de ella. Br-reno, lrpongo qu e es un a posibil idad ernpít ica, ¡ iero lrastaahora no se ha oft 'eci. lo la más rnínima razírn p;rr-a rL-er.qrre ea cierta, yaqrie o qLleel ejemplo sugiere --aunque ciertamente lro t lerntrestr-a-- es qll€el programa de la computadora es sencil larnente ilr.elevante par-ant i r:orn-prens ión del re lato. En el casc de i c l r ino r ,err r .ooc lo Io qtrc la i r r te l igt ,nt . iaart i f ic ial puede poner dentro de mí medianre Ll n prosr.anra, .\ ¡ o entienclcrnada; en e] caso de l inelés enl iendo toc lo v hasta el n lornenro no eriste



I] 6 MENTES, CEREBROS PROGRAMAS

absolutamente nlnguna razón para suponer qu e mi comprensión t iene aigo

qLle ve r co n prograrrtut ¿t cámputadora' ás clecir ' co n operaciones de

cómputo sobre puros elementos formalmente especif icados M-ientras el

; ; ; ; . se d"f i. ta en tér-minos de operaciones de cómputo sobre puros

elementos clef inidos fár"tu1"-'" ' -t te' lo qu e el ejemplo sugiere es qtre éstos

;; ; ; ; ; l ; t,, o gt. .dul

' ' t i t tgtt t 'orelacián interesante co n la comprensión'

Ciertameute .t o"* irt"t t

tof idit io' t" ' suf icientes v no se ha dado la más

mínima razón para ,a'pot"t ql le son condiciones necesarias' ni siquiera

qr-re ontribuyan cl e-ot '"tu

si!nif icat iva' a la comprensión' Nótese qu e la

frterz-aciel argumento no radiá sirnplemente en qu e máquinas diferentes

ñaur] teneilas mismas entradas -validas de información aunque operen

sobre diferentes principios formaies; éste' po r supuesto' t to."t:1

punto'

Meior dicho, cualesquiára qu e sean lo s principios puramente formales qu e

seint roducenenlacomputac lora 'nosetánsuñc ientesparalacomprensión'

Ya qu e un se r t lu-u, lo'p'"á"'"g' l i t

lo s principios fonrrales si n entender

r.rada.Tampoco se nu orr". i¿" . irór, ulgir.ra para suponer qu e tales prin-

c ip iossonneces¿1rt . " 'o ' iq" l " t 'acont r i -bu1' " ' - tt " ' 'p t t " tnosehadadora-z-ón algr-rnapuru ,npott" 'qtt" t t tu' ' t t io vo entiendo inglés' estov operando

con algún pro€Jranla for¡nal'IJLreno, entonces, ¿qtré es lo qu e tengo en el caso de .las oraciol les er l

inglés que no tengo"r. t l

.u,o de la s oraciones en chino? La respuesta obvia

es que sé lo que signif ican la s primeras' mientras qu e no tengo la má s

rnínima iclea acerca de l signif icado cl e as segundas Empero' ¿e n qué con-

siste esto y po r qtré ,r o p,, i . íu*os dárselo a rlna máquina' se a o qu e fuere?

Regresare o"rru

pr'"g.nta rnás adelante' pues primet 'o quiero contlnl lal '

co n el ejemplo.He tenido la oporturniclad de presentar este ejemplo a varios estudiosos

c le la intel igencia art if ic ial 1' reiulta interesante qu e no parecen estar de

act terdoco"ncrráles larépl i .caadecrrada.HeobtenidounaasombrosaVa-riedacl de r.éplicas y a continuación consideraré la s má s conlunes (que

especif icaré iunto co n su s orígenes geogr'áf icos)'Si n embaigo, antes quiero cletener algrrnos malentendidos comllnes

acerca de la "con-rprer-rsiZn": n muchas de estas discusiones se produce

un excesivo tejemaneje de la palabra "comprensión". Mi s crí t icos señalan

qrre ha y-.r.üo,

gruáo, cl i feientes de comprensión; qu e "comprensión"

r-. 'o"r. trt

simple pi". l i .udo de closposiciones' que incluso-existen dist intos

t ipos y niveles .1" compr"nsión v que a menudo la le y de l medio excluido

'isiquiera se aplica i" *ur]".o clirecta a enunciados de ia forma "¡ en -

t iendey"; ql le en muchos casos es una cuest ión de decis ión 1'no un a s imple

.rest ián de hecho cl esi r ent iende y, etcétera. A todos estos puntos qrriero

rlecir: po r supuesto, por supuesJo, pero nada tienen qu e ve r co n lo s puntos

e' n discusión. Hu¡' .u.os . la.os"t t

io t qt l" "comprensión" se aplica literal-

tvlENTES, lIrliFIlR(lS I'R()L]R;\N1A, n,

mcnte v casos ob' ios en que n. se apl ica; ] ,es tos c l rs t ipos cl e casos so ntodr lo qt re neces i to para este argunrento.z yo ent ienc lo r-elat 's en inglés;en menor g|ado, puedo entencler |elatos en l ' r-ancés; n nren()r.gr-aclo úrn,relatos en alemán, pero en chino, absol t r tanrente rac l¿r . or . r i t r¿rparte, miautomóvi l v mi s t r ' radora ro ent ienc len nac la: es e as'nto no

"n. - lest , in -

cumbencia. co n f i -ecuenc ia at r i l>uinos la cap: rc ic lac l le "conrpr-ens ión, ,yotros-predicados

cognil ivos po r nredio clc nretírf irr-a.. , u.uloiíns a allto-mór' i les, surnadoras v otros artefactos, ¡rer-o ad a s" pr:r,"tr. co]r tales at l. i-buciones. Decimos: "l a pue.t:r .sa,/ ;e rrinclo ¿rbr. i l .sc, ca.sa clt : st r celdafotoeléctrica", "l a sunrador-a.scl¡¿::rl t t to (ertrí t , rt t l t ,: t j t t to, , . \ . (t l)(tz, /r, / t rnrarv restar pero no dividir", v "e l tcr.nt<_rstlo ., t t , rt . ibccant bios rle t t nt t tcratur_a,, .La |azón poI - a qu e hacemos estas at r iLr t rc i , rncses Lrrs t lur t r . nt . , r -esantet lene qLle Ve r co n el hecho de qr-re n lo s artefactos extenc lenr6s ¡ t res l r -apropia intenc ional idad. r Nrrest r '¿rser lanr ientas so n extens i r ines cl enues-t ros propós i tos v, po r cons iguiente, nos parece nal t r la l at l i I r r i r - les i l t ten-c ional idad nretafór- icat rente. Si n enrbar-so,a rni . j r r ic io estos c. jenr¡r les rot ienen ningt rna importanc ia l - i losól - ica.El sel r l ic lo en r l qrre, , , , . ¡ - r . , " . tuautonlát ica "ent ienc le inst r t tcc io l les" : r pat - t i l cl e st r ce- lc l ¡ rotoc lóc l t - ica lt oes de ningt lna nlanera el ser-r t ic lon el c ¡r - re,o ent ienc lo inglés.

Si r: l se¡ t ic loen el qt re la conrpuladora prograrnac la cl e Scl larrk c , r , r r ¡ r r - " , r , .1"gs r .e- latoses sLrpuestamenle el sent ido rnetal 'ór . icoen r . l qu e la ¡, tr. , r a ¡r r l t l t tát icaent iende' l ro el sent ido en el que'o e' t ie 'c l , ingles, l l , , r 'a lc l r . r . ra penzrdiscut i r -e l ast r r - r to. in en-rbargo,Neu,el l v S i l r . lon (1961) t -scr . ib ier( ) . qrreel t ipo de co-enic i t in qu e at r ibt rvet r a la s conr l lutac lol 'as es e\act í lnrcnte elmismo qu e el de los seres ht rman, r* . Me agrac la a t .ect it t rcl le es la al i r .nt¿r_c ión Y es de l t ipo que cons idcr-até.Argrrnrental 'é qu e c¡ sr ' ¡ t ic le l i te¡al lacomputac lot 'a programada cot - t - tpt 'enc leo que el autonrór , i lv la srrrnac lor .a,es dec i r , exactantente nada. La corrrpr .ens iórrcl c la c,rlr l . rrtacl, , l¿t to esprec isamente (como mi conrpr-ens ión c lel alenrá. ) parc i : r l . i rc r r rpleta;es nula.

Pasentos ahora a las r-éul icas.

2 "Conlprensión" tal l lbién intpl ica tanto la post 'sión cle est l i los nlcnt¿rlcs (i rrt t . ¡ci6rrl les)cornr¡ l a Veraciclad (val idez, óxi to) de cl ichos estackrs. Pal a los l incs rl c csrc en¿i l isis rros l inri -tarc-mos a la posesión cle os estados.

' I -a i l l t t -t -tcional idad es, por dcf inicirin, la calacter' íst i r:a clc cicl tos rstrrlos rrrcnlales nrc.-diante la.ct tal se didgen a objetos v si tuaciones clc l ¡ r rurrr lo o sc ocupan cl c t ' l los. por.colrsi-guiet l te, la s creencias, lo s deseos v la s i l rtcrrcir¡ncs son rstados intcncionalcs, r)ricnt t as (luclas lonnas ¡, r j i rigides d(' í rngl t \ l i i l \ ( i ( . 11t, \ i , rt ) i lo l , r \ , I r l , ; i l ¡r n t ¡ r r0r i l l l , , ¡rl r; rr i , , l l , r, , , ; rsr,Seelh'(lqTqóL



MENTES, CEREBROSY PROGRAIVÍAS

1. LA NÉPUCA DE I-OS SISTE\{AS (BERKELEY)

Au n cuando es cier to que e l ind ivicluo encerrado en la habitación no entiende

;l-;;ht;, el hecho es que él es só¡¡ una parle de un sistema con'lpleto qtle sí

entiencle el relato. p,l inclividuo tiene anté sí un enorrne libro e' el que están

"r..i iu, lasreglas, ..,".,tu .ot gran cantidad cle pa-pel 1'láp,icespara realizar los

.á i ."f"r , t ienJ"bancos de datos" de lo s conjuntos de símbolos chino.s.Fntonces,

la comprensiór, .r., pr"J" u,¡b.r i.." sólo ai in¿i'iduo, sino a todo el sistema del

que él es sólo una Par1e.

Mi respuesta a la teoría de sistemas es mu y sencil la: permitarnos que el

inclividuá absorba toclos estos elementos de l sistema. Memoriza las.eglas

clel ibro y los bancos de datos de los símbolos chinos v hace todos- os cálcu-

lo s mentalmente. Luego, incorpora todo el sistema. No ha1'absolutamente

ll;rda en el sistema qr'"""

haya incorporado. Incluso poden'ros deshacer-

ros de la habitación -. r rpo.t"iqt'e trabaia al aire lib.e' De cualquier modo'

ir¡r entiende nada de .l-ti,to I'n firtiori tampoco el sistema' pues no hav nada

L. néste que no esté dentro de é1 .Si él no ent iende, entonces no ha Y modo

cl eqr-re i sistema entienda, pues el sistema essólo un a pañe de él '

E, n realidad, me siento algo molesto pcr clar incluso esta respuesta a la

1t-or-ía e sistemas,.va qlle, para empezar' , la teoría me parece bastante

irrverosímil. La idea es qlle aunqlle Llna persoila no entienda chino, \a cott-

iutrciót 'Lde es a p"r.orl^ -y de peiacitos de papel de alguna manera podúa

eiltencler chino. No me l-esulta fácil imaginar cónlo alguien, qlte no est l l-

r. ier-abaio el dolninio ci e un a ideología, podría considerar lerosímil esta

iriea. Incluso así, creo qu e muchas cl e la s personas conlprometidas co n

la icleoiogía de la l ¡ frrerie acabarán por decir algo mu ' parecido; as í qr-re

Si¡¡ar-nos .r poco más adelante. De acuerdo co n un a"'ersit in

de esta opinión,

", ,r,q.,"el htmbre clel ejempio de lo s sistemas incorporados no entienda

r, l i in1¡en el sentido"t

qr" Iohace tl n hablall te c.hino (porqt¡e, po r ejemplo'

rr, ,r abe que el relato se ref iere a restat l l 'antes y hambu¡guesas,-eic.), "e I

!r,)nrbr-een cuanto sistema cl e manipulación de símbolos forrnales" real '

: l ] t t t te í ent iendechinct .El subs is tema de l hombre que col ls t i tuve el s is tema

d, : nranipulación de símbolos forntales para ei chino no debe confrrndirse

r' , . 'nel subsistema para el inglés.

As í que en realidad existen do s subsistemas en el hombre: un o que en-

l i t ,ncle nglés y el otro, chino, -" -lo qu e sucede es que ambos sistemas tienen

Dluv poco qu e ver ent re sí " ' Si n embargo, quiero repl ic : r r qu e no sóio

t ienen mu y poco qu e ver entre sí, siuo qu e ni siquiera so n l'enlotamente

:;eme antes. El subsistema qu e comprende inglés (suponiendo que l)os per-

¡: i t iremos por el momento l-raplar co n esta jerga de "subsisl,emas") sabe

,l r e os relatos tratan de restaurantes y de comer hanrburguesas, sabe qu e

MENTES, EREBROSPROCIRAMAS 89

se le hacen preguntas acerca de restau'arltes y qu e está resporclie¡rclo lomejor que puede al Jracer varias inf i: rencias a part ir del conteniclo cie anarrat: ión, y así sucesivamente. Pero el sistema chino no sabe nada cl eesto.Mientras qu e el sistema inglés sabe que "hambur.guesas" se r.ef ier.e ham-burguesas, ei subsiste.ma chino sólo sabe qtre después cl e "gii ir. i gi i ir i" apa-rece un "guara guara". Todo lo que sabe es qlle lo s dist intos sírnbolos for-males

ingresan po r un ext l 'emo, se nraniprrlan confor-nre a r-cglase,scr. i ta.sen inglés y otros símbolos salen por el otro extrc-nro.Tocl,r c. l . ropósito clelejemplo original er a argurnentar qlle esa rnanipul¿rción de sírrr[ál<.,s ror-sÍmisma no bastaba para compre'de'chino en ningún sentido literal, p()rq. eel hombre podía escribir "guara guar-a"despuéscl e gii ir- i gi i ir- i" si n enl ender.nada de chino. Así que postular strbsistemas dentro de l f ionrbrr. . o sat sfac eel argumento, porque en pr-imer lugar, lo s srrbsisternas r)() se cncllentr.anen mejor posición qu e el l-rornble; no poseen nacla que se par.rrzc¿ricluier,aremotamente a lo que t ie¡re el hombre (o st rbs is terna)qu e habla i r rg lés.Dchecho, ta l como se desc l ibe el caso, el s rrbs is ter¡a chino es tan st i lo un apar le de l subs is tema inglés, una partc qrre nter l ienc en el r r rur¡ce cl c s í ¡ r -bolos carentes de signif icado confor.me a las r-eglns J., l nglr:s.

-

Preguntémonos qu é es, en plinrer lrrgar-, o qrre. upuest¿lri lerrtcr¡ot i\ ¡¿ral sisten-raa r-esponder; es decir, ¿qrré 'r-rndanrcntr)s tt t lelett t l i¿¡l(r.ssc sLl-

ponen para af i rmar qrre el agenter ebe p()seel . ¡n srrbs is tc . ¡ l l¿rlt ¡ l_r¡ l le s íqu e entiencla l i teralmente lelatos en chilro? Hi,sta clr¡rrrle rtreclodccir, lo súnicos fundamentos son que en el e. jenrplo vo tengo la r. is.r: i crrtr.aclasalida de infornación qu e los hablantes clel clr ino v un pr.ogl.anra qLre

'L re la una a l a otra. Pelo el propósito c¿rbalde k-r.s iernplos ll a siclo r terrt¿¡-demost rar qu e eso no bastaba pal 'a colnpl 'endcr en cl sent i.k, el r qr e vocomprenc io relatos er r inglés, porque Llna per-sol la. . \ 'p() r coi ls iquiente L- lconjunto de sistenras qu e la const ituven, ¡,odría 1ener. a conrbin¿rcirin r: t l_necta de entrada, saiicla v progr-ama v arrn as í no r.ntencler.nacla t-rr elsent iclo iteral pert inelt te en el qu e vo enliend,r inglés. I-a t inir: ; . r rot ivaci<inpara afirmar qu e debe exist ir rtrr srtbsistcma en nri interior c¡rre r.rrrrpr.e¡clc

chino es qlre vo tengo un prograrna v aprol. , t -ía pnreLra de 1' trr. ine; rrrecltrengar iat -a os hablantes nat . ivosdel chino. Pt r-o rno r ie ios ¡r t r ¡ tos e¡ c¡es,t ión es precisamente la suf iciencia cl e la ¡rr-ucb:rcl c -r-rrl irrr¡. il ejernplomuest ra que podría haberdr¡s "s is temas";ambos pasan a pmeba cl eTrrr ing,pero sólo nno c leel los ent iende; v no t iene sel t l i i | l arguntenlai .cont l .¿rest ( lpara decir que, como arnbos pasan la ¡lnreba dt r¡r ' i lrr ' . , ¿rnrl-rosc' lre¡conrprencier' , /a qu e esta af irmación no satisface c. l rr¡ lrnrento clt- 'c¡tre lsistenra dentro cl emí que complende inglés t iene nrtrcho nrás qrre el sis[enraqu e nada nrás procesa chino. En ¡rocas paialrras, l; r réplic: ;rc, l t os sistc¡rassenc i l lamelr te da po r sentada la cuest ión. r l ins is t i r s i i r argrrnre r tos r ¡ t rc elsistenra debe entcncler chino.



90 MENTES, EREBROSPROGR,A]\ÍS

Además, la réplica de lo s sistemas parecería condttcir a corrsecttencias

que son independientemente abs'rdás. Si hemos de concluir que debe

exist ir coglt ición en mí sobre la base de que tengo un a especie de entrada

v salida cl " infort t lación 1'un programa entre ambas' entonces pareceria

qtre todos lo s t ipos de subsisien-,as que no sean de cognición acabarán

,l"r-r¿o cognit ivos. Po r eiemplo, existe un ni'el de descripción en el cual mi

estómagJp.ocesa información ¡- eien'rpl i f ica co.cretamente cualqtr er can-t idad de p.ogru*^. cle conlpt ltadora, pero considero que no queremos

clecirque tiene comprensión alguna (cf. P¡-I1'shvn,1980). Pero sl aceptamos

la répúca cl e os sistemas, entonces resulta dif ici l" 'er

cómo podemos evitar

la af-irmación de qu e el estómago, el corazón, el hígado, etc., so n subsiste-

rras que .ort-rp."n. l"r-t , puesto que no ha y un a manera de principios para

dist inguir qué nos-oiir",u

a decir qr_re l subsistema chino entiende de

afirmlr qu. e l estómago entiende. Po r cief lo, decir que el sistema chino

t iene información cl e Átrada y cl e salicla v que el estómago tiene entrada

v salicla cl ealimentos v productos alimenticios no constit t lve un a respuesta

a esta cuest ió' , 1, aqul desde el punto de r, ista de l agente -desde mi punto

cl e vista- no existe información ni en la comida ni en el chino, pLles esta

lengua no es más qlle t lna serie de garabatoscarentes de signif icado La

información en el caso de chino se encLlentra exclusivamente en lo s oios

de lo s progran-raclores y de lo s intérpretes, v no ha1' nada qr're es impida

.or-,siderurl.omo información la s entradas ¡t salidas de mi s órganos diges-

l ivos, si as Í l t - - , esean.

El últ imo punto se ref iere a algunos a problemas independienles en la

lA [r-ler-te'aje

ia pena des' iarnos un poco pal'a explicarla. Si ]a.tn tuet ' te

ha de se r un u .u,r-tucle a psicología, entonces debe se r capaz de dist ingtrir

Ios sistemas que son genuinamente rnentaies de lo s que no lo son' Debe

se r capaz. de áist ing.rit - lo s principios sobre lo s qu e trabaja la nrente de

oquellos sobre lo s qure rabajan lo s sistemas no menlales; de no se r así, no

no s expi icará qué es especí f icamente mental en la mente Y la dis t inc ión

entre Áental) 'no

mentál no puede quedarse sólo en los o os de l espectador'

s ino qrre debe se r in l r ' í l lseca a los s is tenlas; de no sel 'as l . cada espec la-

do . pod.íu tratar a Ia gente como no mental y, por eiemplo, a los huracanes

conao menlales, si as i lo deseara. Si n embargo, mu v a nlenttdo en la l i te-

rat lrra sobre IA esta clist inción resulta confusa en aspectos que en el largo

plazo resultarían desastrosos para la af irmación de que la IR es una disci-

pl ina cognoscit iva. McCarlhy, po r ejemplo, escribe: "Puede decirse qu e

r-r-ráquinasan sencil las conlo los termostatos t ienen creencias y tener creen-

cias parece ser Llna característ ica de la mayoría de las máqtt inas capaces

cle solucionar problemas" (Mccarthl." 1979). Quien piense que la lA t iene

la probabil idad de ser un a teoría de la mente debe ponderar la s implica-

ciones cl e ese comentario. Se no s pide aceptar como descubrimiento de la

It,

FrF

EtFr.

tt,tl,ÍI¡

trI¡IE

I¡tI

E[.I¡

IVIENTFS, ]ERFBROS PRO(IRA]\JAS 9I

IA ue.te qu e el pedazocre.metarn ra par.ecl¡rrertiriza'ros Pa.aregurar atenrperatrrra iene c'eenciaseractamc-rte n el ,-risrlro entlcl,r n qu e no _sotros,nuestroscón-r,trgesnuestl.os ijos la s enenlos,v aclertrás,ue,,lantavoría"de la s demásntáquinasde Ia rabitaci, i¡ ,"1.,f"". , ' * l"baclora,umadora, nten-uptor- le trz- tarnbién iel lencret-ncias n estcsentidoliteral No es el propósi1o leestear1ícuro 'gr.re'rar.e, contl.¿rer pr_rnto

de M.ccarlhv,así que simpler.'entee,*p,r..rr.é., sigrrierrlc in criscrsión.Elestudiode Ia mente parte cr e echos1ur"r.,r , , .r , . ,rr c os rrrrnrar.s ienencreencias, tientras qu e os terntostatos, eléf no so ,un'..l.rr=,r,-rr. Si ,"obtieneun a teoríaqu e niegrre st epu'to, se rabr.áogr.aclo,,-, .,r-rtro"¡"--pl o de la teoríav éstaserá alsa.Se iene ra mpr.esi<iirre ltre rr-p",.roru,qlle se oclrpan de la L'\.vescribeneste ip o crecosas ricrrsa.r ., J pued",-,salirseco n a_suya, orqlle no la tonran eallnenteen ser.ir_rtantpocopien_san qlle lo s demás o harán. propong' q'c- al nrenosp,r,l r ,r-,.rr,,rentoaconsicleremoseriamente. ienseintensantertfelur_antern rl irrr to gu é senecesitaría ara establecer ll e es e roz()cl enreralen Ia par.eclie'e creen-cias reales,creenciasco n cli'eccioraric'racr,on co'te'ir[. pr..¡r,sicionalycondicionesde satisfacción;c.eercias que. rr' ier.a' ra ¡l,rsibilidu,l r" ,",.sól idas

o débiles; reencias er' iosas,a.,s iosus segrlr .as;r.eenciasog -máticas, acionales superf ic iosas, c' s iegas cogniciorrr.sirrrbeantes,crralquier ip o de creencias.El ternrostat,, ri

",.,o,,Ji.r"t,,par.¿r,¡o, comotampoco o so n el estómago, l hígado, as"radrr.a, er ciéf.r ' . si n em _bargo,p.esto qlle estanros or-rsicler-ancloa idca scr.ialrrerrle,bstir-vese ues,u'erdad ser'ía atal para la afirmacirin de cltre a lA frrer.tr-s lril clencia

de la mente Po . ahora, a rrente se e.cl¡ertr-aen lrcr:rs rar.t t ,s.o qtre3yeriamossaberes qué dist ingrre la ntentecl c os ter.n los{att,s cl e oshígados Y si Mccarthv ru'iese t'az.(:n,a r¡ ftrerlc r- ;;u.i;;;;rr,,¡¡,,,o

"r -eranzapara decírnoslo.

2. LA RÉpLrcA ELRoBot (ynr_e)

Supongamos qu e cscl ib i rnos un tipo cle pr -oqr¿rnra l i l 'e l .cnteal cl e Scl lank. Su _pongamos qu e ponemos un a computador-a dcnlro cl eun rr ¡ tr r ¡ t c¡ tre rstant¡ sr i lcracepta símbolos fonr- ra les como cntracra y pr ,cruce ' sú-nbolos f, , , . , , ,^1", . . ,n ,r , ,sa l ida, sino que cfect i 'amentL- opera ar r . ,bo i cr e ar nr¿tnc-r -au. , e .t . :- r ,og,n lg ,,mu1'parccido a percib ir , caminar ., desplazarse, mañi l lar . , . , , ,r ,". , betr . ,r . l . q 'ese quiera. El robot tendr ía , po r c. jenrp lo ,un a c.i rn l¿u.arc clevisi r i ¡ i ¡ lcgr -ardzracual le permit i r ía "ver"; tendr ía brazr¡ .s p icr .r lasp¿¡ .ap6<Ier ,actuarr , ,

v loclo eslcrlo cr ¡ntro la ía su "ccrebro" cr ecomptr tadc,r -a .A cl i fercncia cl e ¿r ., , ,r ,¡ , , , tr , .r ,r , ,u .1"schlnf, este robot ser ía capaz .l " i rno gcntr ina crnrp.e- .si írn v cl c tr r rs estacl .smenta lcs.



92 MENTES,CEREBROSYPROGRAMAS

Lo primero que hatrríaque obser-var cercade a réplica del robot es que

se acepta ácitamenleq.r" lu cognición no es únicanlenteuna cuestiónde

n.ranipulaciónclesímbolos fornales, ya que esta éplica añade un conjunto

rl e relracionesausales on el n-rundo xterior (cf. Fodor, 1980)'Pero a res-

p¡esta a la réplica del tobot es que la inclusión de estashabilidades per-

c.eptuales" "motoras",en nadacontribul'eal entendimiento,en par-ticular,

o a la intencionalidad,en generai,de l programa original de Schank.Paracaptar esto, obsérvese ue el r-nismoexperimento-pensamiento e puede

.,¡rii.u,-al caso dei robot. Supo.gamos qLleen vez de la computadora dentro

dcl robot, me lnetenelt una habitación1,',omo en el casooriginal del chino,

se me propor-cionanmás sírnbolosen esa engua con rnás nstru-ccionesen

rngléspar-aaparear os símbolos chinos co n otros símbolos chinos para

,lrji,olver trossímboloschinosal erterior. Supóngase, unqueyo 1o gnoro,

clrre lgunoscl e os sínrbolosqu e recibo provienencl eun a cámara de telet' i-

,ió,r irit"g.uda al robot y que los otros símbolos que vo remito al extedor

sirven ¡rJ.o echur u^.táui

los motores dentro de l robot que mueven la s

pier.naio braz.os el .obot. Es imporla'le resalta¡que todo lo qu e esto¡'

i,aciendoes manipula| sílnbolos orrlales; gnoro todo lo demás.Yc ) ecibo

la "ir1lbrr¡ación" a panir del clispositivo de percepción"de l robot v do Y"i¡stlrcciones" a su apar-atomotor si n saberque o estoY aciendo.Yo so y

t l lt¡mrinculo clei obot pero, a diferenciade os romúncuios radiciona]es,

ignoro qu é estásucediendo; o comprendonadaexcepto as reglaspara a

,r,a.ipuiu.ion de sírnbolos.Ahora bien,cabemencionaren estecasoque el

rr¡bol carecepor completo cl eestados ntencionales, ues sencillamente e

a,:1.ivaomo r.esultado e sLl istenia ecircuitose1éctricc-rs' cle u p|ograma.

irOr. tra parle, ai ejeinplificarconcretamenteel programa vo no tengo es -

taclos ntencionalesper-tinentes:od o lo que hago es seguir nstmcciones

¡raramanipular símbolos onlales.

.3.Ln nÉplIcA DF,I- IMUI-ADoR EcEREBRos Br'nr-elr'v Y [4ir)

S)upongamos c¡uese diseña un programa guc l lo representa la in for rnación qu e

t..r iemo s acerca cle lnrur ido, como ser ía la in fbr rnación de lc¡s ibretos de Schank,

si¡s qu e simula la sectrencia l-eal dc emi siones neuror ta les cn las sinapsis de l

cerebt.o de nn hal¡ la¡ l te dei chino cuando corn¡r renc{err : la los en chino v otrece

r 'e-spuestas cerca de éstos. I-a máquina acepta los re la tos ett ch inr r y la s pregutr -

t l is sobre e l los a modc, de entrada: simula la estr -uctura fr ¡ rmal de los cerebros

clr inos rea les a l procesar los re la tos ¡t o frece respuesta.sen chino a manera de

sal ida. Podernos incluso imaginar qr re a máquina no opera con Lln solo pr-ogra-

rn a sc' r ia l , sino con toclo un coniunto rl e programas qu e operan en para le lo , del¿r n isma manera en qu e supueslamente r)peran los cerebr-os humanos rea lescu¿rndo procesan el lenguaje n¿r tura l .Ahola bien, no cabe duda de qu e en este

IVÍENTES,EREBROSpROCJtAMAs 93caso enclríamosueafirnrar Lrea máquina a comprencliclcl.s rel¿rt.s. sino snegamos decirlo, noestar'íarmosánrbién "guri.l,, uc os rabla'tes elchinoentiendenos elat.s?En el niver e assrnapsis,q' é sería p.dr.ía erdiferente ntreel programa e acon-rputadora,cl

'rogranladcl ce-rebl. rrino?

Antesde contradeciresta ép[ica,nr egLrstar-íaaccr rrn paréntesis ar aanotar qu e se rata de un a répricaextrañapara un partidari. de ra nteri-genciaartificial (o de l funcionalismo,etc.):1, o "r,rát

^qtre a de a cl e a rRfuerte radicaba en qtre no necesitamossabe' cóino ftrncio.a er cel.ebropara saber cómo frrnciona ra l-rente.La hipótesis firndanie'tal, . as í locreíayo , es que existe n nivel cl e peraciones mentales qtre cc,r]sta ep¡ocesos ecómpr,rto obre oseremenios ornrales ue constitrr'en a esen_ci ade o mental .', ' ue ptreclele'arse a cabo

"","¿1, i,,, i l i ; ; ; ; rip.s cl eprocesos erebrales el mismo modo qu e cuarc¡uier.p,',,gr.onroiu : .,.,rp,,-tadorapuede uncionar en distinros tardwares e com¡ruraclor-a.egir' ra ssuposicio'es de la n fuerle, ra mente es

'espectocrelcerebro ro qu e erprogramaes espectode rhardruare , po r consigi¡ien{e, sposibleentenderla mente si n incurrir en el án'rbitoáé lo ,-r".rrofisiología. i p^,-o-t',u.", otu'leramos qu e sabercómo traba.ia l cereb.o,n, tenclr-ía

ur.,o.r,p,,r.rroade.ella.Si n embargo,aLlnctrandose encrentra ta n pr-oxima¿r l rr'ciona-miento de i cerebro todar'íano es suFiciente ar a procltrcircompr.ensión.Para'er estomá s claro, maginemosqLre n li,gu. áe .,., honrbr.ji 'o'olin_gü e nun a habiración evor'iencro ímúoros,enenlos,n hrmbre o¡rerancroun glupo complejo de pipas de aguaconectacras:o'r'álvtrlas.cr-rarrcroe-cibe os símboloschinos,consultien el programa,escr.tto n 'glés, cnálesválvulas eb e encendero apagar.cacracoiexió'clc agua,,o.i]"rp,,,.,.r",.un a sinapsisen el cerebro chino ¡r todo el siste¡naestá cliseiraclo le almanera r-re,espr-rése odos os "encencricros"orrector,

",d".i., ¿espuésdeponeren funcionamiento ocrososgr-ifosorr"sponclientes, as cspues-ta sen chino brotarán a la salida cl e a ser-ie tepipas.

.Ahora bien, ¿dóndeestá.ia_comprensión n este sistema?Acepta el

chino como entrada, simura la esiructr¡r-a or-nral re as sinapsis r le lcerebrochino l'entrega chino como salicla.Si n errrbargo, r homür.ecier-tamenteno entiendechino, ni tanrpoco o hacen ra spilas .r " ug.,^, i ,,o.sintiéramos entadosa adoptar el punto cr e'ista,

a mi'lrricio a6srrrdo,deqr-ree alguna manera Ia colluncióiz de hombr", plpu, i" ;;.,;.;,rpr""_de ; ecordernosqu e en prinr:ipio er hombre puecre nter-narizara est^rc-tura formal de 1a spipas.de agua y rearizar en su imaginación tocros osencendidosneuronales".El proúlema co n er simurador de l cerebro esqu esimula aspectos qui'ocados cl eéste.Mientras ílnicame'te sim.le laestructura ormal de la secuenciacl e"encendidos"neuronalesen la s si -napsis,no habrá simulado lo qu e realmentees mpor-tanteacer-ca er ce -



94 MENTES,CEREBROSYPROGRAN{AS

r-ebro; es decir: sl ls propiedades causaies' su capacidacl de prodr-rcir esta-

clos intencionales. Y eiejemplo de la s pipas cl e agua demuestra que las

;; ;pi";"i"t formales ,-,o ot t suf icientes para la s propiedades causaies:

iod".rro, extraer todas la s propiedades formales de la s propiedades cau-

sales neurobiológicas pert inentes'

4. LA RÉPLICA E -A COMBINACIÓNBERKELEYY STANFORD)

Arrncuandocac launacielast resrépl icasanter io l .espr-rdieran.res l t l tarcom-pletamente convincentepor sí misma como refutación al contraejerrrplo e la

habitación china, si se cc' 'nsideran n conjunto' colect ivamente on mLlchomá s

con.rincenlese incluso clecisivas.maginernos un robot qu e cuenta co n Llna

.u-p.t tuao* en forna cl ecerebro alo¡adaen su cavidad craneal; maginemos

que la comptttaciora st áprogramacla on todas as sir-rapsise un cerebro hu -

mano; imagtn"-. , . tu-bié" lu e todo el conrportamiento de l robot es ndist in-

gtrible de l á" .,r, ." . humano, e imaginemos ahora todo esto conlo Ll nslstema

irnif icado v no sólo como un a tornputut lotu co n entr-adas salidasde datos'Si n

ducla,en ta l caso endríamosq.r" át. ib.ri . l" intencionalidad al sistema.

Estoy totalmente de acuerdo en qlre en tal caso nos pareceía racional'

y""

."î i¿^¿ irresist ible, aceptar la úipótesjs de qu e el robot t iene intencio-

nalidad, siempre y.*áo'' á

t"puto' nada má s acerca de é1 En realidad'

apafte de su apariencia v de su comportamiento' lo s demás elenlentos de

ii.o-blnu. ión so n fi 'ecuentemente irrele'antes. Si pudiéramos construlr

r¡n robot, ..,¡'o.o*por.tamiento [uera an-rpliamente indistinguible dei com-

portamiento llumano, le atribuiríamos intencionalidad' hasta qu e exist iera

algúrnmot ivopal .anohacer lo.Noneces i tar íamossaberdeantemanoqttesu cerebro de computadora es una analogía formal de l cerebro humano'

Empero, realmente no \¡eo que esto arttcle en algo a los argumentos de

Ja n ftrene; y he aquí po r qué: de acuerdo co n la IA uerte' la e-iemplif icación

concreta d" t.t p.og.áma ftrrnal con datos de entrada v de salida-adecuados

constituye r., . ,"to.rái. ión suficiente, y de hecho es constitut i 'a, de intencio-nalidacl. Al decir cl e Newell (1979), la esencia de lo mental es la operación

cl e un sistema de símbolos físicos. No obstante, la s atribuciones de inten-

cionalidad qu e le hacemos al robot en este ejemplo nada tienen qu e ve r co n

p.og.u-u, iorrnol"r. se basan simplemente en la suposición de que s i el

i 'obot se ve y se comporta lo suf icientemente parecido a nosotro.s' . ntonces

poclrían-ros st.lponer, hasta que se demuestre lo contrario' que debe poseer

estados mentales como lo s nuestros qlle causen su comporlamlento v se

expresen a través de éste, y qu e debe contar co n Ll n mecanismo interior

.uput d,.producir tales estádós mentales' Si supiéramos' de manera inde-

pendiente, cómo explicar su comportamiento si n tales suposiciones, no le

MENTES,IFIIEBROSI'ROClRAfvfS 95

atriblr iríamos intencionalidacl sobre toclo si strpiér-anros ue posee Lrn pro-grama l-ormal. Éste es pr-ecisarnente l ptrnto qrre raté en rrri réplica anteriora la objec ión 2.

Sr,rpongamosqu e sabemos q. e el comportarrie' l 'del rob.t obeclecepo rcompleto al hecho de qu e un hombre recibe en su interior-sín-rbolos or-malesno inter-pretados desde os receptores sensoriales del r-otrot envía símbolosforr¡ales no interpretados al mecanisrncl

rnotol 'del r-obot, clrreel hombrerealiza este manejo de los sír¡bolos segrlrn rna ser-ie c'r-eglas. upongarnos,además, que este individuo no sabe nacla acer-cadel robot Y qu e lo úrnicoqu e sabe es cuáles oper-aciones ealizar co n crrálessímbolos sin signif icaclo.En es ecaso consideraríamos qtre el robot es un lnuñeco rnecárrico rrgenioso.La hipótesis de qu e el robot t iene mente r-est¡ltar-ía nt()nces inlrrsri[ icada einnecesaria, puesto qu e ya no habr' ía ninguna razirn para atribtrir. le inten-cionalidad al robot o al sistema del cual forma parte (exc-epto, ol-sLlpuesto,la intencionalidad de l hombre en el manejo cle krs sírnbolos). El niar-rejodesímbolos forrnales continúa, lo s datos de ent lacla 1'de saliclase con.esponclencon-ectamente, pero el úrnico oc o real de intencionalidad es el lrombre y élno sabe nada de los estados intenc ionales per l inentes; no l ¡e,por.ejemplo,lo qu e entra en lo s ojos del robot; noriette la ít t tett t : i t i t t le rnoverel brazode l robot y no conry)rendeninguna de l¿rs bserwaciones hccllas al robot opo r el robot. Ahora bien, por la s razones anteriolnlenre exprrestas, ampocolo hace el sistema de l cual el hombre y el robot fonlan par1e.

Para considerar este pllnto, comparemos este caso con otros en los quenos parece completamente natural atribuir intencionalidad a os r¡iernbrosde alguna otra especie de primates, como sinrios .v nronos, .y a rtnimalesdomésticos como los perros. La s razones de qtre ell 'nos pu,:". . . , naturalson, a grandes rasgos, dos: no podemos clarle sentido al compo|tamientode l animal sin atribuirle intencionalidad, y podemos ve r qlle la s best iases lán hechas de mater ja l s imi la l al nr¡est ro (eso cs rrn o o. eso es rrr ra rar . iz ,ésta es su piel , etc.). Dada la coherenc ia c lel comportamiento de l animaly' la suposición de qu e esté hecho de la misma materia catrsal, sLlponemos

qu e el animal debe tener estados mentales que motiven su comportarnientoy qu e estos estados mentales deben se r producto cle mecanismos hechosde esta materia qu e es como la nLlestra. No cabe cluda de qu e haríamossuposiciones similares acerca de l robot, a menos de clue uviér-amos algunarazón para no hacerlo, pero tan pronto como supiéramos que su compor-tamiento fu e el resultado de Lln programa formal y qu e las propie<1adescausales reales de la sustancia física eran in-elevantes, abandonaríamos lasuposición de intencionalidad (r,éansevar-ios atrtores, 1978).

Existen otras dos respuestas a m i ejemplo que surgen a menudo (y po rello vale la pena considerarlas), pero qu e en realidacl no comprenclen elsentido de mi argumento.



NIENTES, CEREBROSY PROCRAMAS

5. LA RÉPLICA DE LA S OTRASMENTES (YALE)

¿Cómo puecle saberce que otla persona entiende chino u otra cosa? Sólo porsu com-

pá""-i""a. Ahora bien, .o-o l. computadora puede aprobar (en principio)

i... p*.bu, de conducta tan bien como cualquiera; por tanto' si se ha de atribuir

cognición a otras personas, también debeatr ibuírse ie a la s computadoras'

EstaobjeciónenrealidadsólomereceLlnaréplicabrel 'e.Eiproblemaen este caso no consisteen cómo sé qu e otras personu5dsnen estados

.ognlri.,or, sino más bien en qué es o que lesatribul''o cuando les atribuyo

"uiudo,cognitivos. La ftrerzadel argumento esqlle no podría tl'atarsepre-

cisamenteáeprocesos ecómputo y de su s esultados'porque os procesos

cl ecómputo y su s resultados ueden existir si n el estadocognitivo. No es

lespuestaa este argumento fingir anesiesia'En la s "cienciascognitivas"

.""fr"r.,po.t" lu ."Ilid^.I y la cágnoscibilidadde lo mental de la misma

,rr^r-r".. q.,""r-,

as cienciai físicas se iene que presuponer la realidad'

la

cognoscibilidacl e os objetos ísicos'

6. LA RÉPLICA DE LAS MANSIONES N,IÚLTIPI-ES BERKELEY)

.Iodocuantoustedargumentapresuponequelat¡sí l lo t ie t lequer 'erconconlpu '

tadoras analógicas u?igi,ul"..pero resulia que éste es precisar-nente el estado

actual cle a tecnología. Cualesquiera que sean los procesos causale-s que usted

afinr ra qu e so n esencia les para que exista in tencional idad (suponiendo que tenga

usted razón) , a la - arga seremos capaces de constru ir d isposi t ivos qu e cuenten

co n estos procesos.ír . .1", y"s o

será inte i ígencia a l t i f ic ia l . De modo que sus

arsumentos de ningún modo se refieren a a capacidad de la in te l igencia ar t i f ic ia l

paia producir y explicar la cognición'

Enrealidadnotengoobjeciónaestaréplicasalr,odecirqueenrealidad'uelve

trivial"l

p.ov"lto de la t¡ fuerte al redefinirla conro cualquier cosa

q.," p."J"r.u y"*piiqrl"

artificialmente la cognición EI interés de la pro-

;;d" originai . fá,ro. de la inteiigencia artificial estriba en que se rataba

d" ,rrru tesis precisa y bien ciefinida: los procesos mentales son procesos

."-fr,u.i"'ales cle álementos definidos folTnalmente.Me interesa desa-

fiar esa tesis. Pero si el argumento se replantea de modo que ya no srga

siendo esa esis,mi s obiecionesya no vienen al caso,porqlle ya no habrá

un a hipótesisclemostrable la que se puedan aplicar'

R"g.es"mos ahora a la pregunta que prometí que trataía de responder:

pu"rio q.r" en mi ejemplo áriglnal yolntiendo ingléspero nochino y puesto

que a máquina no"nti".td""ni

inglesni chino' aú n debehaber algo en mí

MENTES, EREBROS ROURAI\Í¡\S 9Z

qLle pro\¡oca qu e vo entienda inglés, as í co'ro debe faltar algo cor.r.espon-diente en mí que me impide entender chino. I 'ues bien, ¿pár qu e no po_dríamos proporcionar a un a máquina esas dos., ,r.r, ,"ui ' lo qu e fueren?

No'eo,

en principio, nirrgr:na razón po . la ctral no ptrdiera dotarse aun a máquina co n la capacidad par.a entencler inglés o cll in, l , v¿ iqu e en unsentido impoftante nuestros cuerpos co n s' s cer-ebr-osr' t r.". iru-"art"máquinas de esta naturaleza. pero

sí veo ar.qumerrtos nruy sólidos paradecir que no podríamos proporcionarle ta l cosa a una máq.ina, cuando raoperación de Ia máquina se define exclusivarrente en tél.rninos de pr.ocesoscomputacionales de elernentos definidos lbrmalmc-nte; es clecir, ctrando laoperación de ia máquina se define conro el ejemplo co'cr.eto cl e un pro-gr?ma de cómp'to. Yo entiendo inglés y poseo otr-as ormas cl e ntencio-nalidad, no porque so v el ejemplo concreto de un progr.ama de cómputo(soy, supongo, la ejempiif icación conc¡.etu d" , ' , r. tos progr-amas decómputo), sino po.que, hasta donde sabemos, so,v

'ncierto t ip,r de orga_

nismo co n un a ciefta estructura biológica (es decir, cier-ta estructura quí-mica y física), la cual, en ciertas condiciones, es causarnrente capaz deproducir percepción, acción, comprensión, aprendizaje y crtr-osenómenosintencionales. Y par-te de-la cuest ión de l presente argrmento es qu e

sóloalgo que tu' iera estos poderes causales pódtiu tener intenci 'naliclad. eui-zá s existen otros procesos químicos y físicos que podrían procl.cir exac-tanlente estos efectos; quizás, po r ejemplo, lo s marcianos también tensanintencionalidad aunque su s cerebros estén hechos de cl ist i . ta nrater-ia.Éstaes , sin embargo, una pre€runtaempírica, mu y similar a a cre i ra rbtosíntesispodría se r realizada po r algo co n una química dist inta a la cl e a clorof i la.

Empero, la cuest ión principal del presente argumento es ql¡e ningúnmodelo puramente tormal será jan'rás suf iciente po r sí mismo para la in -tencionalidad, porque las propiedades forrnares no so n ellas mism¿rscons-t itut ivas de la intencionalidad v porque carecen po r sí mismas de podercausat salvo el poder de producir ' , ctrando se ejemplif ican concretamente,la s iguiente etapa de l formal ismo cuando la rnáqt r ina está f .nc ionando.

Y cualesquiera otras propiedades causales qu e tengan las realizacionesparliculares de l modelo formal son irrelevantes para el nroclelo forrnal,porque siempre podemos poner el misrno modelo [orrnal en una r-ealizacióndiferente en Ia que esas propiedades causales estén obviamente ausentes.Au n cuando, po r algún milagro, lo s hablantes de l chino pudieran ejecutarexactamente el programa de Schank, podemos ponereste mismo programaen hablantes de l inglés, pipas de agua o computadoras, . , ing'no de lo scuales entendería chino a pesar de l programa.

Lo qu e cuenta en la s operaciones de l cerebro no es la sombra formalpro-vectada po r la secuencia de sinapsis, sino má s bien las propiedacles.eales de la s secuencias. Todos lo s argumentos que he visto á tavor de la



98 N,IENTES, EREBROS PROGRANIAS

versión fuer1e de la intel igencia art if ic ial insisten en dibujar un contornoalrededor de la sombra proyectada por la cognición v luego af inr-rar qu elas sombras so n reales.

A manera de conclusión me gustaría intentar establecer algunos de losplrntos f i losóf icos generales implícitos en el argumento. En aras de la cla-l idad intentaré hacerlo en forrna de preguntas y respuestas, v comenzaré

con la pregunta ya gastada de :"¿Puede pensar una máquina?"La respuesta es obviamente sí. Nosotros somos precisarnente esas má-

qulnas."Sí, pero, ¿podría pensar un ar tefacto, una máquina hecha po r el

l lon-rbre?"

Si suponenros qlle puede producirse ar-t i f ic ialmente una máquina qu e

I)osea Ll n sistema ner -vroso, neuronas con axones v dendritas, r, todo loclernás, o suf icientemente seme.jantesa los nuestros, otra ., 'ez a respuestaa l a pregunta parece ser obviamente sí. Si se pueden duplicar exactamentela s causas, podrían duplicarse los efectos. Y de hecho sería posible producir

conciencia, intencionalidad, v todo lo demás ut i l izando algunos otros t ipos

cl eprir-rcipios quírnicos que no sean los qu e uti l izan ios seres humanos. Setrata, como dije, de rrna cuest ión empírica.

"Está bien. No obstante, ¿podría pensar Llna computadora digitai?"

Si po r "computadora digital" nos referimos a cualquier cosa qu e tenga

un nivel de descripción mediante el cual pueda describirse correctamente

como la ejemplif icación concreta de un programa de computadora, enton-

Lres tr a vez la respuesta es, po r sllpuesto, sí, )' a qu e nosotros somos la s

ejempli[ icaciones concretas de cualquier número de programas de cómpu-to y podemos pensar.

"Sin embargo, ¿podría algo pensar, comprender, etc.,exclt tsivanletúe en

virtud de se r una computadora con el t ipo colrecto de programa? ¿Podríala ejemplif icación concreta de un programa (del programa correcto, po r

supuesto) ser po r sí misma condición suf iciente para la comprensión?"

Segúrnyo , ésta es precisamente la pregunta que hay qlle contestar, au ncuando suela confundirse con una o más de las preguntas anteriores, y la

Lespuesta es no."¿Por qu é no?"Porque la s manipr-rlaciones de símbolos forrnales po r sí mismas carecen

de intencionalidad; son bastante carentes de sentido; ni siquiera son ma -

nipulaciones de síntbolos, ya qLle os símbolos no simbolizan nada. En la

ierga lingüíst ica, sólo t ienen sintaxis pero no semántica. La intencionalidad

clue parecen tener las computadoras sólo está en las mentes de quienes la s

programan y de quienes las usan: los qu e envían la inforrnación de entrada

v lo s qu e interpretan la információn de salida.

MENTES, EREBROS,PROCRAN{AS99

El pr-opósito de l ejemplo cr e a habitación china f. e intentar.crenrostrar.st o al mosrrar qu e ta n pr.onro .on. 'o i, . t ,o. lrrcimos ;l; ; ; ; . ; i l ,*ema qu eealmente t iene intencionalidad (u n hontbre) y lo pt.ograntantos co n el::?,::HXfffil, ¡: t d:',..,..,""t ,',,g.ou,n.,,,,,oll,o".,,u,,r",.,.io_paraentend"..hi.,jo

añade ada, or e.ic'mplo,r.."p".i.r.Ji"t l-ro-u."

Es a característ, ica de la l¡ _l a dist inció:ió1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:ilñ.a afirmación de qu e lu .i' ..,Iu.' iá; il;:; se r duplicación. La ciisrinciónntreel programa v su.re,alizació'";;i;;;,'crtvare pareceser. ar-arera raistinción entre el nir,'el e l" r"p"t".1.r.,", n-,"nroi"s'c,l .i 'ei ci e as ope-acionescerebrales. si podíam"r ¿"r.]:iui. er nivercr e ¡rer.acio'esnren_alesconro un progra.ma ormal,

";;;;;;Ir"clíamos clescr_ibir.,l parecer,o esencial cerca e a menle.in in.,; ; ; i ; .neurofisotocí";i;.,."b,.-.T;ffi",',:l.J::::i:ffl:fi Hl:';:.::el cerebro o qu e el-programa es .especto creltartrtvare,,rara n variosuntos,ent¡.e os cuale_se encltentt.an'lossigtrienlesres:r imero, a dist inc.

illf c"";i;l'd:J{l;:?:Xll:llilffiT,,:i;:::ff:,?;:"..j'ffurdas in forma alsunade ntencionî i l ; . Wiez_enbaur(1976,c:rpítu loi):^l.rt^";"-0,,:,

ha f,orm"norizado cómo cons .r i .una com ¡rr tad..a uti_lzandoun rollo de papelhigiénicoy un montón cre iedr.ecita.s.e nlaneraimilar' el p'ograma para entenderr-elatosen chino ptredeprogranrar-senna secuenciade pipas. e agua,"r-,

,rrror-r¡.rnto e rnáq'inas cl e'iento

o:1,:n:'::1,i1,""'onotingtiLe';;i"&, ;,,1r.,,.,,,e os ,,o1",-'"gu.i,

::*:H*l::"".:I':ilüüql*ll'o!'l'Jly::"':,üJ::causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:Éru:,ruildelinglésosea r ieo,1;i1¡:nrila".""i""o"* ra ntencionaricracr,¡ruedeerse ácilmentequ e no adquiere ntencionalidad

adicional al menr.r-izarl programa,puesel hecho;"-".,.' ;;i;ui ""

," enseñachino.

-^,t^:t-*o"'"elprograma es puramente formal, per-o os estados ntencio-ares o so n ormalesde esemodo. Sedefinenen érminosde st rcontenido,ode su forma' La creenciade qu e

".ta'or¡".rao,po r e empro,no se crefineomo igura fbrmar, sino como .i".ro .o.rr"nido mental co n conclicionesesatisfacción' on sentido d"

"d";;;.i;"i"5u.g Searre, r979a)vsirnira-es 'De hecho' a creenciacomo ta l no tiene srq.lera un a ligura for.marenst e entidosintácticopuestoqu e un a rolu y iu _ir-".r i"". ,""0""a".recibirun número indefinido d;".;;;i";s

sinrácricas i[erentesen lo sistintossistemas ingüísticos.rercero, como va mencioné antes, os estadosy sucesosmentalesso n



100 MENTES. EREBROSPROGRAIV{AS

iiteralmente un producto de la operación del cerebro, pero el programa no

L's,en ese sentido, un producto de la computadora."Bueno, si lo s programas no son de ntodo alguno constitut i l¡os de los

procesos mentales, ¿por qu é tanta gente cree lo contrario? Eso amerita po r

lo menos alguna explicación."En realidad ignoro la respuesta a esa pregunta. La idea de que las simu-

laciones en computadorapudieran se r algo real tu\¡o qt le haber parecido

sospechosa desde un principio, porque la computadora de ninguna nlanera

se l imita a simular operaciones mentales. Nadie supone que las simulacio-

ne s por computadora de un incendio de cinco alarmas podrían incendiar

un vecindario o qu e la simtrlación po r computadora de una tormenta no s

¡ruede empapar. ¿Por qu é habría de suponer alguien entonces que una

simulación po r comput.adora de la compr-ensión realmente entiende algo?

E,n ocasiones se dice qu e sería ter-riblemente dif íci l lograr qu e las compu-

ladoras sint ieran dolor o se enamoraran, pero el amor y el dolor no son ni

lnás ni menos dif íci les qu e la cognición o cualquier otra cosa. Para simular,

todo lo qLle se necesita es un f lujo correcto de entrada y salida de infoma-

ción y un programa de po r medio qu e transforme la primera en la segunda.

Eso es od o lo qu e la computadora t iene qu e hacer. confundir la simulación

con Ia duplicación es el mismo et.ror, va se a qu e se trate de dolor, amor,cognición, incendio o tolTnentas.

Si n en-rbargo, existen varias razones po r la s que se pensó -r' quizá,

mucha gente todavía lo piense- que de alguna manera la u, reproduce, y

po r consiguiente explica, fenómenos mentales, ) 'creo qu e no lograremos

erradicar estas lusiones hasta haber expuesto cabalmente los motivos qu e

l¿rs uscitaron.En pr imer lugar, v quizá lo más importante, es t tna conl t ls ión acel ca de

la noción de "procesamiento de inforrnación". En las ciencias cognit ivas,

r-nuchagente considera que el cerebro humano, con su mente, realiza algo

qu e recibe el nombre de "procesamiento de inforrnación", v análogamente

la computadora, con su programa, efectúa un "procesamiento de informa-

ción"; pero, por otra parte, incendios v tormentas no llevan a cabo ningúnprocesantiento de inforrnación. En consecuencia, aunque la computadora

puede simular las característ icas forrnales de cualquier proceso, se a ei qu e

fuere, mantiene una relación especial co n la mente v el cerebro, porque

cuando la computadora se encuentra adecuadamente programada, ideal-

mente con el mismo programa qu e el cerebro, el procesamiento de infor-

n-ración es idéntico en ambos casos, y este procesamiento de información

const ituye realmente la esencia de lo mental. Empero, el problema de este

argumento es qu e se apoya en la ambigüedad de la noción de "información".

La computadora no realiza "p¡ocesamiento de inforrnación" en ei sentido

en que las personas "procesan infor-rnación" cuando reflexionan, po r ejem-

N,IENTES,EREBROSPROCÍiAN4AS 1I)Iplo,en problemas de aritmética o cuando leen ,,responden r.eguntas ntorno a un relato. Má s bien, lo qtre hace la computador-aes n-ia.ipularsímbolos ormales.El hecho de q.,e el programador

-ver 'térprete de ro s

fj*:*: 9: ]?.o-o"tadora r-rtiticeni-iolo, para reernpazar. bJeros

:::::ii?.:salgo que esrápo r compieto trerade l alcanceci e1. . on,puta_qora.Keprto, a computadora tienesintaxispero no semántica.En co.se_

cuencia, i 'sted tecleaen ra computacrora 2 má s 2 es gual a?",escribirá"4".Pero a computadorano tieneni ideacre tre 4" significa4 o ctrarquierotracosa'Y la cuestiónno esqu ecarezca le rgr-rnanfo"rmació.desegr_rncroordenacercade la interpretación cr e 's síriboros cr epri'.rer:o,.t"r-,, r.roqu esu ssímbolosde primer orden no tienen ningrrna nterpr.etación n loqu ea la computadora se refiere. Todo ro q,e tLne ra co'rptrradora so nmá ssímbolos.La introducción cle a noción cl e procesamiántode inror-ma_ción"ausa,po r consiguiente, n clilema: bien const.limos la noció.de procesamientode infármación" cl e al ,-,.,un"rotr e rnpliqtre ntencio-nalidadcomo parte de l procesoo no lo hacemos.En er primer. caso, acomputadora rogramadano procesa n[or.mació.;sólo maniptrlasír.bo_lo s ormale^s. n el segundo u.rt,,, ntonces,pesea qr-rea comprrtadora

procesanformación, únicamente o rrace ne l sentic lo"r q,," io hacenIa ssumadoras, as máquinas cl e escribir, lo s estómzrgos,os ter-mosta-tos, as ormentasv los huraca.r".; u ,ub"., c.entan co n un niver cr edes-:^nl_t^t_u1""

l qu e podemosdecirq'e aceptan nfolrnación portrn extremo,ta ranslorrnanv producen inforntación de salida. Si n entLrar_g(),n eslecaso ependede lo s obsenadoresexternos nterpretar a entracla s:rridacomo nfornación en el senticloorcrinario. no.sc

"rt.r-,r".rirriiit.,¿ ul -guna ntre a computadoray el cerebroen térnrinosde cualqrrier.sinlilitr¡cl

de lprocesamiento e información.

.En.segundougar, en gran pade de la la ha v nn concluctisnro ()per_a-

cionalismoesidual.puestoqu e ascomputacloias clecunclamenter( gr.a-madas uedenexhibir patronesde entiada v salicla imilares a los cr,,,osseres umanos,podríanros

caere. la tentacióncre osttrlarqlre osestadosmentales e a compritadoraso n similaresa los estados nentales le lhom_Dre. .mpero, un a ve z qu e \¡emosqu e es posible tanto conceptual contoempíricamente ue r-rn istemacontengacapacidaclesrtrma'^s en arsúr^campo in que de ningún modo posea ntencionaliclacl, oclrem".

";;.-;;st empulso.Mi sumadorade escritorio ienecapacicracrle alcrrlar., er ocarece e intencionalidad,y en esteartícuro he intentaclocren.rostrar¡u eun sistemapodúa tener capacidades e entracla salida cl e rformaciólrqu eduplicara' la s de un hablante nativo clelchino y seguir si n errtenclerchino, in impoftar cómo estuvieraprogramada.Laprüba de Turing e. stípica e a tradición en el sentidodeq.rJ es cles'ergonzaclamenteonduc-tista operacionalista consideroqu e si losestudiosos le a ln repudiaran



102 lv'fENTES' EREBROS PROGRAI\IAS

po r completo de l conductismo y el operacionalismo' se eliminaría gran

;; ; ;" i" confusión entre simulación y duplicación'

En ter:cer lugar, éste operacionalismo re. i iduai se aúna a la fon¡a re -

siclual cl e dualismo; ¿"1"!f t" la ln ftrerte sólo cobra sentido dada la supo-

sición dualista de que, en lo qu e a la mente se ref iere' el cerebro no imporla'

Il n la r¡ ,fuerte (asi. ; ; ;J,-t

"l

r. t , -t . lonalismo), lo q. e impoña so n io s

programas, y éstos. ot ' i"a"p"tt<l ientes cl esu realización en máquinas; de

'echo,

en io qu e"

l. , ; ;"; ;ñere, el mismo programa podría se r realiz.ado

ir"."" " -aq"ina

electrónica' un a sustancia mental car-tesianao un espíritu

clei mundo hegeliano. EI desc.brimiento má s sorprendente clue he hecho

al analizar estas cuest iott" '"t

qtt" muchosde lo s estudiosos de la IA están

lrastante molestos .on.-mi t¿"u cl e qu e lo s fenómenos mentales humanos

puedan clepender a" i 'opi"aucles f isicoquímicas reales de lo s cerebros hu -

manos verdaderos. No obstante, si se piensa un minuto acerca de esto,

puede verse qlle no debería haberme sorprendido' l' a qu e el prol 'ecto de a

tA fl lerte no tiene posibil idacl alguna' a menos que se acepte'alguna forma

cl e dualismo. EI provecto col-lsisteen reproducir v explicar 1o mental me -

ciiante el cl iseño de programas' pero a menos qu e la me-nte no sólo se a

conceptual ,i.to tut'tüi¿t'empíricamente inclePend':1':i::::t;t"T;.",ono.::

¿r' iu tüuu.r" a cabo el pt 'ovecto' porque el programa"t

t"l i l1"

; ; ; ; , ; c1 e ualquier realización' A menos qtle se crea qlre la mente es

separable d" l ."."briá- *, o .on."ptual como empíricamente -r'ersión

[uerte <] edttai ismo- no se pttecleesperar reproclucii 1o mental e.scribiendo

r, con-iendo ot 'or.utt t ' , ,á 1" " ett"t deben se r ir-idependientes de lo s cere'

br.osde cualesquier-a ot.us for-us part icurares de ejempli[ icación concreta'

Si la s operaciones mentales consisten"'-t

op"tut iones de cómprrto sobre

sír-nbolos ol-males, se decltrceentonces qlle carecen de conexiones lntere'

Santesconelcer-ebro.Laí ln icaconex iónseríaqueelcerebror .esu]taraserp; ' ; ; ; ; ; ; un o de lo s muchísimos tipos de máquinas capaces de eiem-

plif icar concretamente el programa Esta forma de dr-ral ismo no es ia va -

r-iante carlesi^. ,", .^Ji. i . rnur ñ" " postula qu e ha v do stipos de s¡¿slt¿rrclas'

pcro es cartesiana"'"t "l ' "t ' t iáo

d" qt '" insiste en qu e 1o específ icamente

mental cl e a mente ,-,o t 'utdu t"lación intrín'"tu to'-t ut propiedades reales

clel cerebro. Este dualismo implícito se oculta de nosotros po r el hecho de

qt rela] i terat r - r raacercadelal ¡ar l .emeteconf recuenc iacontrael . .dual is -i 'J ' t 0". . lo qu e lo s autores parecen pasar po r alto es qlle sl r postura

presupone un a versión fuerte de dualismo

"¿Podría pensar un a máquina?" Mi^propio

punto de vista es qu e sólo

,"rna"máquina poclría pensar^y que' en efecto' sÓlo algunos tipos mu1'espe'

ciales de máquinas' u'ub"t, ' t "t"bros

1'máquinas q" " t :"g^11 lo s mismos

pocleres causales qu e el cerebro' Y és a es la razón por la qu e ia IA fuerte

i i ; ;"-p"." q.t" , l". i*os acerca de l pensamiento' Ya qu e nada tiene qu e

N,IENTES,EREBROSPIIO(IÍIAJIIAS IO3

decirlos acerca de las máquinas. Por su propizr def inición, se octrpa deprogramas y los programas no son ntáquinas. No obslante, cualqtriera quesea a intencionalidad, es un fenómeno biológico, \. es nrLrvpr obable qr-re e-penda causalmente de la bioquínrica especíl ica cle sus orígenes como lalactancia, la fotosíntesis o cualquier otro fenírnreno biológico. Narl ie slr-pondría qu e se podría producir leche o azúrcar-echandoa ¿rnclalun pr.ogra-

ma de simulación en computadora cle as secuencias f 'olmales cle a lactan-ci a y de la fotosíntesis; sin embargo, en lo qtre a la nrentc se ref iere, nr-rchaspersonas se encuentran dispuestas a creel 'en trn milagr-o cle esta ínclole acausa de un dualismo profundo y constante: l¿ rmente qu e sup()nen es Llnacuest ión de procesos torrnales, independiente de catrsas nrater-iales bas-tante específ icas en el sentido en qu e no lo son la leche v el ¿rzricar' .

En defensa de este dualismo a menudo se explesa la esperanza cl e qu eel cerebro sea una compu tadora digital (las printeras cornptrtador'¿rs,po rcierto, a menudo recibían el nombre de "cerebros electr 'ónicos"). Mas denada sin 'e. E l cerebro es, por supuesto, una compulador¿r c l is i ta l . Prrestoqu e od o es Llna computadora digital, el cel 'ebro tantbién lo es. -a cuest iónes qu e la capac idad causal del cerebro para produc i r interrc ional ic lad nopuedeconsist ir en su ejenrplif icación concreta dc trn progranra cl ecómpu-to , ya que para el programa qu e trsted gllste es posible que zrlgo e. lcnr¡rl i-f ique concretamente es e progranta l ,s iga s in tencr cs tados rr rentales.Se alo qu e fuere lo qu e el cerebro haga para prodtrcir intencionaliclacl, el lo nopuede cons is t i r en ejempi i f icar concretar l tente rr n plograma, va c¡rrenin-gún programa po r sí mismo es sufic iente par-a ogral l¿r n(enc ional ic lad. {

BreLrocnArÍ¡

Fodor, J. A. (1980) , "Methodokrg ica l Sol ipsism Consiclcrcd ¿isa Rerscalch Str¿r tcgyin Cognit ive Psvchologv", Behat, i r ¡ ra l a ttd Bra i t t S¿' i¿,r l r -¿.s,, pp . 6- l , l10.

McCar lhy, J. (1979) , "Ascr ib ing Mental Qual i t ies to M¿rcfr ines",c- nM. I l ing l . . (ed.) ,

Phi losopl ica l Perspecives n Ar t i f ic ia l l r t te l l iger tce,Atlant ic I l igh land, N. . I . , Htr -manit ies Press, pp . l6l-195.

Nervel l ,A. (1979) , "Physicia l Svmbol Svstenrs", Pone-nciaprcscrr tada cn l¿rCir f ' r 'cn-ci a sobre Ciencia Cognit iva en La Jol la , publ icaclo poste l iormentc en ( . ' r , , , l r ¡ i ¡ i'¿ ,Sciettce,4, 1980, pp . 135-183.

Nervel l , A. r 'Simon H. A. (1963) , "GPS - A Pxrgr ' :rm that Sirnu l¿r tcs [{ r rma.nThor- rght",en E. A. Feigcnbaum v J. A. Feldnran (cds.) , Cor tt¡ tu ters ar tt l 7 ' l tctt tg t l t ,Nueva York, McGrarv-Hi l l , pp.279-296.

aEstot 'en eudaco n as muchísimaspersonas ue anal iz-aron stas uestioncs uglaclezcr .rla paciencia ue mostraron para superarmi ignoranciaen torno a la in tcl ig t:nciaa l t i l ic ia l -Me gustaña en paflicular dar las gracias a Ned Block, Hubert Drevfrrs, John Harrgcl and,RogerSchank, Robeñ Wilensky )'Tery Winograd.



IO 4 MENTES,CEREBROSYPROCRAMAS

Pr, lvshyn, . w. (1980), computat ion and cognit ion: Issues n the Foundation of

Ccrgnit ive cience",Behavioraland Brait t Scietrces,3, p. 1 l-132.

Sclrank, R C.-v Abelson, R. P. (1977), Scripts,Plans,Gc¡als, tt d Urtderstandhtg,

Hil lsdale. N. J., Erlbaum.Searle, .R. ( 1979a), Intent ionalitv an d the Useof Language", n A l\{argolit ed'),

Meaning an d IJse,Dordrecht, Reidel.(1979b), What is an Intenl ional State?", I ind,88, pp.74'92

V¿¡riosautores (1978), "Cognit ion and consciousness n Non-Human Species",Behavioralan d Brain Scietrces,, 'ol 1 núm' 4, número completo'

Weizenbaum, J. (19ó5), "ELIZA-A Con.rputerProgram for the Study of Natural

Language Communicat ion Betrveen Ma n an d Machine", Cottt t t t t t t t .ACll , 9,

pp . 36-45.(1976),Co,l l l)uterPox'erattd Hunnnt Reason,Sa n Francisco,W. H Free-

man.Winograd, T. (1973),"A Procedural Model of LanguageUnderstanding",en R' C'

Schank y K. M. Colby (eds.),CotnputerModelsof Thought an d lnnguage, Sa n

Franc isco,W. H. Freeman,pp . 152-18ó.

IV. ESCAPEDE LA HABITACIÓN CHINA*

MARGARETA, BODEN

Er usu anrÍculo "Mentes, cerebros y programas" ( 1980), John Searle alegaqu e las teorías de computación en psicología son esencialmente rnút i les.Hace al respecto dos af irmaciones importantes: la s teorías de computa-ción, de naturaleza puramente formal, no pueclen ayuclarnos en modoalguno a comprender lo s procesos mentales; y el har t lware de lacomputadora, a diferencia de la neuroproteína, cal-eceobviamente de lospoderes causaies adecuados para generar procesos mentales. Denrostraréaquí que ambas afirrnaciones están equivocadas.

La primera afirmación de Searle da por sentada la strposición (forma-l ista), ampliamente aceptada de qu e lo s "cómputos' qlte se esttrdian en laciencia de la computación so n pllramente sintáct icos y que ptreden defi-nirse (e n térrninos igualmente adecnados para la lógica sirnbólica) comoel nrartejo fonnal de síntbolos abstractos tnediattte la aplicación de reglaslónnales. Según este autor, de ahí se deduce que la s explic:rcione-s orma-listas, aunque adecr-radas ara explicar el procesarniento cl e inforrnación"si n sentido o ei manejo de "símbolos" en las computadoras, son incapacesde explicar cómo ut i l izan las mentes humanas lainfónnac: ir in o los símbo-1os,propiamente así l lamados. El signif icado o la intencionalidad n() pue-de n explicarse en términos computacionales.

Searle no quiere decir co n es o qu e ninguna máquina pueda pensar. Lo sseres humanos pueden pensar y éstos, concede, son máquinas; inclr_rsoadopta el credo material ista de qu e sólo las máquinas pueden pensar. Tarn-poco dice qu e io s seres humanos v lo s programas sean totalmente incon-

mensurables. Acepta que, en cierto nivel sLlmamente abstracto de descrip-ción, la s personas (como todo lo demás) son ejemplif icaciones concretasde computadoras digitales. Má s bien argtrmenta qu e nada puede pensar,signif icar o comprender exclusivanlente en virtud de su ejemplif icaciónconcreta de un programa de compntadora.

Para convencernos de esto, Searle recurre a un ingenioso exper-imentode pensamiento. Se magina a sí rnismo encerrado en una habitar: ión dondeha¡r un a serie de fajos de papeles qu e contienen garabatos; Lrna ventana a

* N{argaret .Boden, Escaping rom he Chinese oom", omaclo elcapítulo8cleCon¿-puter "Iodeb f +,|útd1988).Reproducido on pennisode CambridgeUnivcrsity ress.

10 5

Documents

SEARLE, J.R. - Mentes, Cerebros y Programas