Agentes y Sistemas Multi-Agentes Principios filosóficos y ... · Principios los o cos y...

Introduccion Sistemas Intencionales Actos de Habla Razonamiento practico Computacion

Agentes y Sistemas Multi-AgentesPrincipios filosoficos y computacionales BDI

Dr. Alejandro Guerra-Hernandez

Departamento de Inteligencia ArtificialFacultad de Fısica e Inteligencia Artificial

Universidad [email protected]

http://www.uv.mx/aguerra

Maestrıa en Inteligencia Artificial 2011


Nociones fuerte y debil de agencia

I La nocion de agencia debil [Wooldridge, 1995], entorno a laautonomıa, la iniciativa y la sociabilidad, que caracteriza losatributos ineludibles en el comportamiento de un agente.

I Es necesario abordar una nocion fuerte de agencia que provealos argumentos a favor de:

Medio ambiente

agente

DES (φ) INT (φ)BEL (φ)

acerca de

acerca de

I La piedra angular en esta nocion fuerte de agencia es laIntencionalidad


Intencionalidad e intencionalidad

I Para distinguir este uso tecnico del termino Intencionalidad, sele denotara con una mayuscula inicial.

I Mientras que intencion, con minuscula inicial, denotara elsentido comun del termino, como en “tiene la intencion deganarse una beca”


Dimensiones de la Intencionalidad

I La Intencionalidad en relacion con la manera comointerpretamos el comportamiento de los otros desde unapostura Intencional [Dennett, 1987];

I en relacion con nuestra racionalidad y en particular con elrazonamiento practico y su relacion con losplanes [Bratman, 1987];

I y en relacion con el lenguaje, a traves de los actos dehabla [Searle, 1987].

I El orden de la presentacion no es cronologico y obedece a queno todos los sistemas Intencionales son capaces decomunicarse, y no todos los sistemas Intencionales soncapaces de planear.


Agentes racionales: Dennett, Bratman y Searle


Agencia y Computacion

I Finalmente, revisaremos algunos argumentoscomputacionales [McCarthy, 1979, Shoham, 1990] a favor dedescribir, implementar y razonar acerca de nuestros sistemasde computo, como si fuesen agentes racionales queimplementan alguna forma de razonamiento practico ycomunicacion basada en actos de habla, es decir, comoSistemas Intencionales.


Mas agentes racionales: McCarthy y Shoham


Primera aproximacion

I Muchos de nuestros estados mentales estan en cierto sentidodirigidos a objetos o asuntos del mundo. Si tengo unacreencia, debe ser una creencia que tal y tal es el caso; sideseo algo debe ser el deseo de hacer algo, o que algo ocurra,o que sea el caso; si tengo una intencion, debe ser la intencionde hacer algo; etc.

I Es esta caracterıstica de direccionalidad en nuestros estadosmentales, es lo que muchos filosofos han etiquetado comoIntencionalidad.


Actitudes Proposicionales

I Los estados mentales Intencionales parecen tener unaestructura o prototipo que consiste en una actitud, comocreer, desear, intentar, etc., que opera sobre el contenido delestado, que a su vez esta relacionado con algo mas alla de simismo, el objeto hacıa el cual apunta.

I En este sentido, los estados Intencionales son representacionesde segundo orden, es decir, representaciones derepresentaciones.

I Si ademas, el contenido de un estado Intencional se puedeexpresar en forma proposicional, hablamos de una actitudproposicional.


Actitudes proposicionales graficamente

Medio ambiente

agente

DES (φ) INT (φ)BEL (φ)

acerca de

acerca de


Un poco de historia

I El estudio de la Intencionalidad tiene su origen en lasdiscusiones filosoficas medievales sobre la diferencia entre laesse naturae, y la esse intentionale de las cosas (del latınintentio que significa ser acerca de).

I La doctrina escolastica afirma que todos los hechos deconciencia poseen y manifiestan una direccion u orientacionhacia un objeto.

I Pero fue Brentano (1973) quien desarrollo la idea de que laIntencionalidad es la caracterıstica propia de todos losfenomenos mentales.


Sistemas Intencionales

I De acuerdo con [Dennett, 1987], los sistemas Intencionalesson todas y solo aquellas entidades cuyo comportamientopuede ser explicado o predicho, al menos algunas veces,asumiendo una postura Intencional.

I Interpretar del comportamiento de la entidad en cuestion(persona, animal u artefacto) asumiendo que se trata de unagente racional que gobierna su seleccion de accionconsiderando sus actitudes proposicionales.

I Esto puede verse como una estrategia, de entre otras posibles,para explicar o predecir el comportamiento de un agente. Porejemplo: una computadora que juega ajedrez.


Estrategia de Diseno

I Si uno conoce exactamente como es esta computadora y suprograma, uno puede predecir su respuesta disenada.

I Nuestra prediccion sera verdadera si la computadora funcionatal y como fue disenada.

I Diferentes estrategias de interpretacion basadas en el disenopueden discernirse, pero todas descansan en la nocion defuncion.

I Uno puede hacer predicciones basadas en diseno a diferentenivel de abstraccion: tomando como unidades funcionales losgeneradores de estrategias del programa; o los analistas deconsecuencias del programa; o los transistores y puertosdel hardware.


Estrategia Fısica

I Desde esta postura, nuestras predicciones se basan en elestado fısico del objeto y se logran aplicando nuestrosconocimientos, los que sean, de las leyes naturales.

I Abordar la proxima jugada de la computadora que juegaajedrez desde esta perspectiva serıa absurdo, pero en principioposible.


Estrategia Intencional

I Las mejores computadoras que juegan ajedrez se nos hanvuelto practicamente inaccesibles a la prediccion desde lasestrategias fısica y de diseno.

I Se han vuelto demasiado complejas aun para que sus propiosdisenadores las predigan desde la estrategia basada en eldiseno. Esto implica que al asumir esta postura, no soloasumimos que:

I la maquina funcionara como fue disenada; sino queI el diseno es optimo y que la computadora elegira el

movimiento mas racional.


Estrategia Intencional y racionalidad

I Racionalidad aquı significa solo diseno optimo con respecto auna meta o una jerarquıa ponderada de metas optima (jaquemate, ganar piezas, defensa, etc.) y un conjunto derestricciones (las reglas y la posicion inicial).

I La prediccion en este marco toma la forma de: ¿Cual es ladecision mas racional para la computadora, dadas las metasx , y , z , . . . , las restricciones a, b, c , . . . y la informacion(incluyendo la desinformacion, si es el caso) sobre el estado delas cosas p, q, r , . . . ?


Fragilidad de las predicciones Intencionales

I Observen que las explicaciones Intencionales son en extremoprecarias.

I No solamente son relativas a postulados sobre metas,restricciones e informacion que posee el sistema interpretado;y asumen optimaliddad bajo criterios que no siempre nos sonaccesibles; sino que ademas son vulnerables a falsificacionesindetectables: el mal funcionamiento de los sistemasinterpretados o un mal diseno.

I El exito en el uso de la estrategia intencional se basa en quesus predicciones sean verdaderas con suficiente regularidad,como para lograr que el metodo sea practico.


¿Tiene creencias mi MacBook Pro?

I La cuestion de si los sistemas interpretados tienen o nocreencias, no es la adecuada, puesto que la estrategiaintencional descansa solo en nuestra adscripcion de creencias,deseos e intenciones al sistema que esta siendo interpretado.

I Sin embargo, hay que cuidar que los estados Intencionalessean consistentes epistemologicamente, esto es, las creenciasno son equiparables al simple almacenamiento en lacomputadora. En todo caso, tener creencias es equiparable aposeer informacion en el sentido que esa informacion se usapara decidir que hacer.


Pragmatismo de la estrategia Intencional

I Las predicciones Intencionales, a pesar de ser precarias,funcionan cuando ninguna otra estrategia esta disponible.

I Adoptarla es una decision pragmatica, en el sentido de que taldecision no es intrınsecamente correcta o incorrecta.

I Adopcion de diferentes estrategias de interpretacion con baseen nuestro rol ante la maquina de ajedrez:

Rol Estrategia SupuestosOponente Intencional RacionalidadRedisenador de Diseno FuncionalReparador Fısica Leyes Naturales


¿Es mi MacBook Pro como ustedes?

I La estrategia Intencional no implica que consideremosequivalente nuestra interaccion con la computadora que juegaajedrez, mi perro y mis alumnos.

I Antropomorfismo inevitable aunque que es unantropomorfismo conceptualmente inocente, que no imponecreencias comunes con los sistemas interpretados, sinocategorıas como racionalidad, percepcion y accion.

I En todo caso, en virtud de la racionalidad, algunos estadosIntencionales parecerıan compartidos con nosotros, porejemplo, nuestra creencia en las verdades logicas y la normalausencia de un deseo por auto-destruirse.


Escala de Intencionalidad / Inteligencia

I Sistemas Intencionales de primer orden. Sistemas Intencionalescon creencias, deseos y otras actitudes proposicionales perosin creencias ni deseos acerca de sus propias creencias ydeseos (sin actitudes proposicionales anidadas).

I Sistemas Intencionales de segundo orden. SistemasIntencionales con creencias, deseos y otras actitudesproposicionales, mas creencias y deseos acerca de sus propiascreencias y deseos (con actitudes proposicionales anidadas).

I Sistemas Intencionales de orden n > 2. La jerarquıa deintencionalidad puede extenderse tanto como sea necesario.


Teorıas Intencionales del Comportamiento

I Las explicaciones Intencionales constituyen una teorıa delcomportamiento del sistema interpretado.

I Nuestras explicaciones y predicciones sobre el comportamientode animales y humanos, basadas en el sentido comun, sonIntencionales. Asumimos racionalidad.

I Por ejemplo, no esperamos que nuestros nuevos conocidos secomporten irracionalmente, y si lo hacen y nuestraspredicciones resultan falsas, antes de cuestionar el principio deracionalidad, revisamos y eventualmente pasamos a laestrategia de diseno o la fısica... bye bye racionalidad.


Logica y la Estrategia Intencional

I ¿Cree un agente todas las tautologıas? No.

I Racionalidad y prediccion: no se llega a ninguna parteasumiendo que una entidad x tiene las creencias p, q, r , . . . almenos que tambien supongamos que x cree lo que se sigue dep, q, r , . . . .

I Ası que, digamos o no que un agente cree las verdadeslogicas, suponemos que sigue las reglas de la logica y de otraasumimos que no es “tan racional” como habıamos asumido.

I Si descubrimos que el sistema que intentamos interpretar nosigue al pie de la letra el modus ponens terminaremos porexcluir esta regla de inferencia y eventualmente abandonarla estrategia intencional.


Estrategia Intencional, metodologıa e IA

I Asumimos la racionalidad como un prestamo; atribuimoscontenidos a los eventos internos y perifericos delcomportamiento observado, asumiendo actitudesproposicionales; y entonces buscamos los mecanismos quefuncionarıan apropiadamente bajo los supuestos anteriores, deforma que el prestamos de racionalidad pueda pagarse alexplicar los mecanismos citados.

I Este es, en cierta forma, el modus operandi de la IA: a partirde problemas caracterizados Intencionalmente, encontrarsoluciones basadas en diseno aproximando mediante unartificio, alguna forma de optimo.


Comunicacion y Estados Intencionales

I De especial interes es la subclase de sistemas Intencionalesque pueden comunicarse, ya que estos proveen un marco parauna teorıa de la conciencia: ¿Que es cierto acerca de loshumanos creyentes, en virtud de ser sistemas Intencionalescomunicativos?

I La mayor parte del tiempo, normalmente, si x cree p,entonces p es verdadera; y generalmente, la mayor parte deltiempo, normalmente, si x declara que p, entonces cree p ypor consiguiente p es verdadera.

I Las declaraciones de un hombre son, incondicionalmente,indicativas de sus creencias, al igual que sus acciones.


Performativas

I [Austin, 1962] observo que algunos enunciados no puedenclasificarse como verdaderos o falsos, ya que su enunciacionconstituye la ejecucion de una accion y por lo tanto losllamo enunciados performativos (del ingles performatives):

1. Pasame la sal.2. ¿Tienes la sal?3. ¿Te queda la sal cerca?4. Quiero sal.5. ¿Me puedes pasar la sal?6. Juan me pidio que te pidiera pasar la sal.


Clasificacion de Actos de Habla

I Locuciones. Es el acto de decir algo, por ejemplo, alpronunciar una secuencia de palabras de un vocabulario en unlenguaje dado, conforme a su gramatica.

I Elocuciones. Es el acto que se lleva a cabo al decir algo:promesas, advertencias, informes, solicitudes, son algunaselocuciones. Los verbos que nombran a las elocuciones sonllamados verbos performativos.

I Perlocuciones. Es el acto que se lleva a cabo por decir algo.Por ejemplo, convencer a los otros agentes de que le pasen lasal, y hacerse finalmente con ella.


Similitudes entre Actos de Habla y Estados Intencionales

I Su estructura, resaltando la distincion entre, por una parte, lafuerza elocutoria de los actos de habla y la actitud de losestado Intencionales; y por otra, el contenido proposicional deambos.

I Direccion de ajuste:

acto Asertivo

Medio ambiente

acto Directivo

acto Comisorioajuste

ajusteajuste

agente


Ajuste en Estados Intencionales

I Observen la correspondencia y la asimetrıa:

Medio ambiente

DeseosIntenciones

ajuste ajusteajuste

agente

Creencias


Condiciones de Sinceridad

I Al ejecutar un acto de habla ilocutorio con contenidoproposicional, expresamos cierto estado Intencional con esecontenido proposicional, y tal estado Intencional es lacondicion de sinceridad

Afirmo que

Medio ambiente

Creo

Intento Prometo que

agente


Condiciones de Satisfaccion

I El concepto de condiciones de satisfaccion aplica en amboscasos. Por ejemplo, una afirmacion se satisface si y solo si esverdadera; una promesa se satisface si y solo si se cumple; unaorden se satisface si y solo si se obedece; etc.

I Lo mismo para los estados Intencionales: mi creencia sesatisface si las cosas son como creo; mis deseos se satisfacensi son logrados; mis intenciones se satisfacen si son llevadas acabo.

I La nocion de satisfaccion parece natural y aplica siempre quehaya una direccion de ajuste presente.


¿Que es un estado Intencional? Again!

I No es una cuestion ontologica, o no deberıa serlo, ya que loque hace que un estado mental sea Intencional no es sucategorıa ontologica, sino sus propiedades logicas.

I Si estos estados se realizan en una red de neuronas,modificaciones de un ego Cartesiano, imagenes que flotan enla mente, palabras en nuestro pensamiento, es irrelevante enrelacion con dichas propiedades logicas.


Propiedades Logicas de los Estados Intencionales

I Son representaciones. Lo que necesitamos saber acerca delestado Intencional es:

1. Cuales son sus condiciones de satisfaccion;2. Bajo que aspectos se representan estas condiciones en el

contenido representativo; y3. El modo psicologico del estado en cuestion – creencia, deseo o

intencion.

I Existe una divergencia evidente entre los estados Intencionalesy los actos de habla: los primeros son estados y los segundosson acciones que necesitan producirse.


Supuestos basicos

I Las intenciones estan ligadas a los planes, de hecho sonagregados de planes parciales y jerarquicos.

I Somos agentes que planean para contender con nuestraracionalidad acotada y poder decidir ahora que haremos en elfuturo.

I Somos agentes racionales, de forma que nuestros planes y suejecucion dependen de cierta deliberacion.

I Una intencion no es igual que un deseo, aunque ambos tienenroles motivadores, en realidad una intencion conllevacompromiso, mientras que un deseo no.


Trilema

I Asumamos que un agente α tiene la intencion futura i de ir decompras el proximo fin de semana. Surgen tres problemas:

I Objecion metafısica. Cuando i se forma, no controla todasnuestras acciones futuras, pues de ser ası i implicarıa accion adistancia: una cosa es compromiso y otra cosa es accion adistancia.

I Objecion racional. Una vez que i se forma, no es preciso ni sesigue que i no sea irrevocable. El mundo es dinamico y losagentes no siempre anticipan el futuro del mundo.

I Objecion pragmatica. Dadas las dos objeciones anteriores,tenemos que i deberıa formarse solo si es racional para αformar i , pero eso es inutil: si ese fuera el caso no tendrıaporque haber planes a futuro, pero los hay.


Tesis tradicionales

I Tesis metodologica. La prioridad metodologica de la intencionde actuar. Esto es, considerar siempre la intencion presente sinconsiderar la intencion futura.

I Tesis creencia-deseo. Las acciones intencionales son aquellascompatibles con las creencias y deseos del agente.

I Tesis de extension. Asumiendo que las dos tesis anteriorespueden explicar la intencion presente, es posible extenderlaspara explicar intenciones futuras.

I Tesis de reduccion. Por tanto es posible reducir las intencionesa una combinacion adecuada de creencias y deseos.


Caracterısticas de las intenciones

I Pro-actividad. Las intenciones pueden motivar elcumplimiento de metas, son controladoras de la conducta.

I Inercia. Las intenciones persisten, es decir, una vez adoptadasse resisten a ser revocadas. Sin embargo, no son irrevocables.Si la razon por la cual se creo la intencion desaparece,entonces es racional abandonar la intencion.

I Intenciones futuras. Una vez adoptada una intencion, estarestringira los futuros razonamientos practicos, en particular elagente no considerara adoptar intenciones incompatibles conla intencion previamente adoptada. Proveen un filtro deadmisibilidad.


Caracterısticas de los planes

I Son parciales, no son estructuras completas y estaticas.

I Tienen una estructura jerarquica, contienen razonesmedios-fines y estas razones tienen un procedimientoordenado.

I Poseen consistencia interna en el sentido de poder serejecutables.

I Son fuertemente consistentes con las creencias del agente.

I Poseen coherencia medios-fines. Los sub-planes de un plan soncoherentes con los fines del plan.


Tesis de asimetrıa

I Bratman considera las relaciones entre actitudesproposicionales como principios de racionalidad.

I Inconsistencia intencion-creencia. Es irracional para un agenteintentar φ y creer al mismo tiempo que no hara φ.

I Incompletitud intencion-creencia. Es racional (o menosirracional) para un agente intentar φ pero no creer quelograra φ.


Legitimidad y Praxis

I [McCarthy, 1979] fue uno de los primeros en argumentar afavor de la adscripcion de estados mentales a maquinas.

I Esto es legıtimo cuando tal adscripcion expresa la mismainformacion sobre la maquina, que expresarıa sobre unapersona.

I Es util cuando la adscripcion ayuda a entender la estructurade la maquina, su comportamiento pasado y futuro, o comorepararla o mejorarla.

I Quiza nunca sea un requisito logico, aun en el caso de loshumanos, pero ofrecen expresividad sucinta.


Uso computacional de los estados Intencionales

Uso Actitudes proposicionalesInteractivas Percepciones, informaciones, comandos,

peticiones, normas.Representacionales Creencias, hipotesis.Conativas Deseos, metas, impulsos, demandas,

intenciones, compromisos.Organizacionales Metodos, tareas.


Argumentos computacionales

I Las actitudes proposicionales nos son familiares a todos,disenadores, analistas de sistemas, programadores y usuarios;

I La postura provee descripciones sucintas del comportamientode los sistemas complejos, por lo que ayudan a entenderlos yexplicarlos;

I Provee de ciertas regularidades y patrones de accion que sonindependientes de la implementacion fısica de los agentes;

I Un agente puede razonar sobre si mismo y sobre otros agentesadoptando la postura intencional.


Programacion Orientada a Agentes

I Propuesta en [Shoham, 1990]

I Una especializacion de la Programacion Orientada a Objetos,bajo su nocion original, tal y como aparece en el trabajo sobreActores [Hewitt, 1978].

I Los agentes, son objetos con estados Intencionales.

I Estos agentes pueden comunicarse con otros agentes parainformar algo, solicitar algo, ordenar algo, etc., es decir, soncapaces de ejecutar actos de habla.


Requisitos

I Una teorıa precisa y de semantica clara, sobre cada categorıamental. Es deseable que la teorıa tenga correspondencia con elsentido comun de estas categorıas (Slogan: No notacion, sindenotacion! [McDermott, 1976]);

I Una demostracion de que los componentes de la maquina, oprograma, obedecen esta teorıa; y

I Una demostracion de que la teorıa formal juega un papel notrivial en el analisis y diseno de la maquina (Slogan: Nonotacion, sin explotacion! [Shoham, 1990]).


Caso de estudio

I Un ejemplo breve en el dominio de la computacion distribuida.Los investigadores de esta area se encontraron con que elrazonamiento intuitivo sobre los protocolos de distribucion,incluıa normalmente frases como: “El procesador A no sabeaun que la informacion se esta respaldando, pero el procesadorB sabe que A no lo sabe! B no enviara el siguiente mensaje”.


Una teorıa del saber

I Se adoptaron las logicas del conocimiento donde “saber” seformaliza como un operador de la logica modal S5.

I Esto, como veremos mas adelante, tiene algunos efectoscontra intuitivos como que nuestro saber esta cerradotautologicamente (sabemos todas las consecuencias logicas delo que sabemos); y somos introspectivos positiva ynegativamente (si sabemos algo, sabemos que lo sabemos; yen caso contrario, sabemos que no lo sabemos).

I Para agentes simples se puede obviar estos excesos.


Semantica Operacional

I La semantica de operadores como “saber” se especificausando el estandar de mundos posibles.

I En el contexto de la Programacion Orientada a Agentes,mundo posible serıa una posible configuracion global delsistema.

I Estas semanticas basadas en el estado de la maquina, o elprograma, han permitido avances significativos en el area.


Praxis

I Lo ideal es que todo este trabajo de formalizacion y diseno,sirva para probar ciertas propiedades sobre los protocolosdistribuidos de computo.

I La logica del conocimiento no es indispensable en este caso,pero substituir los enunciados sobre el “saber” de losprocesadores, por un vocabulario basado en el estado de estos,puede resultar en expresiones mas complejas y por ende,difıciles de entender.


AOP versus OOP

Concepto OOP AOPUnidad basica Objeto AgenteEstado No restringido Creencias, Deseos, Intenciones,

etc.Computo Paso de mensajes Paso de mensajes y metodos

y metodosTipos de Mensajes No restringido Informes, Solicitudes, Promesas,

etc.Restricciones en Ninguno Honestidad, Coherencia, etc.metodos


Sistema AOP

I Un lenguaje formal restringido, de sintaxis y semantica claras,para describir los estados Intencionales;

I Un lenguaje de programacion interpretado para definir losprogramas de agentes; debe ser fiel a la semantica de losestados Intencionales; y

I Un “agentificador” que convierta entidades neutras en agentesprogramables.

I Agent-0


Bibliografıa

J. Austin.How to Do Things with Worlds.Harvard University Press, Harvard, MA., USA, second edition, 1975.

M.E. Bratman.Intention, Plans, and Practical Reason.Harvard University Press, Cambridge, MA., USA, and London, England, 1987.

D.C. Dennett.The Intentional Stance.MIT Press, Cambridge, MA., USA, 1987.

C. Hewitt.Comments on c. hewitt, viewing control structures as patterns of passingmessages, artificial intelligence 8 (1977) 323-364.Artif. Intell., 10(3):317–318, 1978.

J. McCarthy.Ascribing mental qualities to machines.Technical report, CS Dept.,, Stanford University, Stanford, CA., USA, 1979.


Bibliografıa

D. McDermott.Artificial intelligence meets natural stupidity.SIGART Newsletter, (57):4–9, April 1976.

J. R. Searle.Speech Acts.Cambridge University Press, 1969.

Y. Shoham.Agent-oriented programming.Technical Report STAN–CS–1335–90, CS Dept., Stanford University, USA, 1990.

M. Wooldridge and N. Jennings.Intelligent agents: Theory and practice.The Knowledge Engineering Review, 10(2):115–152, 1995.

Agentes y Sistemas Multi-Agentes Principios filosóficos y ... · Principios los o cos y...

Documents

Transcript of Agentes y Sistemas Multi-Agentes Principios filosóficos y ... · Principios los o cos y...