Redes Bayesianas e Inteligencia Artificial: Aplicaciones en Educación. Información Básica. Contenidos. Incertidumbre

Transcripción

1 edes Bayesianas e Ineligencia ificial: plicaciones en ducación Ineligencia ificial y ducación Pogama de Docoado de ísica e Infomáica Univesidad de La Laguna Infomación Básica Pofeso: eléfono: fdopeez@ull.es Despaco:dif de la SII. Segunda Plana lgunas efeencias Bibliogáficas: spañol: S. ussel y P. Novig, Ineligencia ificial. Un enfoque modeno, 00, Penice-Hall. Cap 4-7 N. J. Nilsson, Ineligencia ificial. Una nueva sínesis, 000, McGaw Hill. Cap 9-0.J. Díez, Inoducción al azonamieno poximado. Dpo. Ineligencia ificial, UND, 00. p://ia-sev.dia.uned.es/~fjdiez/libos/azapox.zip. Casillo, J.M. Guiéez y.s. Hadi, Sisemas xpeos y Modelos de edes Pobabilísicos, Monogafías de la cademia spañola de Ingenieía, Madid, 998. p://pesonales.unican.es/guiejm/papes/bookcgh.pdf Inglés:.V. Jensen, Bayesian Newoks and Influence Diagams, albog Univesiy, 00 p:// H. Bengsson, Bayesian Newoks, Lund Insiue of ecnology, 999. p:// Cusos: K.B. Laskey Compuaional Models fo Pobabilisic Infeence (Geoge Manson Univ.) p://ie.gmu.edu/~klaskey/comppob/ N. iedman Pobabilisic Meods in I (Hebew Univesiy) p:// Conenidos Inceidumbe. Inoducción a las edes Bayesianas. Modelado Infeencia Decisión pendizaje. plicaciones de edes Bayesianas en ducación Sisemas uoiales Ineligenes n mucos dominios de ineés paa la I. es necesaio abaja con inceidumbe: ala de conocimieno seguo y clao de algo. (Diccionaio ) lgunas fuenes de inceidumbe Ignoancia Puede que en un deeminado campo el conocimieno sea incompleo. (Medicina) unque se pudiea complea el conocimieno, puede se necesaio oma decisiones con infomación incomplea. n oos campos la ignoancia es ieducible Pesene en modelos físicos» Cuál seá el esulado del lanzamieno de una moneda? Pesene en la vida eal» s la oa pesona sincea? Vaguedad e Impecisión lgunos concepos son vagos o impecisos. Las pesonas alas, guapas, felices ec.

2 azonamieno con Inceidumbe cua con Inceidumbe Objeivo: Se capaz de azona sin ene odo el conocimieno elevane en un campo deeminado uilizando lo mejo posible el conocimieno que se iene. Implemenación s difícil cumpli esos equeimienos uilizando las écnicas clásicas de la I (lógica). Deben de inoducise modelos paa maneja infomación vaga, inciea, incomplea y conadicoia. Cucial paa un sisema funcione en el mundo eal l popósio úlimo de un sisema ineligene es acua de foma ópima uilizando el conocimieno del sisema y un conjuno de pecepciones. Paa acua se necesia decidi que ace. Cuál es la foma coeca de decidi? La decisión acional: Cuando se ienen disinas opciones un sisema debe decidise po aquella acción que le popocione el mejo esulado. Cuando ay inceidumbe paa pode decidi acionalmene se equiee: La impoancia de los disinos esulados de una acción La ceidumbe de alcanza esos esulados cuando se ealiza la acción. Pincipales Modelos de epesenación de la Inceidumbe epesenación Numéica de la Inceidumbe: Pobabilidad Modelos Simbólicos Lógicas po Defeco Lógicas basadas en Modelos Mínimos La asunción del mundo ceado eminación de pedicados Cicunscipción Modelos Numéicos Pobabilidad edes Bayesianas eoía de Dempse-Saffe Lógica difusa La eoía de la Pobabilidad (Pob) s un áea de las Maemáicas que a sido aplicada a poblemas de azonamieno con inceidumbe s una eoía elegane, bien enendida y con muca isoia (fomalizaciones a pai de mediados del siglo XVII) signa valoes numéicos (llamados pobabilidades) a las poposiciones. Nos dice, dadas las pobabilidades de cieas poposiciones, y algunas elaciones ene ellas como asigna pobabilidades a las poposiciones elacionadas elación con la Lógica Poposicional: n la Lógica Poposicional las poposiciones son cieas o falsas. Con la pob las poposiciones son ambién cieas o falsas peo se iene un gado de ceencia en la ceeza o falsedad.

3 Qué son las Pobabilidades? Los Valoes Numéicos de la Pobabilidad pesa de su laga isoia los valoes numéicos que epesenan las pobabilidad no iene una inepeación única. lgunas Inepeaciones: ecuenisa: s el valo, cuando el númeo de puebas iende a infinio, de la fecuencia de que ocua algún eveno. Subjeiva: s un gado de ceencia aceca de un eveno incieo ún así: xise un consenso sobe el modelo maemáico que sopoa la eoía Dada una poposición, denoaemos po P() a la pobabilidad de dica poposición. = l esulado del lanzamieno de un dado es = l paciene iene saampión = Mañana saldá el sol Los valoes de la Pobabilidad saisfacen es axiomas: X : 0 P() X : P( Poposición Vedadea)= X 3: P( B)=P()+P(B) Siempe que y B sean muuamene exclusivos, es deci ( B) Consecuencias de los axiomas de Pobabilidad Vaiables leaoias Ley de Pobabilidad oal P()=P( B)+ P( B) s una consecuencia del ece axioma: X 3: P( B)=P()+P(B)» Siempe que y B sean muuamene exclusivos, es deci ( B) n geneal, si B i i=...n es un conjuno compleo y muuamene excluyene de poposiciones: P()=P( B )+P( B )+...+P( B n )=Σ P( B i ) esa opeación se la llama maginalización Oas consecuencias: P( )=-P() P( Poposición alsa)=0 P( B)=P()+P(B)-P( B) Mucas veces enemos un eveno con un conjuno de esulados: Compleo Se conocen odos los posibles esulados Muuamene excluyene No se pueden da dos esulados disinos simuláneamene. jemplos Si iamos una moneda, el esulado es caa o cuz Compleo: solo puede sali caa o cuz xcluyene: si sale caa no puede sali cuz La empeaua de un paciene puede esa en un conjuno de inevalos: =<36.4, , , , >=39.5 Compleo: la empeaua esá en alguno de los inevalos xcluyene: la empeaua no puede esa en dos inevalos al mismo iempo

4 Vaiables leaoias Disibuciones de Pobabilidad n luga de ene una poposición po esulado se inoduce el concepo de Vaiable aleaoia Se pemien poposiciones de la foma Vaiable = esulado Po ejemplo, si M= esulado de ia una moneda con valoes posibles caa y cuz se pemien las poposiciones: M=caa y M=Cuz y podemos abla de P(M=caa) y P(M=cuz) que epesenan la pobabilidad de obene una caa y una cuz especivamene beviauas Se suele escibi P(M=caa) como P(caa), cuando el conexo lo pemie Si una vaiable aleaoia como Saampión oma únicamene los valoes vedadeo o falso se suele escibi P(Saampión =vedadeo) como P(saampión) y P(Saampión =falso) como P( saampión) Dada una Vaiable leaoia nos gusaía conoce la pobabilidad paa cada valo que pueda oma sa descipción se llama disibución de pobabilidad (Dpob) de la vaiable aleaoia y consise en lisa los valoes de pobabilidad paa cada valo de la vaiable jemplo: Disibución de pobabilidad de la vaiable Llueve Vaiable Valoes Llueve Vedadeo also P(Llueve) Pobabilidades Poposiciones más Complejas jemplo de disibución conjuna Podemos esa ineesados en esudia vaias vaiables en conjuno. Po ejemplo P(Saampión=vedadeo iebe=vedadeo) que es la pobabilidad de que el paciene enga saampión y fiebe Genealmene lo escibiemos como: P(saampión fiebe) o P(saampión, fiebe) Paa ello se necesia asigna pobabilidades a cada posible combinación de los valoes de las vaiables. l lisado de odos esos valoes se llama la disibución conjuna del conjuno de vaiables Disibución conjuna de las vaiables Sabe_Concepo y esuelve_jecicio P(Sabe_Concepo, esuelve_jecicio): Sabe_Concepo (SC) Vedadeo Vedadeo also also Vedadeo also ambién se puede escibi como: Sabe_Concepo (SC) sabe_concepo sabe_concepo sabe_concepo sabe_concepo esuelve_jecicio () Vedadeo also esuelve_jecicio () esuelve_ejecicio esuelve_ejecicio esuelve_ejecicio esuelve_ejecicio P(Sabe_Concepo, esuelve_jecicio) ecueda a la abla de la vedad lógica excepo que: Descibe las pobabilidad paa cada combinación de valoes de las vaiables Genealmene dicos valoes no se pueden calcula a pai de sus componenes P(Sabe_Concepo, esuelve_jecicio)

5 La Impoancia de la Disibución Conjuna Pobabilidad Condicional La disibución conjuna coniene odo lo que se necesia sabe aceca de un conjuno de vaiables aleaoias. n paicula, la disibución de cada vaiable individual se puede calcula a pai de la disibución conjuna (y se llama disibución maginal) jemplo: Supongamos las vaiables aleaoias: Sabe_Concepo y esuelve_jecicio con disibución conjuna P(Sabe_Concepo, esuelve_jecicio) Sabe_Concepo sabe_concepo sabe_concepo sabe_concepo esuelve_jecicio esuelve_ejecicio esuelve_ejecicio esuelve_ejecicio P(Sabe_Concepo, esuelve_jecicio) scibiemos P( B) paa epesena la pobabilidad de dado B. sa pobabilidad se llama pobabilidad condicional. Lo podemos inepea como mi gado de ceencia en cuando odo lo que sé es B. O de foma alenaiva, de los casos en los que se da B, en que popoción se da? B B Casos favoables Casos posibles sabe_concepo esuelve_ejecicio 0.0 Dominio nonces P(sabe_concepo)= P(sabe_concepo esuelve_ejecicio)+ P(sabe_concepo esuelve_ejeciciollueve)= =0.8. Pobabilidad Condicional epesenación gáfica Se define como: P( B)=P( B)/P(B) (sumiendo P(B) 0) o equivalenemene P( B)= P( B)P(B) (egla del Poduco) Disibución Condicional azonamieno con Pobabilidades: La egla de Bayes Nos pemie conoce la pobabilidad de que se omen unos deeminados valoes po un conjuno de vaiables aleaoias cuando se saben los valoes que an omado oas. jemplo: P(esuelve_jecicio Sabe_Concepo) esuelve_jecicio P(esuelve_jecicio Sabe_Concepo) Popuesa en 763 po el eveendo. Bayes P( B)= P(B ) P() / P(B) s una consecuencia de la egla del poduco: P( B)P(B) = P(,B) = P(B )P() esuelve_ejecicio esuelve_ejecicio jemplo: P(esuelve_jecicio Sabe_Concepo) Sabe_Concepo esuelve_ejecicio esuelve_ejecicio Nóese que esuelve_jecicio Sabe_Concepo y esuelve_jecicio Sabe_Concepo son vaiables aleaoias P(esuelve_jecicio Sabe_Concepo) De foma inuiiva: omas Bayes La pobabilidad de una ipóesis dada una evidencia B: P( B) es popocional a pobabilidad de la ipóesis P() muliplicada po el gado en que la ipóesis pedice los daos P(B ) plicabilidad n mucos poblemas dado un conjuno de daos (evidencia) B enemos que selecciona la ipóesis más pobable mediane P( B)

6 egla de Bayes: oma Geneal La egla de Bayes: jemplo oma geneal de la egla de Bayes Si se iene un conjuno de poposiciones {,,..., m } compleas y muuamene excluyene se iene: P( i B)= P(B i ) P( i ) P(B ) P( )+... P(B n ) P( m ) O lo que es lo mismo, si iene una vaiable aleaoia con valoes a, a,..., a m Inenemos esolve un caso eal con pobabilidades: Se peende deemina si un alumno conoce un concepo en base a la esolución de un ejecicio. n ese caso: Hipóesis (SC): Sabe_Concepo (vaiable aleaoia con dos valoes vedadeo y falso) videncia (): esuelve_jecicio (vaiable aleaoia con dos valoes posiivo y negaivo) plicando la egla de Bayes: P(sc e)= P(e sc) P(sc) /(P(e sc) P(sc) + P(e sc) P( sc))=0.95 P(a i B)= P(B a i ) P(a i ) P(B a ) P(a )+... P(B a n ) P(a m ) P( sc e)=0.05 l elegi la ipóesis más pobable debemos conclui que si esuelve el ejecicio sabe el concepo La egla de Bayes: jemplo Independencia: Una Solución? Coninuamos con el ejemplo: Y si ay vaios ejecicios,..., m? Supondemos que cada ejecicio,,..., m es una vaiable aleaoia que indica si se esuelve con dos valoes: vedadeo y falso. nonces si queemos calcula la pobabilidad de que el alumno sepa el concepo necesiamos calcula: P(SC,,..., m )=P(,,..., m SC)P(SC)/P(,,..., m ) Si al alumno se le ace un conjuno de 7 ejecicios: nonces paa almacena la abla de pobabilidad conjuna P(,,..., m SC) se necesian guada unos 7 númeos eales (un DVD po alumno). De donde sacamos los númeos? Cómo acemos los cálculos compuacionalmene eficienes? Independencia Decimos que dos poposiciones y son independienes si el conocimieno de una no cambia la pobabilidad de la oa Po ejemplo si = s ubio, = iene la piel claa, 3 = Lloveá mañana y 3 son independienes y no. omalmene, son independienes si P( )=P( ) o de foma equivalene: P( )=P( ) o uilizando la egla del poduco P( )= P( ) P( ) nonces P(... n )= P( ) P( )... P( n ) Paa especifica la disibución conjuna de n vaiables se necesian o(n) númeos en luga de o( n ) Dos vaiables aleaoias son independienes si el conocimeno del valo que oma una no cambia la pobabilidad de los valoes de la oa: P( =c =d) = P( =c)

7 Independencia Condicional Independencia Condicional Peo... La condición de independencia es muy esiciva. Po ejemplo, los esulados de los ejecicios en la enseñanza no suelen se independienes. Independencia condicional Se dice que dos poposiciones, son independienes dada una ecea B si cuando B esá pesene el conocimieno de una no influye en la pobabilidad de la oa: P(,B)=P( B) o de foma equivalene: P(,B)=P( B) o de foma equivalene: P( B)= P( B) P( B) jemplo: = engo congesión nasal = engo fiebe 3 = engo gipe y son dependienes peo son independienes si se conoce 3. oa se iene: P(... n B)=P( B) P( B)... P( n B) enemos o(n) númeos en luga de o( n ) inalizamos el ejemplo: Y si ay vaios ejecicios,,..., m? Como vimos, paa calcula la pobabilidad de que el alumno sepa el concepo necesiamos calcula: P(SC,,..., m )=P(,,..., m SC)P(SC)/P(,,..., m ) Si los esulado de los ejecicios,,..., m son independienes dado el concepo (apoximación que suele da buenos esulados): P(,,..., m SC)=P( SC) P( SC)... P( m SC) l poblema a esolve ya es abodable: epesenación de la Independencia:edes Bayesianas edes Bayesianas:Inoducción La clave ace facible la infeencia con pobabilidades es la inoducción explícia de la independencia ene vaiables l modelo más exendido de epesenación de independencias lo consiuye las edes Bayesianas. n ese modelo se epesena de foma explícia la dependencia ene vaiables mediane un gafo Los nodos del gafo se coesponden con vaiables y las dependencias se epesenan mediane acos ene ellas liminan algunos de los poblemas asociados al azonamieno pobabilísico Desaolladas a finales de los 70 (Peal), se conviieon duane los 90 en un esquema geneal de epesenación de la inceidumbe Una ed Bayesiana (B) popociona una foma compaca y modula de epesena la disibución conjuna de vaias vaiables aleaoias Una B consa de: Una pae cualiaiva que descibe las elaciones ene las disinas vaiables Una pae cuaniaiva que descibe la fueza de dicas elaciones mediane pobabilidades condicionadas

8 edes Bayesianas: Infeencia, Decisión y pendizaje edes Bayesianas en la Pensa n una B, la infomación popocionada po una o más vaiables que se obsevan (evidencia) se popaga po la ed y acualiza nuesa ceencia aceca de las vaiables no obsevadas. ese poceso se le llama infeencia. s posible apende las pobabilidades condicionales que desciben las elaciones ene las vaiables a pai de los daos. Incluso es posible apende la esucua complea de la ed a pai de daos compleos o con algunos de sus valoes desconocidos. Las B pueden uilizase paa oma decisiones ópimas inoduciendo posibles acciones y la uilidad de sus esulados Cne.com p://news.com.com/ ml edes Bayesianas: Uilización ed Bayesiana:jemplo lgunas aplicaciones de B en empesas Micosof nswe Wizad (Office) Diagnósico de poblemas de usuaio (laddin) Home Heal en la ed de Micosof (MSN) Inel Diagnósico de fallos de pocesadoes HP Diagnósico de poblemas de impesoa Nokia Diagnósico de edes celulaes Nasa Sisema de ayuda a la decisión en misiones espaciales Diagnósico de Poblemas de Impesión (Heckeman)

9 ed Bayesiana:jemplo ed Bayesiana:jemplo Visión de alo nivel del sisema de B paa xcel Visa pacial de la ed paa infei si el usuaio iene dificulades Diagnósico de Poblemas en edes celulaes paa Nokia (Baco y oos) Visa pacial de la ed paa infei si el usuaio iene dificulades con xcel (Heckeman) edes Bayesianas: lgunas Heamienas Qué es un ed Bayesiana (B)? Nosys Pogama: Neica Descaga de: p:// Micosof MSBNx Descaga de: p://eseac.micosof.com/adap/msbnx/ Una B es un gafo diigido en el que cada nodo coniene infomación pobabilísica. Paa deemina una B ace fala: Un conjuno de vaiables aleaoias que foman los nodos de la ed. Las vaiables pueden se disceas o coninuas Un conjuno de enlaces diigidos (acos) que conecan paejas de nodos. Si ay un aco del nodo X al Y se dice que X es el pade de Y. l significado inuiivo de un aco desde el nodo X al Y es que X iene una influencia dieca en Y Cada nodo X i iene una disibución de pobabilidad condicional: P(X i Pades (X i )) que mide el efeco de los pades de ese nodo. l gafo no iene ciclos diigidos (y po ano es un gafo diigido acíclico o DG)

10 ed Bayesiana: Significado jemplos de Independencias Los acos en una B popociona una foma de codifica elaciones de independencia sas elaciones se pueden especifica como: Dada una B con nodos X, X,... X n. Si Pades(X i ) son los pades de X i y NoDescendienes(X i ) los nodos que no son descendienes de X i. nonces paa cada vaiable X i se iene que X i es independiene de sus No Descendienes dados sus Pades. so lo expesamos como Ind(X i ; NoDescendienes(X i ) Pa(X i )) Descendiene Pade X i No descendiene Paa la B del ejemplo: y L son dependienes: Si ay un obo es más pobable suene la alama, lo que ace más pobable que que eciba una llamada. Si ecibo una llamada se incemena la pobabilidad de que aya sonado la alama y po ano de que me ayan obado. y L son independienes si se conoce Si ay un obo ya no es más pobable que suene la alama ( ya se sabe si suena o no) Si ecibo una llamada ya no se incemena la pobabilidad de que suene la alama ( ya se sabe si suena o no) eemoo Noicia adio obo lama Llamada L es independiene de sus no-descendienes,,n, dados sus pades jemplos de Independencias jemplos de Independencias Paa la B del ejemplo: N y son dependienes: Si oigo en la adio que a abido un eemoo es más pobable que ése aya ocuido, lo que ace más pobable que que suene la alama. Si suena la alama se incemena la pobabilidad de que aya ocuido un eemoo y po ano de que oiga la noicia en la adio. N y son independienes si se conoce Si oigo en la adio que a abido un eemoo ya no es más pobable que ése aya ocuido. (ya se sabe si a ocuido o no). Si suena la alama ya no se incemena la pobabilidad de que aya ocuido un eemoo ( ya se sabe si ocuió) eemoo Noicia adio obo lama Llamada N es independiene de sus no-descendienes,,l dados sus pades Paa la B del ejemplo: y son dependienes si se conoce Si suena la alama y ocue una de las causas (eemoo) me ceo menos la oa (alama) Si suena la alama y ocue una de las causas (alama) me ceo menos la oa (eemoo) ese efeco se le llama eliminación de explicaciones y son independienes: Si desconozco si suena la alama y ocue una de las causas (eemoo) no ay azón paa cee menos la oa (alama) Si desconozco si suena la alama y ocue una de las causas (alama) no ay azón paa cee menos la oa (eemoo) eemoo Noicia adio obo lama Llamada es independiene de sus no-descendienes dados sus pades (ninguno).

11 ansmisión de infomación en la ed eoema de acoización Un camino del gafo puede esa: civo si pasa infomación po el. Bloqueado: si no pasa Nodo con evidencia (obsevado) Dada la codificación de independencias de una B P(X,...,Xn) = P(Xi Pa(Xi)) i Causa Inemedia Causa Común feco Común N L L N L L L jemplo eoema de acoización: P(L,,N,,) = P() P() P(N ) P(,) P(L ) eemoo Noicia adio obo lama Llamada acoización:consecuencias Consucción de B Se puede descibi P uilizando pobabilidades condicionales locales Si G es un gafo dispeso, es deci el númeo de pades de cada vaiable esá acoado: Pa(X i ) k con k un númeo pequeño se obiene: epesenación compaca l númeo de paámeos paa descibi la función de disibución conjuna es lineal en el númeo n de vaiables aleaoias o(n) Nóese que el númeo de paámeos equeido en geneal es de oden o( n ) epesenación modula ñadi una nueva vaiable no obliga a acualiza odos los paámeos de la epesenación Un algoimo de consucción de B legi un gupo de vaiables X,,X n que desciben un dominio ija un oden en X,,X n (po ejemplo de las causas a los efecos) Mienas aya vaiables legi la siguiene vaiable X i y añadi un nodo paa ella Seleciona Pades(X i ) como el conjuno mínimo de {X,,X i- }, de foma que Ind(X i ; {X,,X i- } - Pa i Pa i ) La ed esulane depende del oden: Oden:,,, L, N Oden: L, N,,, N L N L

12 La elección de la odenación y la causalidad La elección de la odenación puede ene un impaco dásico en la complejidad de la ed Bayesiana. Infeencia en edes Bayesianas Infeencia: Se peende alla la disibución de pobabilidad de deeminadas vaiables de ineés dados los valoes de oas vaiables que se obsevan. Heuísica paa consui la B: Consui la B uilizando la odenación causal ene las vaiables Jusificación Genealmene se puede asumi que los gafos geneados a pai de elaciones causales cumplen las condiciones de independencia Pincipales ipos de Infeencia Diagnósico Pedicción Inecausal L L P(obo llama) P(llama obo) P(obo alama, eemoo) Infeencia en edes Bayesianas lgoimos de infeencia De manea fomal Supondemos que: La ed bayesiana esá fomada po las vaiables: { X,, X n } Las vaiables de ineés son X I ={ X,, X i } Las vaiables obsevadas (con evidencia) son: X O ={ X,, X j } Los valoes que oman dicas vaiables (evidencia) son e={ e,, e j } l eso de vaiables son X ={ X j+,, X n } l poblema a esolve es: Calcula: P( X X I P(X,X,...,X, X O P(X P( XI, XO = e) = e) = = P( X = e) i = e = e,x O,X = e = e,...,x = e ),...,X = e ) j j j j Los divesos algoimos popuesos se pueden dividi en: lgoimos exacos Calcula de foma exaca la infeencia soliciada. La complejidad de esolve de foma exaca el poblema geneal de infeencia en edes Bayesianas es NP-duo. ipos Paa edes específicas:» Áboles (Peal), (Complejidad lineal)» Poliáboles (Kim, Peal), (Complejidad lineal) Paa edes geneales» liminación de Vaiables, Ábol de uniones (Lauizen y Spiegelale) lgoimos apoximados Se basan calcula de foma apoximada la infeencia soliciada simulando la disibución de la ed bayesiana. poxima una disibución con una oleancia dada es ambién NP-duo. lgunos algoimos Mueseo lógico (Henion) Pondeación de la veosimiliud (ung y Cang)

13 lgoimo de Infeencia po liminación de Vaiables liminación de Vaiables: Cálculo del numeado l poblema es calcula: P( X X I O P( XI, XO = e) = e) = P( X = e) l numeado es igual a: P( X, X I O Xj+,X j+,...,xn = e) = X l denominado es igual a: P( X O i O P( X, X P(X,X,...,X, X = e) = X,X,...,Xi XI P(X,X,...,X, X P( X, X i I I O = e,x = e,x = e,...,xj = O = e) = = e,x Po ano, si se iene el numeado el denominado se puede calcula a pai de ése. ) = = e j e,x,...,x = e ) j j j+,x j+,...,x n ) l poblema aoa es calcula: P( X, X I O Xj+,X j+,...,xn = e) = X P( X, X P(X,X,...,X, X i I O = e,x = e,x = e,...,xj = Idea Geneal: Paa ealiza de foma eficiene la suma aneio: Paso Usa el eoema de facoización paa facoiza la disibución conjuna: ) = e,x j j+,x j+,...,x P(X,X,...,X i, X, X,...,X j,xj+,x j+,...,xn) = P(X i,pa(xi)) Paso i ija las vaiables obsevadas a sus valoes de evidencia Paso 3 limina de foma ieaiva del sumaoio las vaiables que no son de ineés ni de evidencia n ) liminación de vaiables: jemplo con evidencia La ed de la scaca Wason ccidene Calculemos P(w ) acoización: P()P(W )P(H ) P()P(W )P( ) P(W,) P(W ) scaca Holmes ccidene Susiución de la evidencia liminamos Nomalizamos P() 0.7 x 0. x x 0.9 x 0. = 0.39 w w w w e 0.7 e e e 0.3 e e g (W) = P(W ) g (W) W x 0.8 x x 0. x 0. = 0.45 P()P(W )P( ) w w P(H ) Nomalizamos H liminación de vaiables: jemplo sin evidencia La ed de la scaca Wason ccidene Calculemos P(W) acoización: P()P(W )P(H ) P()P(W )g H () P(W) scaca liminamos H liminamos g Holmes ccidene P() w w e 0.7 e e e 0.3 e e e =.0 gh () P(H ) e =.0 H (W) gh()p()p(w ) P(W ) w w W g H () P(H ) x 0.7 x x 0.3 x 0. = x 0.7 x x 0.3 x 0.9 = 0.4 H

14 Un jemplo más Complejo La ed sia ubeculosis Visia a asia nomalidad en peco Cance Pulmón umado Bonquiis liminación de vaiables: jemplo con evidencia jemplo: calcula P(C v,f,d) D Como siempe calculamos P(C,v,f,d) y nomalizamos scibimos la facoización: P(V)P()P( V)P(C )P(B )P(,C)P( )P(D,B) y susiuimos la evidencia V=cieo,=cieo,D=cieo P(v)P(f)P( v)p(c f)p(b f)p(,c)p( )P(d,B) enemos po ano que elimina:,,,b (pueso que V,,D esán fijos) Poceso de eliminación: P(v)P(f)P( v)p(c f)p(b f)p(,c)p( )P(d,B) V C B ayos X Disnea* *Disnea=Dificulad paa espia P(v)P(f) liminamos ()P( v)p(c f)p(b f)p(,c)p(d,b) (,C) P( ) liminación de vaiables: jemplo con evidencia Poceso de eliminación: coninuación liminando:,,b P(v)P(f)P( v)p(c f)p(b f)p(,c)p( )P(d,B) P(v)P(f) ()P( v)p(c f)p(b f)p(,c)p(d,b) liminamos (,C) P( v)p(,c) V C D B liminación de vaiables: jemplo sin evidencia jemplo: Calcula P(D) liminaemos: V,,,,C,,B plicando el eoema de facoización: P(V)P()P( V)P(C )P(B )P(,C)P( liminamos V V ()P()P(C )P(B )P(,C)P( )P(D,B) )P(D,B) V V C D B V () P( V)P(V) P(v)P(f) P(v)P(f) () liminamos (,C)P(C (C,B)P(C f)p(b f) liminamos B f)p(b f)p(d,b) (C,B) () (,C)P(d,B) Nomalización b (C) B(C,B)P(B f) B P(v)P(f)P(C f)b (C) P(C v,f,d) liminamos () (C,B)P(,C)P( )P(D,B) V () (C,B) ()P( V liminamos,c)p(d,b) liminamos (, C) (C,B) ()P(D,B) (C,B) P(C )P(B )P() () P( ) (,C) v()p(,c)

15 liminación de vaiables: jemplo con evidencia jemplo: Calcula P(D) liminaemos V,,,,C,,B Poceso de eliminación (coninuación) P(V)P()P( V)P(C )P(B )P(,C)P( () (C,B) ()P( V,C)P(D,B) (, C) (C,B) ()P(D,B) (,B) ()P(D,B) C (D,B) (D,B) C(,B) ()P(D,B) P(D) = )P(D,B) V ()P()P(C )P(B )P(,C)P( )P(D,B) () (C,B)P(,C)P( )P(D,B) V P(D) liminamos C liminamos liminamos B V C (,B) (, C) (C,B) C B C D B (B,D) Complejidad del lgoimo de liminación sudiemos la complejidad: n cada paso se calcula: (Y, KY ) = X k x ' (X,Y, KY ), X k ' (X,Y, KY ) = f (X,Y, KY ) nonces: Paa cada valo de Y, Y,..Y k acemos Val(X) sumas, po ano el númeo oal de sumas es Val(X) Val(Y )... Val(Y k ) Paa cada valo de X,Y, Y,..Y k acemos m muliplicaciones, po ano el númeo oal de de muliplicaciones es de m Val(X) Val(Y )... Val(Y k ) Po ano: la complejidad es exponencial en el númeo de vaiables de los facoes inemedios s necesaio busca buenos odenes de eliminación de vaiables paa educi el amaño de los facoes inemedios. Sin embago, el poblema de busca la odenación ópima iene ambién complejidad exponencial, po lo que se emplean divesas euísicas. X k m i i= i il i Decisión con edes Bayesianas eoía de la Decisión Decisión: n el ema aneio se pesenó como azona en pesencia de inceidumbe. Veemos aoa como oma decisiones (acua) bajo inceidumbe jemplo: Quieo paa ace una fiesa en el jadín de mi casa peo puede que llueva debeía ace la fiesa deno de casa? n el poblema apaecen: Dos posibles acciones: pepaa la fiesa deno o pepaala fuea. Cuao posibles esulados: la fiesa se ace deno o la fiesa se ace fuea con lluvia o sin lluvia Una disibución de pobabilidad sobe los esulados (no sé si lloveá o no) Un conjuno de pefeencias sobe los esulados: pefieo ace la fiesa fuea sin lluvia iempo lluvioso lluvioso deno liviado epenido Luga fuea Depimido Coneno Pefeencias sobe los esulados Cómo oma enonces la decisión ópima? La eoía de la decisión bajo inceidumbe: s la combinación de dos elemenos básicos: la eoía de la pobabilidad y la eoía de la uilidad. La eoía de la uilidad sablece una esucua de pefeencias acional sobe los esulados de nuesas acciones basada en un conjuno de axiomas (Savage) fima que bajo esos axiomas es posible encona una función de uilidad U que asigna un valo numéico a la uilidad de cada esulado que cumple: Si el esulado se pefiee al B enonces U() U(B) Si y B son indifeenes enonces U()=U(B) Si se dan vaios posibles esulados,,..., n con pobabilidades p, p,..., p n la uilidad del esulado conjuno es U([p, ; p, ;... p n, n ])=p U( )+... p n U( n ) jemplo de función de uilidad iempo U(iempo, Luga) lluvioso lluvioso deno liviado (60) epenido (50) Luga fuea Depimido (0) Coneno (00)

16 l Pincipio de la Máxima Uilidad speada (MU) l pincipio de la MU es un pincipio fundamenal en Ineligencia ificial. sablece que: La foma acional de decidi paa un agene es elegi aquella acción cuyo esulado le sea sea más úil (más pefeido). nonces dada una acción con: Posibles esulados: {esulado (),esulado (),... esulado n ()} Pobabilidades de obene dicos esulados si se iene la evidencia : P(esulado () Hace(),),..., P(esulado n () Hace(),) seá ópima si ace máxima la uilidad espeada: U( ) = n i= P(esulad o () Hace(), )U(esul ado i so es, es la suma de la uilidad de cada esulado muliplicado po la pobabilidad de obenelo. i ()) l Pincipio de la Máxima Uilidad speada (MU): jemplo jemplo: n el caso de la fiesa las acciones son: = pepaa fiesa deno, = pepaa fiesa fuea Los esulados son: es ( )= (lluvioso,deno), es ( )= ( lluvioso,deno) es ( )= (lluvioso,fuea), es ( )= ( lluvioso,fuea) La función de uilidad es: U(iempo,Luga) iempo lluvioso lluvioso deno liviado (60) epenido (50) Luga Depimido (0) Coneno (00) Las pobabilidades son: P(es ( ) Hace( ))=P(lluvioso,deno)/P(deno)=P(lluvioso) P(es ( ) Hace( ))=P( lluvioso) P(es ( ) Hace( ))=P(lluvioso) P(es ( ) Hace( ))=P( lluvioso) Las uilidades son: U(deno)=U(lluvioso,deno)P(lluvioso,deno deno)+u( lluvioso,deno)p( lluvioso,d eno deno)= 60*0.4+50*0.6=54 U(fuea)=U(lluvioso,fuea)P(lluvioso,fuea fuea)+u( lluvioso,fuea)p( lluvioso,fuea fu ea)= 0*0.4+00*0.6=60 (decisión ópima) fuea P() lluvioso lluvioso edes de Decisión (Diagamas de influencia) Una ed de decisión define un escenaio con una sucesión de obsevaciones y decisiones Una ed de decisión esá compuesa de: Nodos aleaoios (óvalos): epesenan vaiables aleaoias de la misma foma que las edes de ceencia. Nodos de decisión (ecángulos): epesenan punos paa los cuales puede decidise que acción empende Nodos de uilidad (ombos): epesenan la función de uilidad. jemplos Luga de la iesa iempo Meeoológico U áfico éeo Daños Medio mbiene Consucción Ubicación del eopueo Muees uido Coso U pendizaje pendizaje: Cualquie cambio en un sisema que le pemia obene un mejo endimieno la segunda vez que ealiza la misma aea u oa aea simila (Simon) Po qué ealiza apendizaje en sisemas basados en conocimieno? l poceso de adquisición del conocimieno es muy cao ecuenemene no se ienen expeos disponibles Po el conaio genealmene es posible dispone de gandes canidades de daos. l pendizaje nos pemie diseña sisemas basados en daos demás esos daos pueden combinase con las opiniones de disinos expeos

17 pendizaje en edes Bayesianas Poceso de pendizaje Geneal Infei la esucua y ablas de pobabilidad condicional a pai de daos e infomación a pioi pendizaje en B: Daos Compleos y sucua Conocida (DC/C) n ese caso: La esucua de la ed es conocida. l Poceso de pendizaje nos popociona los paámeos que desciben las ablas de pobabilidad condicional Daos + Infomación Pioi Poceso De pendizaje l Poblema del pendizaje en edes Bayesianas Daos compleos Daos Incompleos sucua Conocida simación Paaméica Opimización Paaméica N L sucua Desconocida Opimización sobe esucuas écnicas Combinadas P(,) Casos,, <,, a>... <,, a> P(,)???????? pendizaje P(,) pendizaje de edes Bayesianas en Neica Sólo esuelve los casos de sucua Conocida simación de los paámeos (Daos Compleos) Dado un caso que popociona valoes paa un nodo y sus pades, la nueva pobabilidad condicional p y el nuevo númeo de casos de los pades e se acualizan paa esos valoes en función de los aneioes p y e como: e =e+ jemplo: p =(p e+)/(e+) (si el esado del nodo coincide con el valo del caso paa ese nodo) p =(p e)/(e+) (si no coincide con el valo) P(,) P (,) Casos,, <,, a>. <,, a>. <,, a> plicaciones de edes Bayesianas en ducación Sisemas uoiales Ineligenes (SI) Son sisemas infomáicos paa la enseñanza de esudianes. Po qué consuilos? Idealmene pemien un pofeso po alumno y po ano se iene un pofeso que se adapa: las caaceísicas pesonales del alumno su imo de apendizaje sus oaios Sin embago... La capacidad acual de pocesamieno del lenguaje naual no pemie convesa de foma nomal con un SI Siempe abá esudianes paa los que la enseñanza po odenado no sea adecuada Objeivo acual: Consui sisemas infomáicos paa ayuda al pofeso, en clase, en el luga de abajo o en casa.

18 quiecua de un SI Inceidumbe en los SI lemenos de la aquiecua xpeo en el dominio epesenación del Conocimieno del dominio a enseña Modelado del esudiane Conocimieno Pedagógico xpeo en el Dominio Módulo Pedagógico Ineface Conocimieno del Dominio Modelado del sudiane epesenación del esudiane que usa el SI. s el módulo de mayo impoancia sudiane Modelos del esudiane lmacenamieno de los disinos modelos de esudianes que usan el sisema Módulo Pedagógico Subsisema que oma las decisiones aceca de cómo enseña el dominio basado en el Conocimieno pedagógico. Ineface Módulo de comunicación del SI con el esudiane Modelos del sudiane Inceidumbe en el modelado del esudiane n los daos l SI debe consui el modelo del esudiane a pai de un conjuno de daos muy limiado. (Genealmene limiados a espuesas del eclado y aón) n la infeencia Las eglas paa la consucción del modelo del esudiane a pai de daos suelen se euísicas (y po ano subópimas). n la selección de acciones La inceidumbe en el modelo del esudiane se aslada a la selección de la acción pedagógica más adecuada. cciones pedagógicas Obsevación Inceidumbe en la selección de acciones Modelo del esudiane Inceidumbe en los daos e infeencia SI con edes Bayesianas SI con edes Bayesianas Modelado del esudiane con edes Bayesianas Las popuesas se pueden dividi en es gupos: Cenadas en expeos Basadas en uiliza expeos que especifican de manea geneal y de foma dieca o indieca la esucua complea y las ablas de pobabilidad condicional del modelo del esudiane jemplos:» NDS (Gene & Van Len 000) p:// HYDIV (Miselvy & Giome, 996)» D- uo (Muy & VanLen, 000)» DL (Ganesan y oos 000) Venajas» La uilización de expeos popociona modelos de gan calidad Pincipal inconveniene:» Los modelos esulanes de las popuesas de los expeos incluyen anas vaiables que puede se infacible abaja con la ed bayesiana en iempo eal. Cenadas en la eficiencia Basadas en la idea de esingi los ipos de modelos pemiidos y ajusa el conocimieno del dominio a dicos modelos. sas esicciones se eligen genealmene de foma que se opimice algún aspeco de la eficiencia como po ejemplo el iempo de ealiza infeencias sobe la ed. jemplos:» (eye, 998)» (Muay, 998)» (Collins y oos, 996)» (Mayo y Miovic, 000) Venajas» ficiencia» Los modelos uilizados pemien modela la adquisición del conocimieno po pae del alumno a avés del iempo. Inconvenienes» La búsqueda de la eficiencia puede inoduci simplificaciones incoecas aceca del dominio.

19 SI con edes Bayesianas Selección de acciones pedagógicas Cenadas en los daos Basadas en la idea de apende ano la esucua como las pobabilidades condicionales de la ed del abajo en iempo eal del uo. jemplos:» MNIC (Sen y oos, 999)» CPI (Mayo y Miovic, 00) Venajas» ienden a se más simples al esa basados en vaiables obsevadas» Pemien evalua la calidad del modelo» Los modelos uilizados pemien modela la adquisición del conocimieno po pae del alumno a avés del iempo. Inconvenienes» equieen gandes canidades de daos Una vez obenido el modelo del esudiane, ése debe usase paa elegi la acción pedagógica ópima ipos de esaegias Heuísicas Uilizan la salida del poceso de infeencia como enada a una egla de selección euísica jemplos» NDS, DL Diagnósico Seleccionan la acción que maximizan la ceidumbe de que el esudiane a adquiido los concepos del dominio jemplos» (Collins y oos, 996) eoía de la decisión Seleccionan la acción que maximiza su uilidad espeada jemplos» CPI, D-uo jemplo del Modelo del lumno: Pae Cualiaiva jemplo del Modelo del lumno: Pae Cuaniaiva () Sabe la signaua ablas de Pobabilidad Concepos-jecicios C C Cn Sabe el Concepo s Sabe el ema P esuelve la Pueba C Cn Cs Csns P P P3 Pm Sabe el Concepo esuelve la Pueba Cuando un ejecicio depende de vaios concepos la abla de pobabilidad condicional puede se muy gande. Genealmene los concepos no son independienes, peo se puede asumi que la capacidad de aplicalos cada concepo coecamene cuando se sabe si es independiene. nonces se inoduce la ed: C C Cn Sabe el Concepo P n esuelve la Pueba Sabe plicalo

20 jemplo del Modelo del lumno: Pae Cuaniaiva () jemplo del Modelo del lumno: Pae Cuaniaiva (3) Llamaemos: P( i =0 C i =)=d i a la pobabilidad de descuido, el alumno sabe el concepo, peo se equivocó al aplicalo. P( i = C i =0)=s i a la pobabilidad de suee, el alumno no sabe el concepo, peo aceó al aplicalo. nonces: Cuando paa esolve un ejecicio es necesaio conoce odos los concepos apaece el modelo de pobabilidades condicionales Noisy ND. Cuando paa esolve un ejecicio es necesaio conoce algún concepo apaece el modelo de pobabilidades condicionales Noisy O. Noisy O en el pogama Neica: Paámeo p i =- s i /(- g i ) Paámeo leak= (- g i ) Noisy nd en el pogama Neica: Paámeo p i =- g i /(- s i ) Paámeo ln=- (- s i ) Las elaciones ene Concepos, emas y signauas se modelan de foma simila