Matemáticas para un mundo más seguro: Del Análisis de Riesgos al Análisis de Riesgos Adversarios

Matemáticas para un mundo más seguro: Del Análisis de Riesgos al Análisis de Riesgos Adversarios David Ríos AXA-ICMAT Chair ARA, ICMAT-CSIC Real Academia de Ciencias Febrero, 2015 UNICANT

Agenda Seguridad y Matemáticas Una introducción al análisis de riesgos Ejemplos Una introducción al análisis de riesgos adversarios Ejemplos Discusión

Pirámide de Maslow

Seguridad Uno de los The World s (23) Biggest Problems (Lomborg, 2008) Arms proliferation Conflicts Corruption Terrorism Drugs Money laundering

H2020 y Retos Societal challenges: Secure societies Retos: Seguridad y Defensa

Seguridad y Matemáticas Cómo pueden ayudar las Matemáticas a desarrollar sociedades más seguras (prósperas y justas) Ayudando a tomar mejores decisiones frente a posibles amenazas No adversarias. Análisis de Riesgos Adevrsarias. Análisis de Riesgo Adversarios

Safety vs Security

Safety vs Security Safety. Naturaleza, Accidentes Security. A propósito (terrorismo, ) Frecuentemente disociadas (Incluso para asignación de recursos!!!)

Seguridad y Matemáticas Criptografía Seguros Procesamiento de señales adversarias Biometría (en el sentido de seguridad) Detección de intrusos en red.

Toma de decisiones y Análisis de Riesgos En términos generales, frente a un problema de toma de decisiones podemos optar por tres aproximaciones Intuición Reglas Análisis. La primera es más el terreno de la Economía y la Psicología experimentales, que intentan describir cómo tomamos decisiones las personas. En este sentido, si tenéis tiempo podéis leer el muy ameno libro de Dan Ariely, Predictably Irrational, que explica numerosos fenómenos económicos desde la perspectiva del tipo de experimentos que aquí veremos. http://www.predictablyirrational.com/

Algunos experimentos Proponemos algunos problemas pequeños de toma de decisiones. Muchas veces conducirán a respuestas paradójicas. Intentaremos explicar tales paradojas y proponer algunos remedios a tales situaciones. Los siguientes experimentos se refieren al concepto elusivo de riesgo y probabilidad

Juicios sobre riesgo y probabilidad Considera esta situación: Se está haciendo un estudio de salud pública en Cantabria. En la muestra sale elegido el Sr. David Ríos. Cuál de los dos resultados es más probable? 1. El Sr. Ríos ha tenido uno o más ataques de corazón. 2. El Sr. Ríos ha tenido uno o más ataques y tiene más de 55 años.

Juicios sobre riesgo y probabilidad En un experimento, la mayoría de la gente escogió la opción 2, lo que es un error que se denomina falacia de la conjunción. En efecto, el suceso 1 incluye al suceso 2, por lo que 1 debería ser más probable!! REMEDIO: Utilizar métodos rigurosos de asignación de probabilidades, que exigen verificar que no se producen incoherencias como las anteriores

Juicios sobre riesgo y probabilidad Considera esta situación: Un sistema de detección de cáncer de mama puede detectar el 80% de las mujeres con cáncer no diagnosticado, cometiendo errores con sólo el 5% de las mujeres que no tienen cáncer. Se estima que la tasa de cáncer de mama es de 30 casos por 10000. Intuitivamente, cuál crees que es la probabilidad de que una mujer que dé positivo tenga, de hecho, cáncer.

Juicios sobre riesgo y probabilidad Mucha gente cree que esta probabilidad está entre el 70 y el 75%, cuando la verdadera probabilidad está alrededor del 5%, como se sigue de una simple aplicación de la fórmula de Bayes. Tendrás de hecho que hacerlo como actividad de este capítulo. Este sesgo se denomina de ignorancia de las tasas básicas. Aquí se está ignorando la información básica de presencia de cáncer de mama, que es de 30 casos por cada 10000. REMEDIO: Emplear explícitamente reglas del cálculo de probabilidades

Heurísticos y sesgos Tanto los expertos como los no expertos pueden tener dificultades en calibrar lo que conocen y lo que no conocen. Un experimento típico es hacer preguntas de almanaque del estilo Dame un rango de valores de manera que estés seguro al 90% de que la población actual de Móstoles esté entre los valores inferior y superior que has indicado

Heurísticos y sesgos Según el INE (2014) la población era de 205712 habitantes. En una serie de cuestiones de ese estilo, podemos estimar la proporción p de veces que un individuo acierta. Si p=0.9 está bien calibrado; si p <0.9, está sobreconfiado (intervalos demasiado estrechos); si p>0.9, es demadiado cauteloso (intervalos demasiado anchos) Los estudios de calibración indican que la gente tiende a ser sobreconfiada, ie tiende a estar demasiado segura de lo que cree saber.

Os damos a elegir entre dos opciones (sin coste por entrar en el juego) NOTA: A quiere decir que con probabilidad ½ recibís de premio 1000 euros y con probabilidad ½ recibís -600 euros (ie, pagáis 600 euros). Los objetos como los anteriores se denominan loterías Cuál de ellos preferís? 20

Os doy a elegir entre estas dos opciones (sin coste por entrar en el juego) No es inhabitual que muchos participantes prefieran A a B. Y fijaos que el valor monetario esperado de A es ½*1000+1/2*(-600) =200 Mientras que el de B es ½ * 100000 + ½ * (-50000) = 25000 Los que hayan elegido B no se han basado en el Valor Monetario Esperado para elegir!!! 21

Modelización de preferencias en incertidumbre Considerad esta situación Se tira una moneda hasta que sale cara. Si lo hace en la tirada n-ésima recibís 2^n euros. Cuánto estaríais dispuestos a pagar por entrar en este juego?? 22

Modelización de preferencias en incertidumbre No es inhabitual que la gente esté dispuesta a pagar, a lo sumo, una pequeña cantidad de dinero. Sin embargo, si os fijáis, la ganancia esperada con el juego es P(acabar juego en 1ª tirada) Ganancia si acaba en 1ª tirada+ P(acabar juego en 2ª tirada) Ganancia si acaba en 2ª tirada+ + P(acabar juego en nª tirada) Ganancia si acaba en nª tirada+ = ½ * 2+ ¼ * 4 + + ½^n * 2^n +.=1+1+1+ +1+ = infinito!!!!!! 23

Modelización de preferencias en incertidumbre Los ejemplos anteriores vienen a indicar que el valor monetario esperado NO es un criterio adecuado para elegir en condiciones de incertidumbre El concepto de utilidad esperada aporta una solución adecuada a este problema 24

Actitudes frente al riesgo Motivamos ahora el concepto importante de aversión al riesgo que queda modelizado en la función de utilidad. 25

Actitudes frente al riesgo Considerad las dos loterías A y B siguientes Pensad por un momento cuál de ellas preferís??? 26

Actitudes frente al riesgo. Aversión al riesgo Consideremos la comparación de loterías Si preferís B a A, parece que preferimos el premio seguro a la lotería y se dice que tenemos aversión al riesgo. Fijaos que si preferís B a A, la utilidad esperada de B debe ser mayor que la de A, esto es (suponiendo u(0)=0, u(100000)=1): ½ = ½ * u(0) + ½ * u(100000) < 1 * u(50000)=u(50000) Representad este hecho gráficamente (la función de utilidad será cóncava) 27

Actitudes frente al riesgo. Afición al riesgo Consideremos la comparación de loterías Si preferimos A a B, preferimos la posibilidad de ganar más a un premio seguro con el valor monetario esperado. Se asocia a que tenemos afición al riesgo. Fijaos que si preferís A a B, la utilidad esperada de A debe ser mayor que la de B: ½=½ * u(0) + ½ * u(100000) > 1 * u(50000) = u(50000) Representad este hecho gráficamente (la función de utilidad será convexa) 28

Actitudes frente al riesgo. Neutralidad al riesgo Consideramos la comparación de loterías Finalmente si A~ B, se dice que somos neutros al riesgo. Fijaos que si sois indiferentes entre A y B, la utilidad esperada de B debe ser igual a la de A: ½= ½ * u(0) + ½ * u(100000) = 1 * u(50000) = u(50000) Representad este hecho gráficamente (la función de utilidad será lineal) 29

El concepto elusivo de riesgo Conceptos relacionados con riesgo en numerosos campos Teoría de la Decisión Estadística: Función de riesgo, Riesgo Bayes Estadística Modelos de sucesos extremos, Fiabilidad Economía Decisiones en riesgo vs Decisiones en incertidumbre Finanzas Valor en Riesgo (y conceptos relacionados) Seguros Pérdida Esperada Anual Seguridad Riesgos Adversarios

El concepto elusivo de riesgo Estar vivo significa buscar oportunidades tomar riesgos Hay incertidumbre sobre el resultado y es posible que sea negativo (pero no necesariamente!!!) Posible definición Situación en la que es posible una desviación adversa de un resultado deseable que se espera. 1. Lista de sucesos potenciales 2. Probabilidad de que ocurra un suceso adverso 3. Consecuencias del suceso adverso

Riesgos Muchos tipos de riesgos: ambientales, financieros, políticos, tecnológicos, Clasificaciones estándar: Financieros y no financieros Financieros: Crédito, Mercado, Integrado, Operacional, Estáticos y Dinámicos Asociados con funcionamiento status quo (pérdidas posibles), Asociado con cambios (pérdidas, ganancias) Fundamentales y Particulares Grupo (terremoto), Individual (fuego) Puros (pérdida, no pérdida) y especulativos (pérdida y ganancia)..

Riesgos: Su carga Algunas pérdidas llegan a ocurrir: Evitar o aliviar su impacto La incertidumbre es una carga: asegurar, reservar fondos, invertir en protección, Frena el crecimiento económico, impacta en el coste del capital Crea sentimiento de frustración e intranquilidad (aunque hay aficionados al riesgo y aficionados al riesgo inteligentes) Más riesgos y más variados De la naturaleza y los depredadores, a los riesgos asociados con la energía nuclear, el transporte aéreo, las tecnologías de la información, el sistema legal, el terrorismo, el cambio climático, Con pérdidas más severas Cada catástrofe parece superar la anterior Más riqueza, más inversión, más activos expuestos a pérdidas

Riesgos: retos en un mundo complejo Accidente del aeropuerto de Sao Paulo La población ha crecido: Instalaciones antes alejadas, ahora cercanas a la población Cambio climático Opinión pública mucho más consciente de las amenazas sobre la vida Ciberataque sobre Estonia Necesidad de proteger infraestructuras críticas para garantizar la continuidad de una nación. Infraestructuras internacionales interconectadas. Ciberguerra fría. Directivas UE agua Agencias gubernamentales involucran al público, múltiples grupos de interés Conciencia frente a equidad frente a riesgos Interdependencia creciente a escala global. Lockerbie Sistemas de seguridad interdependientes. Cada compañía es parte de un sistema interconectado y decide independientemente si adopta o no estrategias de portección. Puede sufrir si no adoptan medidas similares. Katrina, Tsunami, Haiti, Japón, Volcanes islandeses,.. Los grandes desastres naturales... 11-S, 11-M, Piratas somalies, Organizaciones delictivas y terroristas globales dirigidas empresarialmente (capitalismo de degúello) Accidente de Air France El factor humano Sucesos de baja probabilidad y altas concecuencias parecen más frecuentes

Análisis de riesgos Un proceso analítico sistemático para evaluar, gestionar y comunicar el riesgo, que se realiza para entender la naturaleza de las consecuencias negativas, no deseables para la vida humana, la salud, la propiedad y/o el medio ambiente (para reducir o eliminarlas) 1. Evaluación de riesgos. Información de la relevancia y las características de los riesgos atribuidos a una amenza. 2. Gestión de riesgos. Actividades dirigidas a controlar las amenazas. 3. Comunicación de riesgos. Intercambio de información y opiniones en relación con el riesgo y sus factores entre evaluadores de riesgo, gestores de riesgo y otros participantes. Evaluación de intereses. Se emplea para analizar la percepción de riesgo, entender el problema y evaluar los intercambios entre riesgos y beneficios. (1 )

Análisis de riesgos: Para qué?? Gestión de riesgos para una instalación existente o propuesta Desarrollo de regulaciones Demostración de cumplimiento de regulaciones Demostración de la necesidad de mejorar en el cumplimiento de regulaciones Litigios Investigación científica

Análisis de riesgos: Una historia breve Predada inicialmente por el sector seguros El impacto de las ciencias de la decisión Seguridad de sistemas (militar, ingeniería aeroespacial, industria nuclear) Gestión: Identificados y evaluados los riesgos a que estamos expuestos, podemos evitar la ocurrencia de ciertas pérdidas y minimizar el impacto de otros. El coste del riesgo puede gestionarse y reducirse a sus niveles mínimos. La presencia de adversarios inteligentes: análisis de riesgos+teoría de juegos

Matrices de riesgos!!! (SIC)

Marco para el análisis de riesgos Predecir costes bajo circunstancias normales Identificar amenazas, estimar probabilidades e impactos en los costes (costes adicionales inducidos) Predecir costes (un modelo de mixturas). Calcular cambios en la utilidad esperada. Si demasiado grandes Identificar intervenciones, estimar impacto sobre probabilidades y/o costes. Calcular utilidades esperadas. Escoger la mejor intervención (si la ganancia es suficiente)

Escenario de partida Diseño dado (no hay intervenciones, status quo) Se identifican los costes (aleatorios) Se calcula la utilidad esperada

Evaluación de riesgos Verosimilitud e impacto de las amenazas identificadas Ocurren con cierta probabilidad y conllevan un coste adicional Calculamos utilidad esperada despues de evaluar riesgos Impacto: Si el impacto es muy grande, necesitamos gestionar los riesgos

Intervención a escoger: Gestión de riesgos Tienden a reducir la verosimilitud de las amenazas y su gravedad pero conllevan un coste Ganancia con riesgo gestionado : Escoger intervención que aporta mayor ganancia, si es suficientemente grande

Análisis de riesgos: Un ejemplo sencillo Consideramos la adopción de contramedidas y compra de seguros para un local de una empresa. Amenazas: Nada, Fuego, Robo Contramedidas: Alarma. Hace muy improbable un robo Detector. Hace menos severo un fuego No hay presupuesto para implantar ambas 43

Seguro: Análisis de riesgos: Un ejemplo sencillo (bis) Cubre todos los costes de fuego o robo. Es más barato si se implantan contramedidas Las cantidades involucradas son pequeñas para la empresa por lo que suponemos neutralidad frente al riesgo. 44

Análisis de riesgos: Un ejemplo sencillo (tris) 45

Despliegue no intencionado de rampas

Información de partida Seguridad es un factor crítico en la industria aérea Creciente competitividad fuerza la reducción de costes, más aun en tiempos de crisis. Afecta a la seguridad? Despliegue no intencionado de rampas en condiciones normales Coste anual (esperado??) de 20 million USD para toda la industria

Proceso Análisis exploratorio: factores que afectan a las sueltas Análisis de severidad (costes) Evaluación de riesgos Contramedidas? Mejor contramedida: Gestión de riesgos

El problema

Análisis de incidentes Se identificaron los siguientes factores potenciales A. 30000+ operaciones, 7 incidentes B. 262000+ operaciones, 28 incidentes Intervalo probabilidad para p_a-p_b [.000006,.0003]

Modelo de regresión logística Análisis de incidentes

Análisis de incidentes Fase de operaciones relevante y personal involucrado 7 errores, 9 interrupciones del procedimiento, 19 no cumplimiento del procedimiento Dir (8,10,20)

Análisis de costes Costes De remoción De transporte De reparación Asociados a demora

Costes de remoción Lab x Tm Tm. Experto dice min (30), max (60), most likely (45). Ajustamos distribución triangular con cuantiles 0.05, 0.95. Tri (0.385,0.75,1.115) Costes de transporte

Costes relacionados con retardos Distinguimos entre demoras cero y positivas. Entre éstas distinguimos entre las A y las B. Para las A, distinguimos entre demoras cortas y largas

Costes por demoras Basado en Cook and Tanner (2009)

Costes debidos a los incidentes

Gestión de riesgos Contramedidas Cambiar procedimiento (para eliminar interrupciones y mitigar errores, prácticamente sin coste) Cursos de entrenamiento al personal clave (para mitigar errores y no cumplimientos, prácticamente sin coste) Campaña de sensibilización al personal clave con boletines, etc (mismo objetivo, coste 6000 euros) Warning en las puertas (para mitigar errores, interrupciones y no conformidades, 2500 euros por puerta) (o sólo las clave) Pegatinas en las puertas (it., coste 120 euros por puerta) (o sólo las clave) Sólo afectamos, esencialmente, la verosimilitud de los incidentes, no su severidad

Gestión de riesgos Coste esperado actualizado Neutro al riesgo

Conclusión Se implantó una revisión de procedimientos y una campaña de sensibilización. Comunicación no sencilla. Pero los resultados (4 frente a 18) apoyan la gestión realizada

Otros ejemplos realizados Mejores remedios frente a fenómenos meteorológicos extremos (riadas y sequía) en Jiqulisco (El Salvador) Evaluación de riesgos de salidas de pista (Iberia) Fuel para la operación de holding (Iberia) Plan estatal de seguridad operacional (AESA) Protección frente a impagos de tarifa en el metro Riesgo operacional en bancos y aseguradoras (Basel III, Solvency II, ) (First Rand, Old Mutual, ) SKITES 61

Análisis de Riesgos Adversarios Análisis de Riesgos con adversarios dispuestos a incrementar nuestros riesgos. Análisis de Riesgos + Teoría de Juegos 62

Cuál es la mejor asignación de recursos de seguridad en una ciudad? Ciudad como un mapa con celdas Cada celda tiene un valor Para cada celda, modelo predictivo de actos delictivos Asignar recursos (restricciones) Para cada celda, predecir el impacto de la asignación de recursos Asignación óptima de recursos NB: Los malos operan de forma inteligente y organizada!!!

Cuál es el mejor mantenimiento HW/SW para el ERP de una organización? Modelizar sistema HW/SW (bloques HW y SW que interactúan) Predecir fiabilidad bloque Predecir fiabilidad sistema Diseñar políticas mantenimiento Predecir impacto sobre fiabilidad (y costes) Política óptima de mantenimiento NB: Qué pasa con los malos que atacan nuestro sistema?

Análisis de riesgos adversarios 65

Motivación AR tradicional extendido para incluir adversarios S-11, M-11 condujeron a grandes inversiones globales de seguridad algunas muy criticadas Muchos esfuerzos de modelización para asignarlos eficientemente Revisión de Parnell et al (2008) NAS Métodos estándar de fiabilidad y riesgos no tienen en cuenta la intencionalidad Aproximaciones teoría de juegos. Hipótesis de conocimiento común Aproximaciones análisis de decisiones. Predicción de la acción del adversario Merrick, Parnell (2011) revisan aproximaciones comentando favorablemente sobre ARA

Matriz del juego Las recompensas se especifican en el interior: el primer número es la recompensa recibida por el jugador 1 (fila); el segundo es la recompensa del jugador 2. (columna) Por ejemplo, si el jugador 1 elige arriba y el jugador 2 elige izda. entonces sus recompensas son 3 y 2, respectivamente. Cuando un juego se presenta en forma normal, se presupone que todos los jugadores actúan simultáneamente, o sea, sin saber la elección que toma el otro. Cada jugador desea maximizar su ganancia. Izda. Dcha. Arriba 3,2 1,5 Debajo 4,7 3,1 67

Considera este juego Piensa que harías si fueras el jugador de las filas. Que estrategia elegirías? Y si fueras el jugador de columnas? Una vez has hecho este ejercicio abre la siguiente transparencia y mira nuestra interpretación Izda. Dcha. Arriba 4,3 3,0 Debajo 12,8 5,4 68

Dominancia Una estrategia domina estrictamente a otra cuando es mejor elección independiente de la elección del otro jugador. Un jugador siempre elige estrategia no dominada y tacha las estrategias dominadas. Para el jugador 1 la estrategia Debajo domina la Arriba (tachada) porque 12 > 4 y 5 > 3. Para el jugador 2 la Izda. domina Dcha. (tachada) porque 3 > 0 y 8 > 4. La única celda no tachada es la que corresponde a las estrategias Debajo y Izda. Entonces, las recompensas de los jugadores son 12 y 8 respectivamente. Izda. Dcha. Arriba 4,3 3,0 Debajo 12,8 5,4 69

Considera este juego Piensa que harías si fueras el jugador de las filas. Que estrategia elegirías? Y si fueras el jugador de columnas? Una vez has hecho este ejercicio abre la siguiente transparencia y mira nuestra interpretación Izda. Dcha. Arriba 0,2 5,4 Debajo 10,3 3,8 70

Dominancia iterada Cada jugador predice que el otro seguirá estrategias no dominadas Es fácil comprobar que el jugador de las filas no tiene estrategia no dominada La estrategia dominante del jugador de las columnas es Dcha. Izda. Dcha. Arriba 0,2 5,4 Debajo 10,3 3,8 71

Dominancia iterada Cada jugador predice que el otro seguirá estrategias no dominadas Es fácil comprobar que el jugador de filas no tiene estrategia no dominada La estrategia dominante del jugador de columnas es Dcha. Sin embargo, el jugador de filas elegirá Arriba ya que el sabe que Dcha. es la estrategia dominante del jugador de columnas, y así maximizará su ganancia Izda. Dcha. Arriba 0,2 5,4 Debajo 10,3 3,8 72

Considera este juego Piensa qué harías si fueras el jugador de filas. Que estrategia elegirías? Y si fueras el jugador de columnas? Una vez has hecho este ejercicio abre la siguiente transparencia y mira nuestra interpretación Izda. Dcha. Arriba 4,3 10,6 Debajo 12,8 5,4 73

Equilibrio En este ejemplo ninguno de los dos jugadores tiene una estrategia dominante: Si el jugador 1 uno elige Arriba es conveniente al 2 eligir Dcha. y viceversa: si el 2 elige Dcha. el 1 tiene que eligir Arriba. Si el 1 elige Debajo el 2 tiene que eligir Izda. y viceversa. Izda. Dcha. Arriba 4,3 10,6 Debajo 12,8 5,4 Asimismo, Debajo - Izda. y Arriba - Dcha. son aquellas combinaciones de estrategias en las cuales ningún jugador pueda mejorar cambiando de estrategia, supuesto que el otro jugador elija su estrategia. Por tanto, es probable que elijan los jugadores las combinaciones de estrategias. Estas estrategias se llaman equilibrios (de Nash, no cooperativos). Sin embargo, la estrategia Debajo - Izda. domina a la Arriba - Dcha 74

Considera este juego Piensa qué harías si fueras el jugador por filas. Qué estrategia elegirías? Y si fueras el jugador por columnas? Una vez has hecho este ejercicio abre la siguiente transparencia y mira nuestra interpretación Izda. Dcha. Arriba 5,5-5,10 Debajo 10,-5-2,-2 75

Los peligros de la racionalidad Izda. Dcha. En este ejemplo, 1, como jugador racional, tachará la estrategia Arriba como dominada 2 tachará como dominada la estrategia Izda. Los jugadores acabarán con una solución ineficiente, pues (5, 5) es mejor que (-2, -2) Es este un ejemplo del dilema del prisionero Arriba 5,5-5,10 Debajo 10,-5-2,-2 76

El dilema del prisionero Se detiene a dos delincuentes y se les encierra en celdas de aislamiento de forma que no pueden comunicarse entre ellos. El alguacil sospecha que han participado en el robo del banco, delito cuya pena es 10 años de cárcel, pero no tiene pruebas. Sólo tiene pruebas y puede culparles de un delito menor, tenencia ilícita de armas, cuyo castigo es de 2 años de cárcel. Promete a cada uno de ellos que reducirá su condena a la mitad si proporciona las pruebas para culpar al otro del robo del banco... No Conf No Conf Conf 2,2 10,0 Conf 0,10 5,5 Mira a la derecha la tabla de decisión con el dilema que se le plantea a cada uno de los prisioneros que, ahora, quieren minimizar la consecuencia relevante, el número de años en la prisión. 77

El dilema del prisionero Como en el ejemplo anterior el juego resulta en una decisión socialmente ineficiente, pues a los delincuentes les conviene confesar. Cada uno busca su bien de forma egoísta, lo que les lleva a una mala decisión social. Caen en una trampa (una trampa social o dilema social) No Conf No Conf Conf 2,2 10,0 Conf 0,10 5,5 78

Dilemas sociales en contexto de riesgos adversarios Considerad un contexto en el que hay dos compañías interconectadas que deben decidir si invierten o no en seguridad IT. La situación queda descrita cualitativamente en la tabla adjunta. A escala global, las compañías prefieren no cooperar en las cuestiones de la seguridad jugando sus estrategias egoístas. Es otro ejemplo de dilema del prisionero. Compañía A invierte en seguridad IT A no invierte en seguridad B invierte en seguridad IT Ambos incurren en costes Bajo riesgo B incurre en costes Riesgo relativament e alto B no invierte en seguridad A incurre en costes Riesgo relativamente alto Equilibrio: A,B evitan costes Riesgo alto 79

ARA Marco para gestionar riesgos debidos a las acciones de adversarios inteligentes (DRI, Rios, Banks, JASA 2009) Apoyo prescriptivo unilateral Usa modelo SEU Trata las decisiones del adversario como incertidumbres Método para predecir acciones del adversario Suponenos que maximiza UE Modelizar su problema de decisión Asignar sus utilidades y probabilidades Encontrar su acción de máxima utilidad esperada Pero otros modelos descriptivos son posibles Incertidumbre en la decisión del atacante proviene de Nuestra incertidumbre sobre sus probabilidades y utilidades Pero esto conduce a una jerarquía de problemas de decisión anidados (aleatorio, no informativo, nivel.k, heurística, espejo, prospect) vs (conocimiento común) 80

ARA ARA alicaciones a modelos countraterrorism (Rios, DRI, 2009, 2012 Risk Analysis) Sequential Defend-Attack Simultaneous Defend-Attack Sequential Defend-Attack-Defend Sequential Defend-Attack with private information Caso piratas Somalia (Sevillano, Rios, DRI, 2012 Decision Analysis) Juegos rutas (guerra anti IED) (Wang, Banks, 2011) Juegos Borel (Banks, Petralia, Wang, 2011) Subastas (DRI, Rios, Banks, 2009; Rothkopf, 2007) Kadane, Larkey (1982), Raiffa (1982), Lippman, McCardle (2012) Stahl and Wilson (1994,1995) D. Wolpert (2012) Rotschild, MacLay, Guikema (2012) 81

Juegos secuenciales: Primero Defensor, Luego Atacante Sol Nash: Teoría Juegos 82

Juego secuencial: Apoyo al Defensor Problema Defensor Vision del Defensor del problema del Atacante 83

Apoyo al Defensor Problema del defensor Solución del defensor Input :?? 84

Visión del Defensor del problema del Atacante Apoyo al Defensor: Problema de asignación A maximiza EU D tiene creencias Asignación de Simulación MC where 85

Ejemplos Seguridad urbana Seguridad frente a piratas en Somalia Seguridad en el Metro de Seguridad en el aeropuerto de Seguridad en la red de ferrocarril de Seguridad en rutas anti-ied (Irak) Ciberseguridad en sistemas de control en plataformas petrolífera Subastas Poker (Sencillo) Sociedades de robots

Piratería en Somalia Piracy and armed robbery incidents reported to the IMB Piracy Reporting Centre 2011 87

(nothing) S,P S = 1 (pay) (nothing) A (attack) (no attack) S S = 0 (Navy) (nothing) S = 1 (pay) (man) A (attack) (no attack) S S = 0 (Navy) (nothing) S = 1 (pay) (team) A (attack) (no attack) S S = 0 (Navy) (alternative route) 88

89

Marco básico Several bots: Support each of the bots, treat the other bots as users (selfish 1). ARA Allow them to communicate, compute nash equilibria (selfish 2) If they communicate, from selfish to cooperative. ARA Emotions impacting degree of cooperativeness

Discusión Del Análisis de Riesgos Extremos Multivariantes Aplicaciones Al Análisis de Riesgos Adversarios Teoría Computación Aplicaciones Revisitar Teoría de Juegos

Gracias!!! david.rios@icmat.es www.aisoy.com