Webir /09/2014

Transcripción

1 Webir /09/2014

2 Temas Recuperación tolerante a errores de ortografía y otras inconsistencias Construcción de índices 2

3 Búsquedas con Comodines mon* - árbol de búsqueda para las palabras del vocabulario *mon - árbol de búsqueda invertido se*mon - mediante ambos árboles 3

4 Búsquedas con Comodines Caso general Indice Permuterm Consulta m*n buscar n$m* Indice k-gram $castle$: $ca, cas, ast, stl, tle, le$ Consulta re*ve buscar $re AND ve$ hello$ ello$h llo$he lo$hel... etr hello metric retrieval... Buscar un conjunto Q tal que W Q Controlar los términos que cumplen las 4 condiciones

5 Construcción de Indices Indexación basado ordenamiento por bloques Indexación de un sólo pasaje en memoria Indexación distribuida Indexación dinámica Seguridad Indexación para recuperación ordenada 5

6 Construcción de Indices Depende del hardware Accesos a memoria son más rápidos que a disco Nomenclatura Mantener en memoria los datos más usados caching Tiempo que lleva mover el cabezal de lectura de disco seek Tiempo de transferencia de disco a memoria por byte cuando el cabezal está en la pos. correcta transfer rate Bloques de memoria contiguos leídos a memoria chunks (8, 16, 32, and 64 kilobytes) Bloques de memoria a donde se transfiere de disco buffer 6

7 Construcción de Indices 0.2 s transferencia de 10 MB contiguos de disco a memoria ( ) = 0.7 s si se almacenan en 100 porciones no contiguas Símbolo Estadística Valor s Promedio de tiempo de seek 5 ms = s b Tiempo transferencia/byte 0.02 μs = s p Tiempo ciclo reloj procesador Tiempo operaciones bajo nivel (compare, swap) 10 9 s μs = 10-8 s Tamaño memoria principal Tamaño del espacio en disco varios GB 1 TB o más 7

8 Construcción de Indices Transferencias de disco a memoria son llevadas a cabo por el bus Procesador libre durante las transferencias Aprovechar Guardar datos comprimidos Transferir y descomprimir 8

9 Construcción de Indices Transferencias de disco a memoria son llevadas a cabo por el bus Procesador libre durante las transferencias Aprovechar Guardar datos comprimidos Transferir y descomprimir 9

10 Construcción de Indices - Proceso Colección de documentos a indexar Separar en palabras (tokenize) Procesamiento lingüístico para normalizar las palabras Ordenar las palabras (pares de términos y docid) en orden alfabético (clave primaria) Unificar ocurrencias repetidas de palabras Ordenar postings por docid (clave secundaria) 10

11 Indexación Basada en Ordenamiento por Bloques (BSBI) Cada término se representa mediante un termid Se pueden asignar los termid a medida que se construye el índice Se pueden asignar mediante un proceso en 2 pasadas en la primera pasada se extraen los términos y se le asigna un termid y en la segunda pasada se construye el índice Ejemplo Reuters-RCV1 1 GB de texto Noticias de un año millones de palabras no normalizadas 4 bytes para cada termid = 0.8 GB Cuando la memoria es insuficiente es necesario usar 11 algoritmos de ordenamiento externos (usan disco)

12 Indexación Basada en Ordenamiento por Bloques (BSBI) 1. Dividir la colección en porciones de igual tamaño (de tal forma que quede holgura en memoria) 2. Generar índice invertido de cada porción 1. Obtener conjunto de pares (termid, docid) 2. Ordenar los pares (termid, docid) 3. Unificar ocurrencias repetidas de los términos 3. Guardar resultados parciales en disco 4. Unificar los resultados parciales (merge) Abrir todos los bloques en simultáneo Tener un pequeño buffer de lectura para cada bloque y uno para la escritura del resultado En cada iteración elegir el menor termid, usar PQ o similar 12

13 Indexación Basada en Ordenamiento por Bloques (BSBI) brutus d1,d3 caesar d1,d2,d4 noble d5 with d1,d2,d3,d5 brutus d6,d7 caesar d8,d9 julius d10 killed d8 brutus d1,d3,d6,d7 caesar d1,d2,d4,d8,d9 julius d10 killed d8 noble d5 with d1,d2,d3,d5 Disco 13

14 Indexación Basada en Ordenamiento por Bloques (BSBI) O(T log T) debido al ordenamiento de los pares (termid, docid) En general dominado por El tiempo para separar s en palabras (tokenize) y el procesamiento lingüístico de cada bloque El tiempo para unificar los resultados parciales 14

15 Indexación Basada en Ordenamiento por Bloques (BSBI) Cómo se pueden asignar los termid a medida que se construye el índice en el BSIB? 15

16 Indexación Basada en Ordenamiento por Bloques (BSBI) Cómo se pueden asignar los termid a medida que se construye el índice en el BSIB? Se necesita estructura auxiliar de memoria Qué pasa si no cabe en memoria? 16

17 Indexación de un Sólo Pasaje en Memoria (SPIMI) En lugar de termid se usan los términos Algoritmo 1. Dividir la colección en porciones de igual tamaño 2. Generar índice invertido de cada porción procesando cada término en orden 1. Si es la primera ocurrencia, agregarlo al diccionario parcial (hash) 2. Agregar docid a la lista de postings del término, si es necesario agrandar el espacio para la lista 3. Guardar resultados parciales ordenados en disco 4. Unificar los resultados parciales (merge) 17

18 Indexación de un Sólo Pasaje en Memoria (SPIMI) Diferencias entre BSBI y SPIMI SPIMI agregar directamente el docid a la lista de postigs del término sin agruparlos todos y luego ordenarlos SPIMI no requiere ordenamiento más rápido No es necesario guardar pares (termid, docid), sólo docid menos memoria SPIMI es O(T) 18

19 Indexación Distribuida Si la colección es muy grande no se puede llevar a cabo la indexación en una sóla computadora Internet Clusters de computadoras Motores de búsquedas en Internet usan algoritmos de indexación distribuida Indices distribuidos, fraccionado por Términos Documentos 19

20 Indexación Distribuida Términos Indices distribuidos, fraccionado por términos Arquitectura distribuida MapReduce Varias computadoras estándar - nodos Un master node que dirige el proceso, asignando y reasignando tareas 20

21 Indexación Distribuida Términos Algoritmo La colección de documentos es fraccionada Las fracciones deben asegurar que el trabajo se pueda hacer de forma eficiente y pareja Se debe llegar a un índice de (termid, docid) La relación entre cada término y su termid también es distribuida Lista de términos más frecuentes y su termid se copian a todos los nodos Los demás términos se usan directamente en lugar de usar termid La tarea inicial (Map) es de parsing, al igual que en BSBI y SPIMI, se genera un diccionario parcial en cada nodo, dividido en segmentos por ejemplo a-f, g-p y q-z Luego (Reduce) se genera una sola lista de postings para cada termid (invert), cada segmento es asignado a un nodo 21

22 Indexación Distribuida Términos Fracciones Parser Master Asigna Asigna Postings a-f g-p q-z Inverter a-f Parser a-f g-p q-z Inverter g-p Parser a-f g-p q-z Inverter q-z 22

23 Webir Ejercicios Cómo contaría la cantidad de veces que cada término aparece en cada uno de los docs de la colección usando MapReduce? Asigna Master Asigna Parser a-f g-p q-z Inverter a-f Parser a-f g-p q-z Inverter g-p Parser a-f g-p q-z Inverter q-z Fracciones de la Colección 23

24 Webir Ejercicios En la etapa de invertir en la indexación distribuida usando MapReduce, se debe distribuir de forma equitativa las fracciones del índice invertido a construir de modo tal que contengan aproximadamente la misma cantidad de postings. Cómo? Asigna Master Asigna Parser a-f g-p q-z Inverter a-f Parser a-f g-p q-z Inverter g-p Parser a-f g-p q-z Inverter q-z Fracciones de la 24

25 Webir Indexación Dinámica Agregar/quitar términos Actualizar listas de postings Reconstruir completamente el índice Pocos/espóradicos cambios Tiempo de recontrucción completa es aceptable para incorporar nuevos documentos al índice 25

26 Webir Indexación Dinámica Indice Auxiliar (IA) Indice auxiliar (IA) de documentos nuevos Incorporación rápida de nuevos documentos En memoria Búsquedas en los dos índices Vector de bits para documentos eliminados Edición de docs = eliminación + reinserción Cuando el IA es muy grande unificar a disco 26

27 Webir Indexación Dinámica Indice Auxiliar (IA) Costo de la unificación Cada lista de postings en un archivo Levantar el archivo y agregar los postings del IA Para evitar múltiples accesos a disco, acumular cambios para actualizar un menor número de veces el índice principal (disco) Un sólo archivo Concatenación de las listas Se recorre cada posting del índice en disco T/n veces, n es el tamaño del IA y T el número total de postings O(T 2 /n) termid docid1 docid2 docid3 termid docid1 docid2 docid3 termid docid1 docid2 docid3... O Se generan varios IA de tamaños 2 0 n, 2 1 n, 2 2 n,, merge logarítmico Se recorre cada posting una vez en los log(t/n) niveles O(T log(t/n)) Consultas más lentas y operaciones/estadísticas más complejas termid docid3 termid docid3... O termid docid1 docid2 termid docid1 docid2 termid docid1 docid termid docid11 docid12 termid docid11 docid12 termid docid1 docid12...

28 Webir Indexación Avanzada Indices posicionales Se aplican los mismos algoritmos con pequeños cambios Recuperación ordenada por algún criterio (Ranking function) Coeficiente No es sólo inserción de docs nuevos al final, es necesario ordenar por el criterio 28

29 Webir Ejercicios Puede la corrección ortográfica ser una fuente de inseguridad? 29

30 Webir Ejercicios Puede la corrección ortográfica ser una fuente de inseguridad? Si se toman en cuenta (términos de) docs a los que el usuario no tiene acceso? 30

31 Webir Seguridad Access Control Lists (ACL) Indice invertido de los docs a los que puede acceder cada usuario Estas listas se cruzan con las listas de resultados Proceso lento para los usuarios con acceso a muchos docs Muchas veces se obtienen los permisos del File System Misuse detection for information retrieval systems, Cathey, Ma, Goharian, Grossman. Proceedings of the twelfth international conference on Information and knowledge management, Using relevance feedback to detect misuse for information retrieval systems, Ma, Goharian. Proceedings of the thirteenth ACM international conference on Information and knowledge management, Query length impact on misuse detection in information retrieval systems, Ma, Goharian. Proceedings of the 2005 ACM symposium on Applied computing,

32 Webir Seguridad Access Control Lists (ACL) Indice invertido de los docs a los que puede acceder cada usuario Estas listas se cruzan con las listas de resultados Proceso lento para los usuarios con acceso a muchos docs Muchas veces se obtienen los permisos del File System Misuse detection for information retrieval systems, Cathey, Ma, Goharian, Grossman. Proceedings of the twelfth international conference on Information and knowledge management, Using relevance feedback to detect misuse for information retrieval systems, Ma, Goharian. Proceedings of the thirteenth ACM international conference on Information and knowledge management, Query length impact on misuse detection in information retrieval systems, Ma, Goharian. Proceedings of the 2005 ACM symposium on Applied computing,

33 Webir Compresión de Indices Menor uso de disco Mejor uso de cache Términos frecuentes Más información en la memoria Descomprimir a medida que sea necesario Menos accesos a disco Compresión del vocabulario Compresión de las listas de postings 33

34 Webir Compresión de Indices Ley de Heap Tamaño del vocabulario (M) en función del tamaño de la colección es lineal en una representación log-log (log( M vs log T) T M = kt b T es el tamaño de la colección (número de tokens) b ~ k 100 Vocabulario sigue creciendo a medida que crece la colección Vocabularios grandes para grandes colecciones 34

35 Webir Compresión de Indices Ley de Zipf Un pequeño número de palabras son utilizadas con mucha frecuencia Un gran número de palabras son poco empleadas cf i = 1/i log cf i = log c - log i cf i es la frecuencia de una palabra en la i-ésima posición ordenadas de mayor a menor frecuencia y a es casi 1 lineal en una representación log-log (log( cf vs log rank) 35

36 Webir Compresión de Indices - Vocabulario El vocabulario es pequeño comparado con las listas de postings Aumentar la velocidad de recuperación Menos accesos a disco Limitaciones de Hardware Celulares, etc. Acelerar el tiempo inicial Diccionario como un solo string Por bloques 36