Análisis de la utilización de sitios web con métodos. de estadística inferencial en la práctica

Transcripción

1 Análisis de la utilización de sitios web con métodos de estadística inferencial en la práctica Prof. Dr. Frank Dellmann Operations Research, estadística y matemáticas empresariales Fachhochschule Münster (Universidad de Ciencias Aplicadas) Corrensstr. 25 D Münster Alemania 1

2 Síntesis Web usage mining se define como el análisis de datos producidos al usar las páginas web. Este artículo describe un concepto metodológico para análizar la utilización de sitios web con métodos de estadística inferencial ampliando el entendimiento de web usage mining como aplicación de algoritmos de minería de datos a ficheros de registro del servidor web. El concepto aspira a obtener conocimientos sobre el éxito de un sitio web análizando determinadas cifras y descubriendo divergencias significativas de distintos periodos o distintos dominios. Además, los efectos del empleo de instrumentos determinados de marketing a las actividades en el sitio web deben de ser analizados. Este concepto es aplicado en un proyecto práctico para análizar los ficheros de registro de los sitos web del consorcio Volkswagen. En este proyecto se realiza con BBDO Interactive un sistema de información y de análisis cumpliendo las exigencias del cliente al interpretar los resultados y deducir orientaciones para actuar. Curriculum Vitae Prof. Dr. Frank Dellmann Nacimiento: 9 de marzo 1967, Essen, Alemania. 10/87-2/92: Estudios de empresariales, universidad Essen. 3/92-2/97: Asistente cientifico en el instituto de informática y empresariales, promoción en ciencias económicas, universidad Essen. 10/92-7/94: Estudios de informática práctica, universidad a distancia Hagen. 1/97-8/00: Consejero en el departamento de planificación, asistente del presidente, KarstadtQuelle AG, Essen. desde 9/00: Profesor de Operations Research, estadística y matemáticas empresariales, universidad de ciencias aplicadas Münster. 2

3 1. Carácter problemático Gracias a los progresos acelerados del internet y con las posibilidades económicas obtenidas, cada año más empresas utilizan el internet como medio de comunicación para presentarse al cliente. Así pues se persiguen objetivos como el mejor empleo de instrumentos de marketing y la intensificación de las relaciones con los clientes. Por lo tanto es necesario una medida de los efectos con el empleo de instrumentos de marketing en el internet. Aunque hay métodos específicos de controlling dirigiendo las vías tradicionales de comunicación y distribución, muchas veces no se encuentran apenas informaciones sobre el éxito de la presencia de la empresa en el internet. Desde que el internet tiene más influencia en la comunicación con los clientes, las empresas exigen métodos para analizar las actividades de los usuarios de las páginas web de la empresa. Los datos de estas actividades en las páginas web son protocolizados en ficheros de registro del servidor web o del servidor de aplicaciones. Algunas empresas producen de los ficheros de registro estadísticas descriptivas de cifras determinadas como visitas, vistas de página o duración de la estancia, y las comparan por un periodo de tiempo. En la literatura se define web usage mining como el análisis de datos que son producidos al usar las páginas web. 1 Por ello se entiende web usage mining como la aplicación de algoritmos de minería de datos a estos ficheros de registro. 2 Estos algoritmos tienen como meta el reconocimiento de modelos y de relaciones que están ocultas en los datos (análisis de asociaciones, análisis de secuencias, análisis de trayectos, análisis de 1 Véase Cooley y otros (1997), pág Para algoritmos de minería de datos véase Berry/Linoff (2000). 3

4 cestas de mercancia, análisis de cluster etc.) para desembocar en la producción de modelos explicativos y prognosticos (análisis de regresión, análisis discriminativo, análisis de árbol de decisiones, análisis seriales de tiempo etc.). Aquí se concibe el análisis estadístico de datos de un sitio web ampliandolo a métodos de estadística inferencial (intervalos de confianza, pruebas de significación, pruebas de adaptación, pruebas de independencia, análisis de varianza). Con esto se puede demostrar por ejemplo cambios significativos de una cifra determinada a un periodo referencial o un dominio referencial. En este artículo un concepto es descrito y es aplicado en un proyecto práctico para análizar los ficheros de registro de los sitios web del consorcio Volkswagen por medio de métodos estadísticos inferenciales. La empresa exigía la producción de un sistema de información y de análisis que excede de la producción de estadísticas descriptivias al interpretar los resultados creando una base de la que se puede deducir orientaciones concretas para actuar. En un futuro este sistema debe de desembocar en un sistema de customer relationship management para todo el consorcio en el que los datos de clientes y ventas están integrados. 3 BBDO Interactive, una de las más grandes agencias de multimedia de Alemania, ha sido encargado de la producción de tal sistema. BBDO Interactive ha producido también las presencias de Volkswagen en el internet. El concepto ha sido elaborado con esta agencia que se presenta en el proximo capítulo. En el tercer capítulo está descrito la aplicación del concepto para análizar los sitios web de Volkswagen. En el cuarto se da una perspectiva de futuros trabajos. 3 Para customer relationship management véase p.ej. Gosney/Boehm (2000). 4

5 2. Concepto de análisis estadístico de sitios web El concepto de análisis estadístico de sitios web por medio de métodos inferenciales aspira a obtener conocimientos sobre el éxito de un sitio web. Esto incluye la interpretación de las cifras de distintos periodos o distintos dominios que son contenidas en los informes de fichero de registro y la deducción de orientaciones concretas para actuar. Por una parte diferencias significativas de cifras comparadas por el tiempo o por dominios deben de ser descubiertas. Por otra parte los efectos del empleo de instrumentos determinados de marketing a las actividades en el sitio web deben de ser analizados. Para esto se usa la manera de proceder siguiente: 1. Planteamiento del problema 2. Encuesta de datos en ficheros de registro del servidor web y de aplicaciones 3. Preparación de los datos 4. Representación de los datos 5. Análisis de valores extremos 6. Pruebas de significación (dado el caso pruebas de adaptación para examinar suposiciones de distribuciones) 7. Interpretación de resultados y deducción de orientaciones para actuar 8. Informes 5

6 2.1. Planteamiento del problema En la fase del planteamiento del problema se concretiza el objetivo de la investigación. A esta pertenece la determinación de los periodos del análisis (meses, semanas etc.), de los periodos de los datos (dias, horas etc.), de los dominios referenciales, de las cifras consideradas (visitas, vistas de página, vistas de página por visita, duración de la estancia, clics, dirección de procedencia y de salida etc.) y de los parametros de posición y de dispersión calculados de las cifras. Si se quiere análizar la influencia de instrumentos especificos de marketing, las hipótesis para realizar las pruebas de significación tienen que ser formuladas y el nivel de significancia tiene que ser determinado. Además se puede establecer un calendario externo en el que fechas relevantes como p.ej. ferias, campañas o eventos están inscritas para análizar los efectos al sitio web Encuesta de datos Las actuaciones de los usuarios de la página web en los ficheros de registro del servidor web serán protocolizadas. Estos ficheros de registro, dependiendo de sus distintos formatos, contienen informaciones sobre los accesos a este sitio web, así como las direcciones de IP de los usuarios, la duración del acceso, la URL de la página visitada, el código del estado (acceso con éxito o fracaso), el número de los bytes portados etc. En cada linea del fichero de registro está protocolizado un acceso en este sitio web. Estas informaciones se deben de preparar para cada sesión o usuario respectivamente. A esta encuesta de datos de los ficheros de registro del servidor web se le unen una serie de problemas: 4 4 Véase Cooley y otros (1999), Srivastava y otros (2000). 6

7 - Protocolizar informaciones no relevantes: Non-Pages como gráficas automaticamente cargadas y llamamientos fracasados generan una inscripción al protocolo. - Actividades incompletamente protocolizadas por llamamiento de cachés. - Especificación insuficiente de usuarios y sesiones: servidor caché, hacerse anónimo, direcciones de IP dinamicas, administradores, robots y spiders. - Informaciones insuficientes sobre las acciones de los usuarios en las páginas dinámicas. Con esto se debe recurrir a ficheros de registro del servidor de aplicaciones. En el uso de datos del fichero de registro del servidor web y de aplicaciones la unión de sesiones es decisivo Preparación de datos Algunos de los problemas anteriormente mencionados se puede remediar en el paso de la preparación de los datos. Así se elimina inscripciones de non-pages y con un código de estado indicando un error. Accesos de maquinas de busqueda pueden ser identificados por el tipo del navegador usado y están eliminados. 5 Los accesos de los administradores normalmente pueden ser eliminados por la dirección IP conocida. Para especificar los usuarios y las sesiones se usa también métodos heurísticos. Así pues se puede identificar un usuario a través de la misma dirección IP, el mismo tipo de navegador y el mismo sistema operativo. Muchas veces se usa intervalos de 15 a 30 minutos sin actividad para especificar una sesión. En el caso de llamar páginas parti- 5 Véase Stout (1997), pág

8 culares del caché se puede reconstruir la ruta de navigación del usuario a través de una comparación con la estructura del sitio web. 6 Además existen mecanismos diferentes para especificar sesiones: 7 - Cookies: Un cookie está puesto en un archivo del navegador del usuario y está transmitido en cada petición de modo que un seguimiento de una sesión es posible. - URL rewriting: Añadir una identificación de sesión como parametro adicional a cada URL llamada de modo que la identificación de sesión está protocolizado a cada petición. - Java applets: Transmisión de Java applets especiales al usuario que pueden transmitir, además de la identificación de sesión, también más informaciones especificas del usuario. En esto se necesita el permiso del usuario Representación de datos Los datos, preparados en el modo descrito, están representados en forma de estadísticas descriptivas. Se producen distribuciones de frecuencias para las cifras definidas en el planteamiento del problema que están comparadas con respecto al periodo de referencia o al dominio de referencia. La representación está realizada en forma de tablas o gráfica adecuada. Además se calculan los parametros definidos en el planteamiento del problema (media aritmética, mediana, varianza, distancia de quartiles etc.). 6 Véase Wu y otros (1998) y Cooley y otros (1999). 7 Véase Cooley y otros (1999), Srivastava y otros (2000). 8

9 2.5. Análisis de valores extremos En base de la representación se examina los datos si contienen valores extremos. Muchas veces ya se pueden reconocer valores extremos en la representación gráfica. 8 Además se puede aplicar p.ej. la regla de valores extremos de Tukey o las pruebas de Grubbs y Beck para identificar valores extremos. 9 Una vez que un valor extremo está reconocido, se debe examinar por si hay razones en cuanto al contenido para esta divergencia. Así pues es posible que un número muy alto de visitas de una página web en un día este causado por una campaña de publicidad. Por el contrario, problemas del servidor pueden ser la causa para un número muy bajo de visitas. Una depuración a través de eliminar valores extremos debería ser necesario solamente en muy pocos casos por las influencias múltiples y por la eliminación de faltas en el paso de la preparación. Más bien se puede descubrir casos vistosos en este paso. Para nivelar o excluir la influencia de datos extremos a la calculación de los parametros métodos robustos pueden ser aplicadas Pruebas de significación Se aplican pruebas de significación para averiguar si diferencias observadas en la comparación con respecto al tiempo o a dominios son significativas o si son causadas por vacilaciones casuales. En esto se examina las hipótesis que han sido formuladas en la fase del planteamiento del problema. Por otro lado también es posible realizar pruebas 8 Para la análisis explorativa de datos véase Tukey (1977). 9 Véase Tukey (1977), págs. 43 y 44, y Grubbs/Beck (1972). 10 Véase Huber (1981), Hampel y otros (1986). 9

10 de diferencias del periodo de referencia o del dominio de referencia para todas las cifras. Si el sitio web está muy frecuentada, se puede partir de tamaños de muestras suficientemente grandes para aceptar la validez de la condición de la distribución normal aproximadamente que se necesita para muchas pruebas. Para diferencias de posición se aplica la prueba aproximativa de Gauss de dos muestras. Si uno debe constatar diferencias entre las varianzas se puede aplicar la prueba de la F de dos muestras. Para la prueba de porciones diferentes, la diferencia estandardizada de las porciones como test estadístico está aproximadamente distribuida normal. En tamaños pequeños de muestras se debe aplicar las pruebas de significación desarrolladas para esto. Eventualmente, el cumplimiento de las condiciones de distribución tiene que estar examinado a través de pruebas de adaptación correspondientes Interpretación de resultados y deducción de orientaciones para actuar Los resultados de las pruebas de significación deben estar preparados de forma fácil de entender e interpretados con respecto a su sentido. Especialmente, los efectos de los eventos registrados en el calendario externo están descritos. Además se puede mostrar posibles causas de las que se deducen eventualmente orientaciones para actuar. Por esto es necesario un entendimiento de los instrumentos de marketing aplicados y de sus efectos. 11 Véase Lehmann (1986). 10

11 A veces diferencias no significativas dan con problemas de entendimiento o incluso de aceptación. Estos problemas pueden ser evitados en la fase del planteamiento del problema, indicando posibles resultados y determinando juntamente con la administración el nivel de significación Informes Aquí se distingue entre informes estáticos y dinámicos. Los informes dinámicos posibilitan al aplicador contemplar los resultados bajo distintos puntos de vista, definir vistas propias y análizar así los resultados por criterios adicionales. Tanto los formatos usuales de software de hoja de cálculo y de presentación como HTML entran en consideración como formatos de salida para informes en línea. Además informes periódicos por son imaginables. 3. Aplicación a Volkswagen A continuación se presentará la aplicación del concepto a Volkswagen descrito en el capítulo anterior. El consorcio de Volkswagen ofrece actualmente 26 dominios en total que contienen tanto la presencia de la empresa y de las marcas como varias ofertas de servicios y marketing. El alojamiento de los sitios web es llevado por BBDO Interactive de modo que este mismo dispone de los ficheros de registro. En total, los ficheros de registro contienen al día aproximadamente 1 GB de datos por las páginas estáticas. Se usa el Content Management-System (CMS) Vignette Story Server para las páginas dinámicas. Los ficheros de registro del servidor del CMS contienen entre 3 y 7 GB al día. Los problemas causados por este imenso volumen de datos no son tratados aquí. Más bien el concepto metodológico ha de estar en primer plano. 11

12 3.1. Planteamiento del problema El cliente Volkswagen exigía la interpretación de los resultados excedidos de la producción de estadísticas descriptivias y exigía también la obtención de conocimientos de los datos para poder deducir orientaciones para actuar. Se debía de producir un sistema de informaciones y análisis que informa sobre el éxito del sitio web sirviendo así como base de emplear los instrumentos de marketing. Debido a la complejidad del sistema se procederá en tres fases distintas. En la primera fase se produce un sistema de análisis usando un programa de estadística que entrega estadísticas descriptivas, en un formato estandarizado para cifras definidas y que examina estas por diferencias significativas en el tiempo o en dominios con la ayuda de métodos inferenciales. Esta fase es tratada en las próximas secciones. En la segunda fase se debe de ampliar este sistema usando métodos de minería de datos (análisis de cluster y de secuencias) para definir grupos distintos de usuarios y para análizar modelos de grupos meta y de categorías. 12 En esta base se podría añadir usuarios a los distintos grupos y poner ofertas personalizadas en la página web. A largo plazo el fin de este sistema es su ampliación a un sistema de customer relationship management para todo el consorcio en el que están integrado todos los datos de clientes y ventas de los canales tradicionales de distribución. El núcleo de la presencia en el internet de Volkswagen es el configurador de coches que posibilita una configuración individual del coche por el usuario. El usuario puede mandar esta configuración a un comerciante de distribución de Volkswagen en su re- 12 Categorías son tipos de coches u otros grupos cuanto al contenido como p.ej. competencia técnica o coches usados. 12

13 gión con el deseo de concertar una cita o de ponerse en contacto. Volkswagen persigue el objetivo de aumentar el número de configuraciones mandadas y de esta manera su venta. Se determinaron meses, cuartales y años como periodos del análisis. Además es posible también introducir cualquier periodo. Los datos deben ser disponibles en base de días. Para la utilización de los ficheros de registro del servidor web se determinaron las cifras siguientes: - Visitas - Vistas de página estática - Bajada de datos (tipos, nombres) - Vistas de página por visita - Duración media de la estancia por visita - Vistas de página por dominio - Vistas de página por navegador - Vistas de página por sistema operativo - Accesos por horas - Accesos por días - Dirección de procedencia - Dirección de salida 13

14 - Volumen de transferencia (bytes) - Registros por categorías - Respuesta de por categorías - Visitas por comerciantes - Índice de conversión para rutas definidas (p.ej. homepage página de un tipo de coche configurador de coches envío de ) En las peticiones dinámicas se deben de registrar los variables siguientes : Elementos Peticiones de elementos singulares (p.ej. elementos de texto, videos, imagenes) Módulos Páginas Categorías Peticiones de módulos compuestos de diversos elementos Peticiones de páginas compuestas de diversos módulos Peticiones de categorías (p.ej. Passat, competencia técnica) Peticiones de módulos por categorías Para el configurador de coches se deben de análizar algunas cifras específicas : - Visitas por tipos de coches - Vistas de página por tipos de coches - Configuraciones terminadas - Configuraciones mandadas 14

15 - Configuraciones terminadas por comerciantes - Configuraciones mandadas por comerciantes - Financiaciones por configuración Se calculan en las estadísticas descripitivas los parámetros usuales de posición y de dispersión (media, mediana, desviación estándar, desviación media de la mediana, distancia de cuartiles etc.) para las distribuciones de los variables. Para constatar divergencias significativas en comparaciones por el tiempo o por dominios se formula hipótesis para pruebas de diferencias de posición (distintas esperanzas) entre las muestras. El nivel de significación es determinado como α = 0,01. Además se instala un calendario externo en el que están inscritas fechas de eventos fuera del web como ferias, campañas clasicas de publicidad o conferencias de prensa y campañas en el web (pancartas etc.) para análizar el efecto al sitio web. Las hipótesis para esto están formulados analógamente Encuesta de datos Los datos son protocolizados en el servidor web en el formato Apache Combined Logfile. Las actividades dinámicas del usuario son protocolizados del Vignette Story Server a través de un software especialmente hecho para ello (NetGenesis) Preparación de datos Las inscripciones irrelevantes como líneas con un código de estado indicando un error y las inscripciones de robots, spiders y administradores, que son identificadas por deter- 15

16 minados tipos de navegadores, direcciones IP y muestras de acceso, están eliminados. Para especificar sesiones se usan intervalos de 15 minutos sin actividad. Por otro lado, algunos non-pages están inscritos porque contienen bajadas de datos causadas por campañas web Representación de datos Las estadísticas descriptivas para las cifras descritas en la sección 3.1. están generadas por los datos preparados con ayuda de un software de estadística. La salida es entregada a los informes 13 por la interfaz de Excel Análisis de valores extremos Las distribuciones de las cifras singulares son examinadas por valores extremos con la regla de Tukey y con las pruebas de Grubbs y Beck. 14 Si un valor está descubierto como valor extremo, el aplicador es avisado y puede análizar las causas. Normalmente, el aplicador indica esta causa en la interpretación de los resultados Pruebas de significación Las pruebas de significación para las hipótesis formuladas en la sección 3.1. son realizadas por un software de estadística. Para las muestras grandes se aplica la prueba aproximativa de Gauss de dos muestras. 13 Véase sección Véase Tukey (1977), págs. 43 y 44, y Grubbs/Beck (1972). 16

17 Para muestras pequeñas se aplica la prueba de la t de dos muestras para varianzas iguales y la prueba de Welch para varianzas distintas si la condición de la distribución normal está cumplida. Esta condición está examinada por una prueba de adaptación de chi-cuadrado. En el caso de no cumplir esta condición se puede aplicar la prueba del signo examinando si las medianas de las muestras son iguales Interpretación de resultados y deducción de orientaciones para actuar Dependiendo de la cuantía de resultados se limita en la interpretación los siguientes casos: - Diferencias significativas descubiertas por pruebas de significación - Efectos de eventos inscritos en el calendario externo - Valores extremos identificados De esto se deducen, junto con el consejero de marketing de BBDO Interactive, posibles orientaciones para actuar que son formuladas para la administración de Volkswagen Informes Por distintos grupos meta de aplicadores es necesario de hacer informes particulares para determinadas áreas. Adicionalmente, un informe general es necesario para los departamentos de los productos y de marketing de Volkswagen. Es posible el acceso a los informes por un modelo de autorización. Todos los análisis son accesibles por el inter- 15 Véase Lehmann (1986). 17

18 net protegido con clave de acceso. Por esto todos los datos y gráficas son representadas en HTML. Los análisis son configurables por la interfaz web de modo que las investigaciones individuales son posibles. Para poder importar las investigaciones en presentaciones u otros sistemas, los datos están disponibles en formato Excel. Además se manda todos los meses informes con los resultados más relevantes, interpretaciones y orientaciones para actuar deducidas por a un circulo definido de aplicadores. 4. Perspectivas El sistema descrito en este artículo ha sido producido para el cliente Volkswagen. Está planeado el modificar este sistema a un programa estandar para ofrecerlo a más clientes de BBDO Interactive. Al termino de este artículo no se había finalizado la primera fase. Esta es la razon de describir aquí el concepto metodológico pero aún ningun resultado palpable. La segunda fase se emperzará en el otoño del 2001 ampliando el sistema por metódos de análisis cluster y de secuencias. La ampliación a un sistema de customer relationship management en la tercera fase está previsto para mediados de La conexión con el sistema de controlling está visto como un reto más. Literatura Berry/Linoff (2000): Berry, M. J. A.; Linoff, G. S.: Mastering Data Mining. The Art and Science of Customer Relationship Management. Wiley, New York,

19 Cooley et al. (1997): Cooley, R.; Mobasher, B.; Srivastan, J.: Web Mining: Information and Pattern Discovery on the World Wide Web. Cooley et al. (1999): Cooley, R.; Mobasher, B.; Srivastan, J.: Data Preparation for Mining World Wide Web Browsing Patterns. En: Knowledge and Information Systems, vol. 1, n o 1, 1999, págs Gosney/Boehm (2000): Gosney, J. W.; Boehm, T. P.: Customer Relationship Management Essentials. Prima Publishing, Roseville, California, Grubbs/Beck (1972): Grubbs, F. E.; Beck, G.: Extension of sample sizes and percentage points for significance tests of outlying observations. En: Technometrics, vol. 14, 1972, págs Hampel et al. (1986): Hampel, F. R.; Ronchetti, E. M.; Rousseeuw, P. J.; Stakel, W. A.: Robust Statistics. The Approach Based on Influence Functions. Wiley, New York, Huber (1981): Huber, P. J.: Robust Statistics. Wiley, New York, Lehmann (1986): Lehmann, E. L.: Testing Statistical Hypotheses. 2. Aufl., Wiley, New York, Srivastava et al. (2000): Srivastava, J.; Cooley, R.; Deshpande, M.; Tan, P.-N.: Web Usage Mining: Discovery and Applications of Usage patterns from Web Data. En: SIGKDD Explorations, vol. 1, n o 2, 2000, págs Stout (1997): Stout, R.: Web Site Stats: Tracking Hits and Analyzing Traffic. Osborne, Berkeley,

20 Tukey (1977): Tukey, J. W.: Exploratory Data Analysis. Addison-Wesley, Reading, Massachusetts, Wu et al. (1998): Wu, K.-L. ; Yu, P. S.; Ballman, A.: SpeedTracer: A Web Usage Mining and Analysis Tool. En: IBM Systems Journal, vol. 37, 1998, Issue 1, págs