Mitos y Realidades del Big Data -Introducción al Big Data-

Tamaño: px

Comenzar la demostración a partir de la página:

Download "Mitos y Realidades del Big Data -Introducción al Big Data-"

Emilio Cruz San Segundo
hace 7 años
Vistas:

1 Jornada: Mitos y Realidades del Big Data -Introducción al Big Data- Urko Zurutuza Dpto. Electrónica e Informática Mondragon Goi Eskola Politeknikoa JMA Mondragon Unibertsitatea

2 Agenda Introducción al Big Data (Urko Zurutuza) Caso Práctico 1: (Adolfo Cortés) Big Data para eficiencia energética en PYMEs Caso Práctico 2 (Mario Íñiguez/Pedro ) Big Data para prever modelos de fuga de clientes Big Data para eficiencia en hornos y procesos industriales en condiciones extremas de temperatura

3 Índice 1. Introducción 2. Instalo y uso una BBDD NoSQL. Hago Big Data? 3. Tengo una plataforma basada en Hadoop instalada en mi equipo, Tengo Big Data? 4. Conozco y aplico técnicas de Machine Learning y Data Mining en la empresa. Soy Big Data? 5. Entonces, cómo hago, tengo y soy Big Data?

5 Data 50 x CRECIMIENTO DE DATOS PARA EL 2020

6 Big Data Big Data hace referencia al conjunto de información que es demasiado compleja como para ser procesada mediante TI tradicionales de manera aceptable Min Chen, Shiwen Mao, and Yunhao Liu. Big Data: A Survey. Mobile Networks and Applications, 19(2): , 2014.

7 Big Data Big Data hace referencia al conjunto de información que es demasiado compleja como para ser procesada mediante TI tradicionales de manera aceptable Min Chen, Shiwen Mao, and Yunhao Liu. Big Data: A Survey. Mobile Networks and Applications, 19(2): , 2014.

8 Big Data V olume elocity ariety

9 Instalo y uso una BBDD NoSQL. Hago Big Data?

10 NoSQL (Not Only SQL) Base de Datos de nueva generación que en su mayoría aborda algunas de las siguientes características: no relacional, distribuida, open-source, y horizontalmente escalable [fuente:

11 NoSQL (Not Only SQL) - Tipos Tipo Descripción Clave-Valor Cada elemento tiene una clave y su valor asociado. Familias de Columnas Para consultas sobre grandes conjuntos de datos. Enfoque en columnas no en filas Documentos Empareja una clave con una estructura de datos o documento. Grafos Guarda nodos y sus relaciones. RRSS, estructuras de redes, Ejemplo emcached

12 Instalo y uso una BBDD NoSQL. Hago Big Data?

13 Tengo una plataforma basada en Hadoop instalada en mi equipo, Tengo Big Data?

14 Hadoop Sistema que permite una computación Fiable, Escalable, y Distribuida Un Framework que permite el procesamiento distribuido de grandes conjuntos de datos sobre clusters de ordenadores.

15 Ecosistema Hadoop (simplificado) Machine Learning Colector de datos Apache Pig: Scripting Data Warehouse Procesamiento Distribuido de datos Conector BBDDR-HDFS YARN Zookeeper: Coordina la distribución Gestiona recursos del Cluster Almacenamiento redundante y fiable S.O. S.O. S.O. S.O. S.O. S.O. S.O. S.O. S.O.

16 Map-Reduce Split Map Shuffle & Sort Reduce, 4, 2, 4, 4, 2, 4, 3, 3 assigns Master assigns

17 Tengo una plataforma basada en Hadoop instalada en mi equipo, Tengo Big Data?

18 Conozco y aplico técnicas de Machine Learning y Data Mining en la empresa. Soy Big Data?

19 Conozco y aplico técnicas de Machine Learning y Data Mining en la empresa. Soy Big Data? El fin del Big Data es extraer valor de tantos datos Análisis de Datos (Big Data Analytics) Recomendación basada en el comportamiento de usuarios Agrupación de documentos de texto parecidos (por ejemplo) Clasificación o predicción en base a casos anteriores

20 Conozco y aplico técnicas de Machine Learning y Data Mining en la empresa. Soy Big Data? In-Memory Analytics vs. In-Hadoop Analytics El fondo es el mismo, pero ahora: Distribuido Escalable Herramientas R Spark (Mllib) TODOS: RapidMiner, SAS, Teradata,

21 Conozco y aplico técnicas de Machine Learning y Data Mining en la empresa. Soy Big Data?

22 Entonces, cómo hago, tengo y soy Big Data? 1. Objetivos: Qué valor añadido quiero obtener? 2. Selecciona la infraestructura: en la empresa, o en la nube (IaaS, PaaS, SaaS) 3. Fórmate/contrata expertos 4. Une las piezas (requisitos técnicos) 5. Realiza implementaciones ágiles e iterativas 6. Empieza con objetivos simples e integra los resultados

23 Objetivos: Qué valor añadido quiero obtener? Alinea la necesidad de Big Data con los objetivos de negocio Implementar Big Data es decisión de negocio, no de TI Evalúa los requisitos de los datos (V s!)

24 Selecciona la infraestructura En casa? Hardware (mínimo): 2*6core CPU, 24-64GB RAM, 1-2TB HDD Distribuciones Hadoop: Cloudera, MapR, Hortonworks En la nube? IaaS (Amazon Elastic Compute Cloud, Azure, ) PaaS (Amazon Elastic MapReduce, Azure HDInsight, ) SaaS (Teradata, sqlstream, )

25 Fórmate Administración del cluster NoSQL Desarrollo (Java, Python, R, ) Machine Learning / Data Mining Visual analytics (d3.js, CartoDB, Gephi, Tableu, )

26 Une las piezas Qué preguntas debo responder? Cómo recojo los datos? Cómo los almaceno? Cómo los analizo? Cómo muestro los resultados?

27 Realiza implementaciones ágiles e iterativas

28 Empieza con objetivos simples e integra los resultados Según se van obteniendo pequeños resultados, aparecen nuevas preguntas a responder. Integrar resultados con el Sistema de Producción/ Sistema de Gestión actual

29 Conclusiones Objetivos, estrategia, ROI Datos: Estamos preparados? Infraestructura Local o en la Nube? Big Data está relacionado con: Análisis de Datos = Data Science Analizas tus datos en Small Data ahora?

30 Eskerrik asko Urko Zurutuza Mondragon Unibertsitatea

Documentos relacionados

MÁSTER EN BIG DATA MANAGEMENT & DATA ENGINEERING. Master

MÁSTER EN BIG DATA MANAGEMENT & DATA ENGINEERING Master MÁSTER EN BIG DATA MANAGEMENT & DATA ENGINEERING MBD_MÓDULO 1: FUNDAMENTOS DE BIG DATA 1. Qué es Big Data y qué no es Big Data 2. Business Intelligence