Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Cada sesión dura 2 horas
Día 1: Sesión -1: Visión general empresarial sobre por qué implementar Inteligencia de Negocios de Big Data en el sector gubernamental
- Estudios de caso del NIH y el Departamento de Energía (DoE)
- Tasa de adaptación al Big Data en las agencias gubernamentales y cómo están alineando sus operaciones futuras en torno al análisis predictivo de Big Data
- Áreas amplias de aplicación en el Departamento de Defensa (DoD), la NSA, el IRS, el USDA, etc.
- Interfaz del Big Data con datos legados
- Comprensión básica de las tecnologías habilitadoras en el análisis predictivo
- Integración de datos y visualización de tableros (Dashboards)
- Gestión de fraudes
- Generación de reglas de negocio/detección de fraude
- Detección de amenazas y perfiles
- Análisis de costo-beneficio para la implementación de Big Data
Día 1: Sesión-2 : Introducción al Big Data-1
- Características principales del Big Data: volumen, variedad, velocidad y veracidad. Arquitectura MPP para el volumen.
- Almacenes de datos (Data Warehouses) – esquema estático, conjunto de datos que evoluciona lentamente
- Bases de datos MPP como Greenplum, Exadata, Teradata, Netezza, Vertica, etc.
- Soluciones basadas en Hadoop – sin condiciones sobre la estructura del conjunto de datos.
- Patrón típico: HDFS, MapReduce (crunch), recuperación desde HDFS
- Lote (Batch) – adecuado para análisis no interactivo
- Volumen: datos de transmisión CEP
- Opciones típicas – productos CEP (ej. Infostreams, Apama, MarkLogic, etc.)
- Menos listos para producción – Storm/S4
- Bases de datos NoSQL – (columnares y de clave-valor): ideales como complemento analítico al almacén de datos/base de datos
Día 1: Sesión -3 : Introducción al Big Data-2
Soluciones NoSQL
- Almacenamiento KV - Keyspace, Flare, SchemaFree, RAMCloud, Oracle NoSQL Database (OnDB)
- Almacenamiento KV - Dynamo, Voldemort, Dynomite, SubRecord, MongoDB, DovetailDB
- Almacenamiento KV (Jerárquico) - GT.m, Cache
- Almacenamiento KV (Ordenado) - TokyoTyrant, Lightcloud, NMDB, Luxio, MemcacheDB, Actord
- Caché KV - Memcached, Repcached, Coherence, Infinispan, EXtremeScale, JBossCache, Velocity, Terracotta
- Almacenamiento de tuplas - Gigaspaces, Coord, Apache River
- Base de datos de objetos - ZopeDB, DB40, Shoal
- Almacenamiento de documentos - CouchDB, Cloudant, Couchbase, MongoDB, Jackrabbit, Bases de datos XML, ThruDB, CloudKit, Preserve, Riak-Basho, Scalaris
- Almacenamiento de columnas anchas (Wide Columnar) - BigTable, HBase, Apache Cassandra, Hypertable, KAI, OpenNeptune, Qbase, KDI
Variedades de Datos: Introducción al problema de limpieza de datos en Big Data
- RDBMS – estructura/esquema estático, no promueve un entorno ágil y exploratorio.
- NoSQL – semiestructurado, suficiente estructura para almacenar datos sin un esquema exacto previo al almacenamiento
- Problemas de limpieza de datos
Día 1: Sesión-4 : Introducción al Big Data-3 : Hadoop
- ¿Cuándo seleccionar Hadoop?
- ESTRUCTURADO - Los almacenes de datos empresariales/bases de datos pueden almacenar grandes cantidades de datos (a un costo) pero imponen estructura (no es bueno para la exploración activa)
- Datos SEMIESTRUCTURADOS – difíciles de manejar con soluciones tradicionales (DW/DB)
- Almacenamiento de datos = ESFUERZO ENORME y estático incluso después de la implementación
- Para variedad y volumen de datos, procesado en hardware comercial – HADOOP
- Hardware comercial necesario para crear un clúster de Hadoop
Introducción a Map Reduce /HDFS
- MapReduce – distribuir el cómputo entre múltiples servidores
- HDFS – hacer los datos disponibles localmente para el proceso de computación (con redundancia)
- Datos – pueden ser no estructurados/sin esquema (a diferencia del RDBMS)
- Responsabilidad del desarrollador para dar sentido a los datos
- Programar MapReduce = trabajar con Java (pros/contras), cargar manualmente los datos en HDFS
Día 2: Sesión-1: Ecosistema de Big Data-Construcción de ETL de Big Data: universo de herramientas de Big Data, ¿cuáles usar y cuándo?
- Hadoop vs. otras soluciones NoSQL
- Para acceso interactivo y aleatorio a los datos
- Hbase (base de datos orientada a columnas) sobre Hadoop
- Acceso aleatorio a los datos pero con restricciones impuestas (máx 1 PB)
- No es bueno para análisis ad-hoc, bueno para registro, conteo, series temporales
- Sqoop - Importar desde bases de datos a Hive o HDFS (acceso JDBC/ODBC)
- Flume – transmitir datos (ej. datos de registro) a HDFS
Día 2: Sesión-2: Sistema de gestión de Big Data
- Componentes móviles, nodos de cómputo inician/fallan: ZooKeeper - Para servicios de configuración/coordinación/nombres
- Pipeline/flujo de trabajo complejo: Oozie – gestionar flujo de trabajo, dependencias, cadena daisy
- Desplegar, configurar, gestión de clústers, actualizar, etc. (admin del sistema) : Ambari
- En la Nube : Whirr
Día 2: Sesión-3: Análisis predictivo en Inteligencia de Negocios -1: Técnicas fundamentales y BI basado en aprendizaje automático:
- Introducción al aprendizaje automático
- Aprendizaje de técnicas de clasificación
- Predicción Bayesiana-preparación del archivo de entrenamiento
- Máquinas de soporte vectorial (SVM)
- Algebra p-Tree de KNN y minería vertical
- Red neuronal
- Problema de gran variable en Big Data - Bosque aleatorio (RF)
- Problema de automatización en Big Data – Bosque aleatorio (RF) de ensamble multimodelo
- Automatización a través de Soft10-M
- Herramienta de análisis de texto - Treeminer
- Aprendizaje ágil
- Aprendizaje basado en agentes
- Aprendizaje distribuido
- Introducción a herramientas de código abierto para análisis predictivo : R, Rapidminer, Mahout
Día 2: Sesión-4 Ecosistema de análisis predictivo-2: Problemas comunes de análisis predictivo en el gobierno.
- Analítica de información
- Visualización analítica
- Análisis predictivo estructurado
- Análisis predictivo no estructurado
- Perfiles de amenaza/fraudstar/proveedores
- Motor de recomendación
- Detección de patrones
- Detección de reglas/escenarios – fracaso, fraude, optimización
- Detección de causa raíz
- Análisis de sentimiento
- Analítica CRM
- Analítica de redes
- Analítica de texto
- Revisión asistida por tecnología
- Analítica de fraude
- Analítica en tiempo real
Día 3 : Sesión-1 : Análisis en Tiempo Real y Escalable sobre Hadoop
- ¿Por qué los algoritmos de análisis comunes fallan en Hadoop/HDFS?
- Apache Hama- para computación distribuida síncrona por bloques
- Apache SPARK- para computación en clúster para análisis en tiempo real
- Laboratorio de Gráficos CMU2-enfoque asíncrono basado en grafos para computación distribuida
- Enfoque basado en álgebra p-KNN desde Treeminer para reducir el costo de operación del hardware
Día 3: Sesión-2: Herramientas para eDiscovery y Forense
- eDiscovery sobre Big Data vs. datos legados – una comparación de costo y rendimiento
- Codificación predictiva y revisión asistida por tecnología (TAR)
- Demostración en vivo de un producto TAR (vMiner) para entender cómo funciona TAR para un descubrimiento más rápido
- Indexación más rápida a través de HDFS – velocidad de los datos
- PNA o Procesamiento de Lenguaje Natural – diversas técnicas y productos de código abierto
- eDiscovery en idiomas extranjeros- tecnología para el procesamiento de idiomas extranjeros
Día 3 : Sesión 3: Inteligencia de Negocios de Big Data para Ciberseguridad – Entendiendo vistas completas de 360 grados desde la recopilación rápida de datos hasta la identificación de amenazas
- Comprensión de los fundamentos del análisis de seguridad-superficie de ataque, mala configuración de seguridad, defensas de host
- Infraestructura de red/tubería de datos grande / ETL de respuesta para análisis en tiempo real
- Precisivo vs predictivo – reglas fijas basadas vs descubrimiento automático de reglas de amenaza a partir de metadatos
Día 3: Sesión 4: Big Data en el USDA : Aplicación en Agricultura
- Introducción al IoT (Internet de las Cosas) para agricultura-sensores basados en Big Data y control
- Introducción a la imagen satelital y su aplicación en la agricultura
- Integración de datos de sensores e imágenes para fertilidad del suelo, recomendaciones de cultivo y pronósticos
- Seguro agrícola y Big Data
- Pronóstico de pérdida de cultivos
Día 4 : Sesión-1: Prevención de Fraude BI a partir de Big Data en el Gobierno-Análisis de Fraude:
- Clasificación básica del análisis de fraude-análisis basado en reglas vs predictivo
- Aprendizaje supervisado vs no supervisado para la detección de patrones de fraude
- Fraude de proveedores/cobros excesivos por proyectos
- Fraude en Medicare y Medicaid-técnicas de detección de fraude para el procesamiento de reclamos
- Fraudes de reembolso de viajes
- Fraudes de reembolsos del IRS
- Se proporcionarán estudios de caso y demostraciones en vivo donde los datos estén disponibles.
Día 4 : Sesión-2: Analítica de Medios Sociales - Recopilación y análisis de inteligencia
- API ETL de Big Data para extraer datos de medios sociales
- Texto, imagen, metadatos y video
- Análisis de sentimiento a partir del feed de medios sociales
- Filtrado contextual y no contextual de feeds de medios sociales
- Panel de control de medios sociales para integrar diversos medios sociales
- Perfilado automatizado de perfiles de medios sociales
- Se dará una demostración en vivo de cada análisis a través de la herramienta Treeminer.
Día 4 : Sesión-3: Analítica de Big Data en procesamiento de imágenes y flujos de video
- Técnicas de almacenamiento de imágenes en Big Data-Solución de almacenamiento para datos que exceden petabytes
- LTFS y LTO
- GPFS-LTFS (solución de almacenamiento en capas para datos de imagen grandes)
- Fundamentos del análisis de imágenes
- Reconocimiento de objetos
- Segmentación de imágenes
- Rastreo de movimiento
- Reconstrucción de imagen 3-D
Día 4: Sesión-4: Aplicaciones de Big Data en el NIH:
- Áreas emergentes de la bioinformática
- Metagenómica y problemas de minería de Big Data
- Análisis predictivo de Big Data para farmacogenómica, metabolómica y proteómica
- Big Data en procesos genómicos posteriores
- Aplicación del análisis predictivo de Big data en salud pública
Panel de control (Dashboard) de Big Data para acceso rápido a datos diversos y su visualización :
- Integración de la plataforma de aplicaciones existente con el Panel de control de Big Data
- Gestión de Big Data
- Estudio de caso del Panel de control de Big Data: Tableau y Pentaho
- Utilice la aplicación de Big Data para impulsar servicios basados en ubicación en el gobierno.
- Sistema de seguimiento y gestión
Día 5 : Sesión-1: Cómo justificar la implementación de BI de Big Data dentro de una organización:
- Definición del ROI para la implementación de Big Data
- Estudios de caso sobre el ahorro de tiempo del analista para la recopilación y preparación de datos – aumento en la ganancia de productividad
- Estudios de caso sobre la ganancia de ingresos al ahorrar en costos de bases de datos licenciadas
- Ganancia de ingresos de servicios basados en ubicación
- Ahorro por prevención de fraude
- Un enfoque integrado de hojas de cálculo para calcular el gasto aprox. vs. la ganancia/ahorro de ingresos de la implementación de Big Data.
Día 5 : Sesión-2: Procedimiento paso a paso para reemplazar un sistema de datos legado por un sistema de Big Data:
- Comprensión de la hoja de ruta práctica de migración de Big Data
- ¿Qué información importante se necesita antes de diseñar una implementación de Big Data?
- ¿Cuáles son las diferentes formas de calcular el volumen, velocidad, variedad y veracidad de los datos?
- ¿Cómo estimar el crecimiento de los datos?
- Estudios de caso
Día 5: Sesión 4: Revisión de proveedores de Big Data y revisión de sus productos. Sesión de preguntas y respuestas:
- Accenture
- APTEAN (anteriormente CDC Software)
- Cisco Systems
- Cloudera
- Dell
- EMC
- GoodData Corporation
- Guavus
- Hitachi Data Systems
- Hortonworks
- HP
- IBM
- Informatica
- Intel
- Jaspersoft
- Microsoft
- MongoDB (anteriormente 10Gen)
- MU Sigma
- Netapp
- Opera Solutions
- Oracle
- Pentaho
- Platfora
- Qliktech
- Quantum
- Rackspace
- Revolution Analytics
- Salesforce
- SAP
- SAS Institute
- Sisense
- Software AG/Terracotta
- Soft10 Automation
- Splunk
- Sqrrl
- Supermicro
- Tableau Software
- Teradata
- Think Big Analytics
- Tidemark Systems
- Treeminer
- VMware (parte de EMC)
Requerimientos
- Conocimiento básico del funcionamiento empresarial y de los sistemas de datos gubernamentales en su dominio
- Comprensión básica de SQL/Oracle o base de datos relacional
- Comprensión básica de Estadísticas (a nivel de hojas de cálculo)
35 Horas
Reseñas (1)
La capacidad del formador de alinear el curso con los requisitos de la organización, y no solo proporcionarlo por el mero hecho de impartirlo.
Masilonyane - Revenue Services Lesotho
Curso - Big Data Business Intelligence for Govt. Agencies
Traducción Automática
