Big Data y Automatización para Procesamiento y Análisis de · PDF...

57
Big Data y Automatización para Procesamiento y Análisis de Imágenes Geoespaciales Noviembre 1 / 2017 Buenos Aires, Argentina Freddy Paya

Transcript of Big Data y Automatización para Procesamiento y Análisis de · PDF...

Page 1: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Big Data y Automatización para

Procesamiento y Análisis de

Imágenes GeoespacialesNoviembre 1 / 2017

Buenos Aires, Argentina

Freddy Paya

Page 2: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Agenda• PCI Geomatics

• Automatización de flujos para procesamiento y

análisis

• Procesamiento de altos volúmenes de imágenes

• Aplicaciones y casos de estudio

• Conclusiones

2

© PCI Geomatics 2017

Page 3: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

30,000 +Licencias

instaladas en el mundo

Presencia en más de 150 países.

más de 50 distribuidoresautorizados.

Centros de investigación y oficinas de ventas en Canadá, Estados Unidos, y China.

CompañíaPrivada

35 años en la industriaCon sede en Toronto, Canadá.

Page 4: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Que hace PCI Geomatics?

PCI Geomatics crea productos de software,

plataformas y sistemas para clientes globales que requieren resultados

automatizados y de alto rendimiento, o un análisis y producción precisa de datos

de información en geo-imágenes imágenes

Copyright © 2014 PCI Geomatics

Page

4

Page 5: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Obtenga mas de sus imágenes

Page 6: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Información de Agricultura

Page 7: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Información de elevación

Page 8: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Información forestal

Page 9: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Información de ciudades en 3D

Page 10: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Información marítima

Page 11: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Obtenga mas de sus imágenes

Page 12: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Aplicaciones e industrias

12

© PCI Geomatics 2017

ZeolitesZeolites

CalciteCalcite

AluniteAlunite

KaoliniteKaolinite

Illite/Illite/MuscoviteMuscovite

BuddingtoniteBuddingtonite

UnclassifiedUnclassified

ZeolitesZeolites

CalciteCalcite

AluniteAlunite

KaoliniteKaolinite

Illite/Illite/MuscoviteMuscovite

BuddingtoniteBuddingtonite

UnclassifiedUnclassified

Page 13: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Flexible, Soluciones Escalables

Desktop Remote Sensing and

Ortho-mosaicking Software Suite

Workflow Automation

High Volume Production

SC

AL

AB

LE

|

F

LE

XIB

LE

OPERATIONAL EFFICIENCY

Page 14: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Automatización de flujos de

trabajo para extracción de

información

Page 15: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Plataforma de Geomatica

Private and Confidential

15

Desarrolle flujos

automáticos y

semi-automatics

Resuelva

problemas de

sus clientes

Utilize el

lenguaje de

Python

Miles de algoritmos,

métodos, y atributos

Page 16: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

16

© PCI Geomatics 2017

Problema Solución

Page 17: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Medición automática de productividad

DEM Extraction

Ingest Datasets

Cacl Diff DSM

Extract Stockpiles

Calc Volume

Map

Page 18: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

18Private and Confidential

Medición automática de productividad

DEM Extraction

Ingest Datasets

Cacl Diff DSM

Extract Stockpiles

Calc Volume

Map

DSM 2009 DSM 2011

Page 19: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Medición automática de productividad

DEM Extraction

Ingest Datasets

Cacl Diff DSM

Extract Stockpiles

Calc Volume

Map

Difference ImageDSM 2009DSM 2011

=-New Stockpiles

Removed Stockpiles

Page 20: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

20Private and Confidential

Medición automática de productividad

DEM Extraction

Ingest Datasets

Cacl Diff DSM

Extract Stockpiles

Calc Volume

Map

New Stockpiles

Page 21: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

21Private and Confidential

Medición automática de productividad

DEM Extraction

Ingest Datasets

Cacl Diff DSM

Extract Stockpiles

Calc Volume

Map

Page 22: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

22Private and Confidential

Medición automática de productividad

DEM Extraction

Ingest Datasets

Cacl Diff DSM

Extract Stockpiles

Calc Volume

Map

Page 23: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Aplicación automática para monitoreo de

productividad en mina a cielo abierto

23

© PCI Geomatics 2017

Page 24: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Desarrollo de flujos automáticos

para procesamiento y análisis

Page 25: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Flujo de trabajo automático - Agricultura de

precisión

• Procesamiento automático basado en area de

interés

– API buscar imágenes basadas en un criterio

• Ubicación, cobertura de nubes, intervalo de fechas

– Flujo de trabajo automatizado de PCI:

• Descargar imágenes, corrección atmosférica, co-registrar,

calcular índices de vegetación.

– Enviar datos al usuario final (FTP, cloud S3 bucket)

Page 26: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Soporte de imágenes satelitales en

GeomaticaSensores utilizados en este

APISentinel-2

PlanetScope

RapidEye

• PCI Soporta 60+ sensores ópticos de satélite• Soporte típicamente incluye:

• Carga directa de datos • Ortorectificación • Pansharpening • Extracción de DEM • Corrección atmosférica

http://www.pcigeomatics.com/resources/geomatica/sensor-support

Page 27: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Demostración

http://geojson.io

Ejecutar

“ag_workflow.py”

Imágenes crudasDoves

RapidEye

Sentinel-2

ProcesamientoCorrección atmosférica

Alineamiento

Índices de Vegetación

{

{{Plataforma satelital

{Resultados

Estadísticas

Mapas

Indices

Page 28: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Chabas, Argentina (33.1S, 61.4W)

Source: http://www.soybeansandcorn.com/Argentina-Crop-Cycles

Page 29: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Rangos de banda espectral

-0.2

0

0.2

0.4

0.6

0.8

1

1.2

0 200 400 600 800 1000 1200

All Bands (S2, PS, RE)

Blue S2 Blue PS Blue RE Green S2 Green PS Green RE

Red S2 Red PS Red RE NIR S2 NIR PS NIR RE

Page 30: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Métodos de calibración “ Cross Sensor”

Page 31: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Análisis de productividad – base de

referencia

• Pico en el trigo / haba de soja temprana

• Cálculo del NDVI por fechas

– Nov 15 – Enero 15 (2012-2017)

• Datos normalizados basados en coeficientes de

regresión

• Calcular los valores promedio de NDVI por

campo

Page 32: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

NDVI 2012-2017 (Nov 15-Enero 15)

Análisis de línea de

base

- NDVI basado en el

tiempo

- Mapa espacial que

muestra las

variaciones de

producción

Page 33: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Evaluación de Referencia -

PromedioAnálisis de línea de

base

- Monitor del NDVI de

datos basados en el

tiempo (gráfico

temporal)

Page 34: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Zonas de GestiónMétodos:

- Calcular el NDVI promedio

- Nov 15 – Enero 15

- Segmentación

- Clasificación basada en reglas

- 5 clases de NDVI / Zona:

- Zona 1 - 0.1- 0.26

- Zona 2 - 0.26-0.36

- Zona 3 - 0.36-0.46

- Zona 4 - 0.46-0.56

- Zona 5 - 0.56-0.66

Page 35: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Zonas de GestiónMétodos:

- Calcular el NDVI promedio

- Nov 15 – Enero 15

- Segmentación

- Clasificación basada en reglas

- 5 clases de NDVI / Zona:

- Zona 1 - 0.1- 0.26

- Zona 2 - 0.26-0.36

- Zona 3 - 0.36-0.46

- Zona 4 - 0.46-0.56

- Zona 5 - 0.56-0.66

Page 36: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Monitoreo durante la temporada

2012-2017 Promedio 60 días

Dic 20/2016información diaria

Page 37: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Planificación de la cosecha

Índice de reflectancia de senescencia de

plantas.PSRI = (R-G)/NIR

Incremento del

PSRI

Dic 11 // Dic 01

Page 38: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Procesamiento de altos

volúmenes de imágenes

Page 39: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Arquitectura de Procesamiento Avanzado

1) Graphical Processing Unit GPU

4) Procesamiento en paralelo

3) Distributed Processing

CPU GPU

2) Procesamiento multi-núcleo

Page 40: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

GXL vs. Geomatica

More automation fewer operators Analysis/Research/Info Extraction

Page 41: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

GXL Module and Workflow Library

Flujos de trabajo – Integracion/Flexibilidad

Combine any GXL module together to build custom on-the-fly workflows

IngestGCP

CollectionBundle

AdjustmentOrtho Accuracy Report

Mosaic Prep

Mosaic Gen

Pan sharpenDEM

ExtractionMore…

Data Transform

Haze Removal

IngestHaze

RemovalGCP

CollectionMore…

Page 42: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Proyectos a mediana escala

42

© PCI Geomatics 2017

Reference Image

Raw Image

941m (1882px)

Page 43: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Procesamiento imágenes historicas

43

© PCI Geomatics 2017

Page 44: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Generacion de MDE

44

© PCI Geomatics 2017

Page 45: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Generacion de ortomosaico

45

© PCI Geomatics 2017

Page 46: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Proyectos a gran escala

46

© PCI Geomatics 2017

Orthos

Select Best Images

Prepare Masks, Reference & Image

Enhancements

Mosaic Preparation

Replace Bad Imagery

Better Images Require

d

Mosaic Generation

Mosaic Prep Update

Post Mosaic Work

Interactive Mosaic Editing

Yes

No

Page 47: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Generacion de mosaico de país

Page

47Copyright © 2014 PCI Geomatics

Page 48: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Extracción automática de lineas

costales de un país

Page 49: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Aplicaciones y Casos de Estudio

Page 50: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Defensa e Inteligencia

50

© PCI Geomatics 2017

Page 51: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Burn

Scar

Burn

Scar

Burn

Scar Burn

Scar

Burn Scar

Active

Fires

Ambiental

51

© PCI Geomatics 2017

MonitoreoIncendiosForestales

Estimación de biomasa

Page 52: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Agricultura

52

© PCI Geomatics 2017

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

0 50 100 150 200 250 300 350 400

ND

VI (

un

itle

ss)

Day of Year

NDVI Growth Profiles

NDVI 2009

NDVI 2010

NDVI 2011

NDVI 2012

NDVI 2013

NDVI 2014

NDVI 2015

Agricultura de precision

Monitoreo de cultivos y Predicción de cosecha

Page 53: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Minería

53

© PCI Geomatics 2017

Calculo de volúmenes y productividad

Análisis espectral de minerales Interferometria y mapas de deformación

Page 54: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Gas y Petróleo

54

© PCI Geomatics 2017

Derrames petroleros ExploraciónExtracción de lineamentos

Page 55: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Urbana y Topografía

55

© PCI Geomatics 2017

Generacion de MDE’s

Cartografía automática

Analisis de visibilidad

Page 56: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

New SGM DEM Extraction3D Fly! - Pleiades 1.5 m DSM (2 x GSD) – Alps, Europe

Private & Confidential

56

Page 57: Big Data y Automatización para Procesamiento y Análisis de · PDF file–Flujo de trabajo automatizado de PCI: •Descargar imágenes, corrección atmosférica, co-registrar, calcular

Conclusiones▪ 35 años en la industria geoespacial con gran experiencia

en teledetección, fotogrametría, y observación de la

tierra

▪ Soluciones integrales que ofrecen automatización y

flexibilidad para la creación de aplicaciones

personalizadas

▪ Escalabilidad para producción a gran escala con altos

volúmenes

▪ Mas de 550 flujos y algoritmos para procesamiento y

análisis de datos geoespaciales