Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2....

36
Evolución de las Estrategias de Pruebas de Performance en Cascada, Agile y DevOps PhD. Federico Toledo @fltoledo

Transcript of Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2....

Page 1: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Evolución de las Estrategias de Pruebas de Performance

en Cascada, Agile y DevOps

PhD. Federico Toledo@fltoledo

Page 2: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

www.abstracta.us/blog/www.federico-toledo.com

Page 3: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Prejuicios del testing:• Es aburrido,

repetitivo.• No tiene desafíos.• Es el trabajo para

el programador nuevo.

¿Por qué trabajas en testing?

¿No conseguiste otra cosa mejor?

Page 4: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Prejuicios del testing:• Se hace al

final.• Es opcional.

El testing es eso que va al final, si hay tiempo…

Page 5: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Performance

• Velocidad• Uso de recursos

Page 6: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Sour

ce: h

ttp:/

/www

.min

iatu

r-wun

derla

nd.d

e/

Simulación y medición

Page 7: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Simulación

HTTP

HTTP

Server

Page 8: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Tres historias

Page 9: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías
Page 10: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Waterfall A

ctividades de control/gerenciamiento

Page 11: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Cronograma

Page 12: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Contexto y Objetivos

0500

1000150020002500

2004 2005 2006 2007 2008

Forecast Concurrent Users

Simular escenario de carga esperado.

Page 13: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Casos de prueba

13 (web)Funcionarios

3 (ISO8583)Cajeros y POS

2 (web services)Call center

Total: 1500 usuarios

Page 14: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Criterios de aceptación

Page 15: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Infraestructura similar a PROD

Page 16: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

¡Todo listo para ejecutar!

Page 17: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Desafíos

1. Esfuerzo de automatización y preparación de datos.

2. Exclusividad de uso de ambiente similar a PROD.

3. No hay equipo. Hay silos.4. Incertidumbre y sorpresas.

Page 18: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías
Page 19: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

https://developers.redhat.com/blog/2017/09/06/continuous‐integration‐a‐typical‐process/

Agile: Con Continuous Integration

Page 20: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Objetivo y Contexto

• Jenkins con cientos de Jobs y decenas de pipelines.

• Ejecución de más de 300 pruebas de performance semanales.• Rest API.• Automatizadas por devs.

• Detectar desviaciones de performance lo antes posible.

http://bit.ly/webinarShutterfly

Page 21: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Profiling: Ajustar el cinturón

Page 22: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Profiling: Ajustar el cinturón

Criterios de aceptación basados en punto de quiebre:

• 350 hilos (virtual users)

Assertions:• < 1% error• P95 Response Times < 130ms + 10%• Throughput >= 150 TPS – 10%

Page 23: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Pros & Cons

PROS1. Menos riesgo, menos sorpresas.2. Feedback temprano y constante.3. Aprendizaje continuo.

CONS1. Si no se hace al nivel correcto,

mayor esfuerzo de automatización.2. Falacia de la Composición.

Page 24: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías
Page 25: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

¿Enfoque DevOps en el gobierno?

Las metodologías ágiles son para los equipos de desarrollo.

DevOps implica agilidad en más áreas de la empresa.

Page 26: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

¿Enfoque ágil en el gobierno?

El manifiesto indica que hay que priorizar:

• Individuos e interacciones• sobre procesos y herramientas

• Software funcionando• sobre documentación extensiva

• Colaboración con el cliente• sobre negociación contractual

• Respuesta ante el cambio• sobre seguir un plan

• Pliego• Licitación • Contrato

Page 27: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Desarrollo basado en contrato

Contrato con alcance fijo. ...6 meses después:

• Deuda técnica. • Incertidumbre.

Page 28: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Pilares ágiles

http://managementplaza.es/blog/los‐tres‐pilares‐de‐scrum/

Continuous Delivery

Page 29: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Pipeline de inspección

Dev CI Test

Test UAT Pre‐Prod Prod

Proveedor

Cliente

Todos los días

Cada entrega

Page 30: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

https://es.atlassian.com/devops

Cultura DevOps

Page 31: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Desafíos

1. Adopción de metodologías.2. Complejidad tecnológica.3. Relación entre cliente, proveedores,

operaciones, gestión, testing, etc. 4. Confianza:

• Proceso.• Equipo. • Producto.

Page 32: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías
Page 33: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Waterfall

Page 34: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Agile

Page 35: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

DevOps

Page 36: Evolución de las Estrategias de Pruebas de … 2018 Toledo.pdfmayor esfuerzo de automatización. 2. Falacia de la Composición. ¿Enfoque DevOps en el gobierno? Las metodologías

Evolución de las Estrategias de Pruebas de Performance

en Cascada, Agile y DevOps

PhD. Federico Toledo@fltoledo

¡¡¡GRACIAS!!!