58 Industria Química Febrero 2019

| seguridad

Arturo Trujillo VenturaDirector global de Consultoría de Seguridad de Procesos de DEKRA Process Safety, empresa asociada a BEQUINOR

Sesgo cognitivo y seguridad de procesos

El autor expone en el presente artículo el importante papel que juega la detección y comprensión de los sesgos cognitivos en la toma de decisiones, especialmente en el ámbito de la seguridad en la industria de procesos.

Palabras clave: Seguridad, Cerebro humano, Sesgo cognitivo, Análisis de riesgo de procesos, HAZOP

The author exposes in this article the important role played by the detection and understanding of cognitive biases in decision making, especially in the field of safety in the process industry.

Keywords: Safety, Human brain, Cognitive bias, Process risk analysis, HAZOP

DECISIONES Y ERRORESCada uno de nosotros toma entre dos mil y diez mil decisiones cada día. Si bien la mayoría de ellas son realmente triviales (¿Me ato primero el zapato izquierdo o el derecho?), otras pueden tener un impacto significativo en nuestras vidas y en las de otros. Cualquier decisión relacionada con la segu-ridad de procesos estará, lógicamente, en el segundo grupo.

La herramienta que utilizamos para tomar decisiones es nuestro cerebro. El cerebro humano es mucho más poderoso que cualquier computadora actualmente existente. Pero eso no significa que nuestros cerebros no ten-gan limitaciones importantes. Nuestros recuerdos a veces nos pueden fallar. Además, sabemos que nuestro cerebro puede tomar atajos para ayudarnos en la toma de decisiones. Estos atajos se denominan “sesgos cognitivos” o, simplemente, “sesgos”. Desafortunadamente, los sesgos cognitivos pueden llevarnos a conclusiones erróneas cuando estamos fuera del entorno en el que evolucionó la mente humana. Claramente, trabajar en una industria de proceso es una de esas oportunidades.

La buena noticia es que si somos capaces de aprender a detectar estos sesgos y entender el impacto que tienen en nuestra toma de decisiones (y en la seguridad), entonces podemos adoptar diferentes enfoques para:

a) Sensibilizar a nuestras organizaciones sobre ellos.b) Minimizarlos.c) Tomar mejores decisiones.

Hasta hace poco, gran parte del enfoque de los psicólogos ha sido com-prender el momento en que tomamos decisiones e intentar hacer una cró-nica o interpretar lo que está sucediendo en “la mente racional”. Pero ¿qué pasa con la intuición y el conflicto entre intuición y lógica? La mente no siem-pre funciona como una computadora y, a menudo, podemos ser engañados por nuestros propios ojos (en realidad, por nuestros cerebros). Además de ser engañados, a veces, también podemos ser ciegos a los eventos, ya que

Industria Química 59www.industriaquimica.es

| seguridad

intentamos centrarnos en otra cosa (algo que quizás consi-deramos más importante).

Chabris y Simons brindan un hermoso ejemplo con su serie de videos de “gorilas invisibles” (www.youtube.com/watch?v=IGQmdoK_ZfY). ¿Como sucede esto? El término pa-ra este efecto es “ceguera por falta de atención”, y es solo una de las maneras en que nuestro cerebro trata de ayudarnos a superar los días ocupados y confusos en los que nuestros sentidos son bombardeados constantemente por estímulos: es-te enfoque, singular a veces, puede ayudarnos a superar una tarea, pero también podríamos deslizarnos a través de la jor-nada felizmente inconscientes de los peligros. Esto es bastante desconcertante y preocupante, dado que lo que buscamos en seguridad es la “fiabilidad de comportamiento” para reducir incidentes y accidentes, pero, además, para crear y mantener una cultura abierta donde prevalece la seguridad del proceso.

Es cierto que cometemos errores todos los días, pero no son incidentales. Tienen forma y estructura. Son predecibles, no aleatorios. Vienen de sesgos que afectan nuestro juicio. Lamen-tablemente, la humanidad ha invertido más esfuerzo y recursos en averiguar las causas de fallo de equipos y componentes que las de los propios errores humanos. La buena noticia es que hay algunos sesgos comunes que podemos aprender a identificar y minimizar.

Antes de revisar cuidadosamente un conjunto de sesgos comunes, consideraremos algunas investigaciones que nos han ayudado a iluminar cómo tomamos las decisiones. En el contexto de la toma de decisiones económicas, la investiga-ción de Daniel Kahneman y el difunto Amos Tversky identifi-có dos “sistemas” que tenemos para pensar (y, por lo tanto, tomar decisiones).

El primer sistema (en un alarde de ingenio, Kahneman y Tversky lo llamaron “sistema uno”, o también “cerebro rápido”) es altamente eficiente energéticamente, rápido, y requiere muy poco esfuerzo. Este sistema es responsable de la mayoría de las cosas que hacemos todos los días, como decidir si nos atamos primero el zapato derecho.

El segundo sistema (“sistema dos” o “cerebro lento”) es más lento, deliberado y “racional”. Vemos esta forma de pensar como “nuestro ser consciente” (es personal, huma-no: no una computadora, como el “sistema uno”). Pensar con el “sistema dos” requiere más esfuerzo y consume mu-cha más energía que el “sistema uno”; sin embargo, es ex-tremadamente poderoso y puede abordar problemas mucho más complejos. Otra limitación del “sistema dos” es que solo puede manejar un problema a la vez, lo que explica los gorilas invisibles: como el “sistema uno” se concentra en el contar, descuida al gorila.

El cerebro humano usa más energía que cualquier otro órgano del cuerpo, hasta un 20 %, o más de la energía disponible del cuerpo (incluso más cuando usamos nuestro cerebro lento), a pesar de que constituye solo el 2 % del pe-so del cuerpo humano. Entonces, si tuviéramos que utilizar el “sistema dos” para todas nuestras decisiones, el consumo

de energía de nuestros cerebros sería simplemente inasumi-ble. Además, nos provocaría lo que podríamos denominar “parálisis por racionalización”. También debemos recordar que la humanidad evolucionó a partir de los homínidos que vivían en la sabana africana y comían lo que encontraban y cuando podían; por lo tanto, nuestro cuerpo tiende a ser “tacaño en energía”, y nuestro cerebro es un importante consumidor de energía. Por lo tanto, nuestro cerebro trata de permanecer en el “sistema uno” tanto como sea posible. El “sistema dos” se activa solo cuando hay algo en nuestro proceso de toma de decisiones que parece suficientemente sorprendente o inesperado para el “sistema uno”.

Por ejemplo, es común que una persona que ha escrito un texto pase por alto un error tipográfico (una vocal que falta, por ejemplo), que es inmediatamente capturado por un revisor. El autor del texto ya “conoce” su contenido y, por lo tanto, la revisión se realiza principalmente por su “sis-tema uno”. A menos que el error tipográfico sea grave, no será suficiente para activar el “sistema dos”. El revisor, por el contrario, no conoce el texto de antemano y su “sistema dos” estará completamente alerta. Este ejemplo muy simple ya plantea algunas preguntas relacionadas con el análisis de riesgos del proceso. Por ejemplo, ¿cuándo llenar una tabla HAZOP o un formulario de gestión del cambio se convierten en una rutina? En este caso, ¿estamos realmente haciendo una evaluación de riesgos o simplemente marcando casillas en un formato?

SESGOS COGNITIVOSUn sesgo es una inclinación o preferencia a favor de una persona, idea o elección. Un sesgo cognitivo es una tenden-cia a pensar de cierta manera que puede conducir a desvia-ciones de lo que normalmente se considera un estándar de racionalidad o buen juicio. A nuestros cerebros les encantan las estadísticas o, en otras palabras, la experiencia. A lo largo de nuestras vidas aprendemos a base de repeticiones, por lo que esperamos los mismos resultados para las mismas cau-sas. Esto nos hace simplificar y ahorrar tiempo en la toma

60 Industria Química Febrero 2019

Sesgo cognitivo y seguridad de procesos

de decisiones. O, usando la nomenclatura de Kahneman, los sesgos se crean por las decisiones tomadas por el “sistema uno” que, en algunos casos, deberían haber sido tomadas por el “sistema dos”.

Los sesgos pueden permitir decisiones efectivas y rápidas. Sin embargo, en el contexto del análisis de peligros del pro-ceso, pueden aumentar el riesgo de un peligro y la probabi-lidad de un incidente catastrófico. De hecho, un elemento clave para la seguridad de procesos es la identificación de “señales débiles”, es decir, eventos apenas reconocibles por encima del ruido de fondo. Pero entonces, si son tan débi-les, ¿cómo activarán el “sistema dos”? La respuesta obvia es: muy a menudo no lo hacen. Y esta es, precisamente, una de las dificultades que debemos superar para implementar con éxito un programa de seguridad de procesos. Compren-der y gestionar los sesgos cognitivos, incluso convertirlos en aliados, es un facilitador en este proceso.

Existen, literalmente, decenas de sesgos cognitivos iden-tificados y descritos. A continuación analizaremos algunos que pueden tener mayor influencia en la seguridad de pro-cesos, a saber:

•Sesgodeconfirmación.•Efectohalo.•Sesgodeactualidad.•Pensamientodegrupo

Para cada uno de ellos ofreceremos algún ejemplo “de la vida real”, así como en un contexto de realización de un análisis de riesgos de proceso (uno de los ámbitos en los que pueden ponerse de manifiesto estos sesgos en la seguridad de procesos).

SESGO DE CONFIRMACIÓNEl sesgo de confirmación es el más prevalente de todos ellos. Nos han engañado al creer que el cerebro humano se com-porta como un controlador lógico programable (PLC): recibe señales de los sensores (ojos, oídos), las procesa y emite se-ñales a los elementos finales de los circuitos de control: los músculos. De hecho, nuestro cerebro contiene un modelo del universo que hemos construido durante nuestros años de desarrollo. Nuestro “sistema uno” procesa cada entrada e intenta ajustarla a toda costa en el modelo; a veces, inclu-so, forzando el ajuste. Una vez más, solo cuando hay algo que realmente no se puede ajustar al modelo, el “sistema dos” se activa para procesar la información.

Por lo tanto, tendemos a buscar información o datos pa-ra respaldar nuestras opiniones y creencias existentes. Esto cierra nuestros cerebros a estrategias, pensamientos y posi-bilidades alternativas. Ignoramos la evidencia, incluso si está justo delante de nuestros ojos. Este es un ejemplo perfecto de cómo el cerebro toma atajos para tratar de ayudarnos a tomar decisiones más rápidas y mejores, aunque podríamos terminar tomando la decisión equivocada.

Como ejemplo, imagine que su equipo de fútbol favorito está jugando contra un rival local en un partido crucial. El entrenador de su equipo ha expresado su opinión sobre la elección del árbitro: está convencido de que este árbitro es contrario a su equipo e, incluso, favorece al adversario. La primera vez que tome una decisión en contra de su equipo (un fuera de banda, una falta), el público comenzará a abu-chear y dirá “¡nuestro entrenador tiene razón! Este árbitro está en contra nuestra. ¡Quiere que perdamos!”. En otras palabras, buscarán todas las oportunidades para confirmar su visión del mundo.

Desde el punto de vista del análisis de riesgos de proceso, el riesgo de sesgo de confirmación es obvio. Una vez que un miembro del equipo escuche por primera vez la descripción de un escenario peligroso (tal vez por parte de un miembro principal del equipo; véase el efecto “halo” a continuación), su cerebro construirá un modelo. A partir de este momento, tenderá a descartar cualquier descripción alternativa, qui-zás obviando un riesgo significativo. Este efecto puede ser incluso peor al analizar una planta o proceso con un riesgo significativo que se conoce de antemano; por ejemplo, la manipulación de una sustancia muy tóxica. A menos que el facilitador del análisis de riesgos del proceso haga un buen trabajo, el equipo tenderá a confirmar que el riesgo asocia-do con el peligro conocido prevalece, pasando por alto otros riesgos potenciales.

EL EFECTO “HALO”El efecto “halo” tiene lugar cuando una persona tiene cono-cimiento o experiencia demostrada en un tema en particular. En cierto momento, no importa si está en lo correcto o no: en el grupo se ha creado una cultura de que “sabe lo que está haciendo”. Sus opiniones y decisiones no se discutirán. La explicación de este sesgo se encuentra, una vez más, en el modelo mental del universo (“este tipo sabe lo que hace”) y la tendencia de nuestro “sistema uno” a escuchar datos confirmados y ser sordos a las discrepancias.

Como ejemplo, considere que está saliendo del cine con un grupo de amigos en una ciudad que ninguno de uste-des conoce muy bien. Nadie está completamente seguro de cómo encontrar el aparcamiento donde dejó su vehículo.

Industria Química 61www.industriaquimica.es

| seguridad

Usted cree que necesitan girar a la izquierda. Sin embargo, uno de sus compañeros habla con convicción, y dirige al grupo en una dirección totalmente diferente. Normalmente él tiene razón en este tipo de cosas, ha estado en esta ciu-dad antes y tiene un gran sentido de la orientación. Incluso si usted no está completamente seguro de dónde está es-tacionado el automóvil, no es probable que replique a su amigo. Los otros probablemente tampoco lo harán.

En un contexto de análisis de riesgos de proceso, este sesgo (también vinculado al pensamiento grupal, analizado a continuación) puede ocurrir en un HAZOP si uno de los miembros del equipo ha adquirido este “halo de competen-cia”. Sus opiniones no serán cuestionadas a menos que, por supuesto, el facilitador cuide mucho de ser el “abogado del diablo” y se asegure que las opiniones disidentes también sean escuchadas y discutidas.

SESGO DE ACTUALIDADEl sesgo de actualidad (también llamado disponibilidad) está relacionado con la tendencia de nuestro cerebro a re-cordar solo los eventos más recientes y descuidar los más antiguos. No es que los olvidemos (eso es un proceso men-

tal completamente diferente), solo es que nuestro “siste-ma uno” no los recupera de nuestro sistema de almacena-miento de datos. En algunos casos, el sesgo de actualidad no está relacionado con la presencia de eventos, sino con su ausencia.

Tenemos muchos ejemplos en nuestra vida diaria. Cuando hay un evento terrible en las noticias (accidente de avión, ataque terrorista, etc.), de repente nos preocupamos mucho y tratamos de evitar tomar un avión o viajar a la ciudad don-de ocurrió el ataque. No consideramos que todos los días miles de aviones vuelan sin incidentes, o que esta ciudad en particular tenga un historial de seguridad extremadamente bueno en las últimas décadas.

En el contexto del análisis de riesgos de proceso, este ti-po de sesgo es de particular preocupación, ya que estamos tratando de prevenir eventos que ocurren raramente. Por lo tanto, es muy probable que nuestro “sistema uno” ignore el riesgo, ya que las consecuencias no están fácilmente ac-cesibles en nuestros recuerdos. Por supuesto, minimizamos, o incluso olvidamos, incidentes que casi no se producen, incidentes en los que nadie resultó herido, señales de adver-tencia de un incidente de seguridad de proceso, etc. ¿Quién

62 Industria Química Febrero 2019

Sesgo cognitivo y seguridad de procesos

no ha escuchado esta frase durante un HAZOP: “Hemos estado haciendo el proceso de esta manera durante diez años y no hemos tenido incidentes”. La conclusión implícita es, por supuesto, “esto no es peligroso”. La relación entre el sesgo de actualidad y la complacencia en la seguridad de procesos parece clara.

PENSAMIENTO DE GRUPOEl pensamiento grupal, también llamado conformismo, tie-ne que ver con que los humanos somos una especie so-cial. Históricamente hemos obtenido grandes ventajas de la cooperación y, por lo tanto, nuestros cerebros están con-figurados para este tipo de comportamiento. En general, no queremos estar fuera de sintonía con otras personas, particularmente en términos de comportamiento social, y tendemos a estar de acuerdo con lo que otros están ha-ciendo. En grupos o multitudes en las que no conocemos a otras personas, no queremos avergonzarnos y nos esforzar-nos para evitarlo. La confirmación ya se conocía en los años 50, y el experimento de Asch proporciona un maravilloso ejemplo de confirmación.

Por ejemplo, supongamos que usted ha quedado para comer con un grupo de antiguos compañeros de trabajo. Usted les ha dicho a todos que está siguiendo una dieta saludable que incluye no beber alcohol. Cuando llega a la comida, un poco tarde, ya hay una copa de champán espe-rándole, e inmediatamente le proponen un brindis por su reciente promoción. Es probable que beba el champán, ya que es un gesto amable, es “solo una bebida” y no quiere ofender. Además, todos los demás están bebiendo, así que quiere encajar.

Desde el punto de vista de la seguridad del proceso, la confirmación es uno de los principales riesgos para la ca-lidad de un análisis de riesgos del proceso (HAZOP, What if? ...) que requiere una tormenta de ideas. Cuando uno de los miembros del equipo (por lo general, el que tiene más conocimientos o experiencia en el proceso que se ana-liza) toma un papel dominante, el resto del equipo tiende a adoptar la posición más cómoda: confirmar lo que dice el miembro dominante. Por lo tanto, la tormenta de ideas se pierde por completo.

CÓMO ABORDAR LOS SESGOSPor lo que hemos escrito hasta ahora, parece que los sesgos son algo así como “errores” en nuestros procesos mentales que nos impiden tomar las decisiones correctas. No se equi-voquen, los sesgos cumplen una función importante: nos ayudan a “llenar los vacíos” al hacer suposiciones, lo que nos permite comprender rápidamente una gran cantidad de información. Recuerde que nuestro “sistema dos” es lento y consume mucha energía. Por lo tanto, si lo usáramos para cada decisión, terminaríamos sin hacer nada. El problema es que estamos presentando a nuestros cerebros algunos problemas que no existían en el entorno en el que evolucio-

naron. ¡Ciertamente, los homínidos no hacían HAZOPs en la sabana africana hace un millón de años!

A menudo nos preguntan: “¿Cómo podemos eliminar los sesgos?”. En pocas palabras, no se puede. Los sesgos son una parte intrínseca de nuestros cerebros, y son una de las razones por las que tenemos tanto éxito como especie. Lo único que podemos hacer es aplicar el viejo refrán informá-tico: “Una vez documentado, un error se convierte en una prestación”. Por lo tanto, podemos:

•Concienciar.Elsimplehechodesaberqueexistensesgoscognitivos que pueden distorsionar su pensamiento ayudará a disminuir su impacto. ¡Pero no se desaparecen! Están gra-bados en nuestro ADN.

•Fomentarlaconsultaylasvocesdisidentes.Porejemplo,un facilitador experimentado de HAZOP debe encontrar -o hacerlo él mismo- quién argumentará contra el “defensor” de la proposición que se está discutiendo. Incluso si está a favor de la decisión, debe actuar como abogado del diablo. Esto alienta a ofrecer proactivamente puntos de vista opues-tos y desafiar las convenciones del grupo.

•Promoverlacolaboración.Esmásfácilversesgosenotros que en uno mismo. Desarrolle un proceso sólido para compartir ideas y trabajar en iniciativas en todos los depar-tamentos de la organización.

•Porúltimo,peronomenosimportante,hagaqueelses-go trabaje en su favor. Entrene a su cerebro rápido para identificar automáticamente riesgos inesperados en sus pro-cesos.

CONCLUSIONESNuestros cerebros toman atajos para ayudarnos a tomar nu-merosas decisiones todos los días. Llamamos a estos atajos “sesgos cognitivos”. A veces nos llevan a cometer errores predecibles. Necesitamos mejores estrategias que “cambiaré esto”, ya que los sesgos cognitivos están grabados en nues-tro ADN. Identificar nuestra “exposición al sesgo” y crear conciencia sobre ella nos ayudará a mejorar nuestra gestión de los riesgos de procesos. En particular, el papel de un fa-cilitador de análisis de riesgos de proceso con experiencia es clave para garantizar que los sesgos se tomen en cuenta y se gestionen de manera adecuada.

» Los sesgos son una parte intríseca de nuestros cerebros, y son una de las razones por las que tenemos tanto éxito como especie