Warning: fopen(/home/virtual/qihjournal/journal/upload/ip_log_2021-10.txt): failed to open stream: Permission denied in /home/virtual/lib/view_data.php on line 73 Warning: fwrite() expects parameter 1 to be resource, boolean given in /home/virtual/lib/view_data.php on line 74 안전과학 패러다임의 전환과 환자안전의 개선

안전과학 패러다임의 전환과 환자안전의 개선

What Will We Learn from the Paradigm Shift in Safety Science for Improving Patient Safety?

Article information

Qual Improv Health Care. 2021;27(1):2-9
Publication date (electronic) : 2021 June 30
doi : https://doi.org/10.14371/QIH.2021.27.1.2
Professor, Department of Preventive Medicine, College of Medicine, University of Ulsan, Seoul, Republic of Korea
이상일
울산대학교 의과대학 예방의학교실
Correspondence: Sang-Il Lee Department of Preventive Medicine, College of Medicine, University of Ulsan, 88 Olympicro 43gil, Songpa-gu, Seoul, 05505, Republic of Korea Tel: +82-2-3010-4284 E-mail: sleemd@amc.seoul.kr
Received 2021 May 29; Revised 2021 April 23; Accepted 2021 April 26.

Trans Abstract

Patient safety remains one of the most important health care issues in Korea. To improve patient safety, we have introduced concepts from the field of safety science such as the Swiss cheese model, and adopted several methodologies previously used in other industries, including incident reporting systems, root cause analysis, and failure mode and effects analysis. This approach has enabled substantial progress in patient safety to be made through undertaking patient safety improvement activities in hospitals that are systems-based, rather than individual-based. However, these methods have the shared limitation of focusing on negative consequences of patient safety.

Therefore, the paradigm shift from Safety I to Safety-II in safety science becomes the focus of our discussion. We believe that Safety-II will complement, rather than replace, Safety-I in the discipline of patient safety. In order to continuously advance patient safety practices in Korea, it is necessary that Korea keeps abreast of the recent global trends and development in safety science. In addition, more focus should be placed on testing the feasibility of new patient safety approaches in real-world situations.

Ⅰ. 서론

1999년 미국의 의학한림원이 <To Err is Human: Building a Safer Health System>이라는 제목의 보고서를 발간하면서 환자안전이 보건의료 분야의 중요한 정책 과제로 대두되었다[1]. 이 보고서에서는 기존 연구 자료를 활용하여 미국의 환자안전 문제가 매우 심각함을 지적하였고, 환자안전을 개선하기 위하여 보건의료 분야에 필요한 변화를 제시하였다. 이와 함께 항공, 산업보건 등 다른 산업 분야에서 인적요인(human factors)을 활용하여 오류를 성공적으로 감소시킨 사례를 소개하면서, 보건의료 분야에도 이와 같은 이론과 접근법을 적용할 필요가 있다고 주장하였다.

이 보고서의 발간 이후 다른 산업 분야에서 사고를 줄이기 위하여 사용하는 원칙과 도구들을 보건의료 분야에 도입하여 환자안전의 개선에 사용하고 있다. 이와 같은 새로운 접근법을 적용한 환자안전 개선 활동으로 성공을 거둔 다수의 사례들이 보고된 바 있다[2]. 그러나 수많은 환자안전 개선 활동에도 불구하고 거시적 수준에서의 환자안전 지표로 볼 때 개선 활동이 효과적이라는 근거가 거의 미약하다는 지적이 있었다[3]. Bates와 Singh [4]은 미국에서의 지난 20년간의 환자안전 개선 활동을 평가하여 예방할 수 있는 위해의 빈도가 아직도 높으며 기존에 존재하던 위험 영역과 새롭게 등장하는 위험 영역을 다룸에 있어서 새로운 과학적 및 정책적 접근이 요구되고 있다고 주장하였다. Wears와 Sutcliffe [5]도 지난 20년간의 연구, 재정 지원, 정책 입안에도 불구하고 환자안전에서 기대하였던 수준의 환자안전 개선을 달성하지 못한 원인을 검토하면서, 안전탄력성(resilience)을 향상시키고 효과가 있는 것을 강조하는 전략을 채택하는 방법을 이해하기 위해 환자안전 과학자들이 다른 고위험 산업의 경험에서 배워야 한다고 하였다. 고위험 산업에서 사고를 예방하기 위하여 적용하는 안전과학의 이론과 도구들도 사고에 대한 이해 또는 안전에 대한 시각이 변화함에 따라 발전하여 가고 있다.

이 글에서는 이러한 안전과학의 발전 과정을 개괄하고, 이 과정에서 보건의료 분야의 안전 개선 활동의 현재 위치를 파악하여, 앞으로 우리나라 환자안전의 발전에서의 시사점을 파악해보기로 한다.

Ⅱ. 본론

안전과학과 환자안전

안전과학(safety science)은 지식 체계로 또는 학문 분야로 이해할 수 있다. 전자의 시각에서의 안전과학은 안전과 관련된 이슈에 대한 지식, 그리고 (광의의) 안전을 이해하고 평가하며 의사소통 및 관리하기 위하여 개념, 이론, 원칙 및 방법을 개발하는 것을 뜻한다. 후자의 시각에서의 안전과학은 안전 관련 교육 프로그램, 학술지, 논문, 연구자, 연구 그룹 및 학술단체 등 안전에 관한 모든 것(totality)을 다루는 학문 분야로 이해할 수 있다[6]. 이 글에서는 전자의 시각에서 본 안전과학에 초점을 맞추어 안전과학을 살펴보았다.

1. 안전과학의 발전 과정

산업혁명 이후의 안전과학의 전개 과정을 3단계 또는 5단계로 나누어 살펴볼 수 있다. Borys 등[7]은 이 과정을 ‘기술의 시대’, ‘인적요인의 시대’, ‘관리 시스템의 시대’, ‘통합의 시대’와 ‘적응의 시대’로 구분하였으며, Hollnagel [8]은 ‘기술의 시대’, ‘인적요인의 시대’와 ‘안전관리’의 시대로 구분하였다. Borys 등의 ‘관리 시스템의 시대’, ‘통합의 시대’와 ‘적응의 시대’가 Hollnagel의 ‘안전관리의 시대’에 해당하며, 이들 3시대를 명확하게 구분하기 어렵다는 점을 고려하여 이 글에서는 Hollnagel의 3단계 구분을 따라서 안전과학의 역사를 간략하게 살펴보았다[8,9]. 각각의 특성을 요약하면 Table 1과 같다.

Three ages of safety science.

1) 기술의 시대

사고에 대한 관심은 인간의 문명만큼 오래된 것이지만, 산업혁명의 이후에 산업화에 따라 나타난 새로운 위험에 대하여 본격적인 관심을 가지게 되었다. 이 시기에는 사고에 관련된 기술적 요인을 찾고 이를 제거하는 접근법을 주로 사용하여 이 시기를 기술의 시대(age of technology)라고 부른다.

기술의 시대에는 사고를 연속모형(sequential model)으로 이해하였다. 이 모형에서 사고의 원인들은 서로 독립적이며, 각 원인이 선형적 인과관계로 연결(유전적 요인과 사회적 환경 → 개인적 결함 → 불안전한 행동 및 상태 → 사고 → 손상)되어 사고가 발생하는 것으로 설명하고 있다. 이러한 이유로 이 모형을 도미노모형(domino model) 또는 단순선형모형(simple linear model)이라고도 한다. 이에 따른 사고 예방 전략은 이러한 연결 고리 중 한 가지 이상의 요소를 제거하는 것이다.

이 시대를 대표하는 이론가는 1931년 <Industrial Accident Prevention: A scientific approach>를 저술한 Herbert William Heinrich이다. 위험성 평가와 사고 분석기법으로 근본원인분석(root cause analysis, RCA), 결함수분석(fault tree analysis, FTA), 사건수분석(event tree analysis, ETA), 고장유형및영향분석(failure mode and effects analysis, FMEA), 위험및운전성분석(hazard and operability analysis, HAZOP) 등을 주로 사용하였다.

이러한 접근법은 단순한 작업을 위주로 하는 공장과 같은 경우에 부정적인 결과의 원인을 찾아서 제거함으로써 사고를 예방하는데 유용하게 사용될 수 있었으나, 복잡한 시스템에 적용하는 데에는 한계가 있다.

2) 인적요인의 시대

1979년 3월 28일에 발생한 Three Mile Island 원자력 발전소 사고로 안전에 대한 기존의 접근법을 이용한 안전관리의 문제점이 노출되었다. 이 사고에 대한 분석을 통하여 안전 관리에서 인적요인(human factors)의 중요성이 드러나게 되었다. 이 사고 이전에는 인적요인을 시스템의 효율성과 생산성 제고에 주로 활용하였으나, 이 사고를 계기로 안전에 있어서 인적요인의 중요성이 크게 부각되었다. 이러한 이유로 이 시기를 인적요인의 시대(age of human factors)라고 한다. 인적요인 접근법에서는 사람을 실패하기 쉬우며 신뢰할 수 없는 존재로 간주하여 시스템의 안전을 확보하기 위해서는 인간이 불완전하다는 것을 전제로 시스템을 설계하고 운영하여야 한다고 주장하고 있다.

이 접근법에서는 사고가 선형적 경로를 따르는 시스템 내에서 가시적 실패(active failure)와 잠재적 조건(latent condition)이 결합한 결과로 발생하는 것으로 가정하고 있다. 일정한 조건이 갖추어지면 우리 몸에 잠복하고 있던 병원체가 감염성 질환을 일으키는 현상과 유사하다고 하여 이를 역학적 모형(epidemiological model)이라고 한다. 이 모형에서는 인과 관계가 단순한 선형적 관계가 아니라 원인들이 서로 의존적인 관계를 가지고 있어서 복잡선형모형(complex linear model)이라고도 부른다. 이 모형에서의 사고 예방 접근법은 우리가 인간 자체를 바꿀 수 없으므로, 인간이 일하는 조건을 바꾸는 것(장애물 제거 또는 방어막 강화)이다.

1990년에 <Human Error>를 발간한 Reason이 Swiss cheese model을 이용하여 사고 발생을 설명하였고, 그는 사고 예방을 위해서는 인적 접근보다는 시스템적 접근이 중요함을 강조하였다. 위험성 평가와 사고 분석 기법으로는 확률론적 위험도평가(probabilistic risk assessment, PRA), 인간신뢰도분석(human reliability analysis, HRA), 인지작업분석(cognitive work analysis, CWA), 인적요인분석 및 분류시스템(Human Factors Analysis and Classification System, HFACS) 등이 있다.

이러한 접근법은 기존의 접근법과 마찬가지로 성공(안전)보다는 드물지만 눈에 잘 띄는 실패(사고)에 초점을 맞추고 있으며, 여전히 선형적 인과관계를 바탕으로 하고 있어서 비선형적 인과관계로 연결되어 있는 복잡계(complex system)를 이해하는 데에는 한계가 있다.

3) 안전관리의 시대

1977년 Tenerife 공항의 여객기 충돌사고, 1986년 우주왕복선 Challenger호 사고와 Chernobyl 원자력발전소 사고 등을 분석한 결과, 사고를 예방하려면 인적요인 외에도 조직을 함께 고려할 필요가 있다는 것이 밝혀졌다. 그 결과 안전관리 시스템에 대한 연구가 활발하게 진행되어 ‘안전관리의 시대(age of safety management)’가 시작되었다. 주된 관심이 복잡한 시스템에서의 사회와 기술의 상호작용에 있어서 ‘복잡한 사회-기술 시스템의 시대(age of complex socio-technical system)’라고도 한다.

이 학파의 이론가들은 실패(사고)보다는 성공(안전)에 초점을 맞추고 있다. 특정한 사건이나 사고보다는 통상적 상황에서 나타나는 성과의 변동성(variability)에 관심을 가지고 있으며, 바람직한 변동성을 증폭시키고 바람직하지 않은 변동성을 감소시킴으로써 안전을 향상시킬 수 있다고 주장하고 있다. 변동하는 조건 하에서도 성공하는 능력을 안전탄력성(resilience)이라고 하며, 안전탄력성이 있는 시스템은 상황에 잘 적응(adaptation)할 수 있다. 이러한 설명 틀을 시스템모형(systemic model), 복잡비선형모형(complex non-linear model) 또는 복잡적응모형(complex adaptive model)이라고 한다. 시스템이 안전탄력성을 유지하려면 예상(anticipation), 감시(monitoring), 대응(responding)과 학습(learning)이라는 4가지 역량을 갖추어야 한다[10].

이러한 접근법에 사용하는 위험 평가 기법으로는 Rasmussen의 AcciMap [11], Leveson의 STAMP (Systems-Theoretic Accident Model and Processes) [12]와 Hollnagel의 FRAM (functional resonance analysis method) [13] 등이 있다. 동일한 사건의 분석에 있어서도 어떠한 분석 방법을 선택하는가에 따라 분석 결과가 다르게 나타날 수 있다고 한다[14].

모델의 타당도, 사용성, 분석자의 비뚤림, 사고에 대해서 개인을 문책하지 않는 것 등이 산업 분야에서 이 방법들의 사용에 장애요인으로 작용하고 있다[15].

2. 안전의 패러다임

안전에 대한 접근법 중 기술의 시대와 인적요인의 시대에서 안전과학의 시대로 넘어가면서 안전을 바라보는 기본적인 시각에 변화가 나타났다. 전자의 시각을 안전-I (Safety-I), 후자의 시각을 안전-II (Safety-II)라고 한다. 안전-I에서는 안전을 ‘잘못되는 일(예: 사건, 사고)이 가능한 적은 상태’로 정의하는 반면에, 안전-II에서는 안전을 ‘잘되는 일이 가능한 많은 상태’로 정의하고 있다. 안전-I과 안전-II의 특징을 간략하게 비교하면 다음과 같다[16].

안전-I에서는 사건 또는 사고에 주된 관심을 두고 있으며, 특정한 구성 요소(기술, 절차, 작업자, 조직 등)에 확인이 가능한 결함 또는 기능 이상 때문에 일이 잘못되는 것으로 가정하고 있다. 따라서 시스템의 구성 요소들 중 사람이 가장 변이가 크기 때문에 인간을 문제 또는 위해 요인으로 간주하게 된다. 사고를 조사하는 목적은 원하지 않았던 결과를 초래한 원인과 기여 요인을 찾는 것이며, 위험평가에서 이러한 가능성을 판단하고 있다. 안전관리는 문제가 발생하거나 위험을 수용할 수 없을 때 이에 후향적으로 대응하여, 원인을 제거하거나 장애를 개선하는 것이다. 안전-I에서는 시스템을 구성 요소로 분해할 수 있고, 이 구성 요소들이 2가지 방식(정상과 비정상)으로 작동한다고 가정하고 있다. 그러나 복잡계(complex system)에서는 이러한 안전-I의 가정이 타당하지 않으며, 드물게 발생하는 사고보다는 일상적인 업무 수행에서 배울 수 없다는 한계가 있다. 이에 따라 새로운 접근법이 대두되게 되었다.

안전-II에서는 변동하는 조건 하에서 시스템이 성공을 거두는 능력에 초점을 맞추고 있다. 안전-II에서는 일상적인 업무 수행에 변동성(variability)이 있어서 변동하는 조건에 대응하는데 필요한 적응(adaptation)을 할 수 있는 것으로 가정하고 있다. 따라서 인간을 시스템의 융통성과 안전탄력성(resilience)에 필요한 자원으로 간주하고 있다. 안전-II에서의 사고 조사는 가끔씩 발생하는 사고를 이해하기 위하여, 통상적으로 일이 제대로 이루어지는 방식(work-as-done)을 이해하려고 한다. 위험평가에서도 업무 수행의 변동성으로 모니터 또는 제어가 어렵거나 불가능하게 될 수 있는 조건을 이해하려고 한다. 안전 관리의 원칙은 일상 업무를 촉진하고, 상황의 전개 및 사건의 발생을 전향적으로 예상하며, 불가피하게 발생하는 사건에 효과적으로 대응할 수 있는 적응 능력을 유지하는 것이다.

3. 보건의료와 안전과학

환자안전은 ‘환자에 대한 위해의 예방’[1] 또는 ‘의료로 인하여 발생하는 우발적인 손상 또는 예방가능한 손상이 없는 것’[17]으로 정의하고 있다. 이러한 정의들은 위해나 손상과 같은 바람직하지 않은 결과에 초점을 맞추고 있다는 점에서 안전-I의 패러다임에 속하는 것으로 볼 수 있다. 기존의 환자안전 활동은 주로 일이 잘못되는 경우를 살펴 위해를 줄이려고 시도하는 것이었다. 이러한 활동의 목적은 환자에게 발생하는 위해를 근절하거나 위해사건을 가능한 낮은 수준으로 줄이는 것이다. 이러한 방식의 접근은 위해에 초점을 맞추고 있어 위해를 유발하지 않은 진료 과정에서 배울 수 있는 더 많은 기회를 놓칠 가능성이 있다. 우리는 나쁜 진료를 줄이는 방법(안전-I)뿐만 아니라 좋은 진료를 제공하는 방법(안전-II)에도 관심을 가질 필요가 있다. 의료기관 내에서의 개선 활동 중 전자를 환자안전 활동, 후자를 질 향상 활동이라고 구분하고 있다. 안전-I과 안전-II라는 두 가지 접근 방식을 함께 적용하면 위해 감소에만 몰두하였던 기존 접근법보다 더 나은 작업을 수행할 수 있다. 최근 보건의료 분야에도 안전-II의 개념을 도입하여 적용하고 있으며, 이를 ‘안전탄력적인 보건의료(Resilient Health Care)’라고 부르고 있다[18]. 새로운 접근법인 레질리언스공학(resilience engineering)에 대한 체계적 문헌고찰 결과에 따르면 보건의료 분야에 대한 문헌이 항공 분야 다음으로 많으나, 대부분이 안전탄력성 이론에 관한 것으로 앞으로 많은 실증적 연구가 이루어져야 할 것으로 생각된다[19].

안전-II의 방법론은 기존의 방법론과 몇 가지 측면에서 차이가 있다[20]. 첫째, 안전-II에서는 사건의 조사에서 문제가 발생한 잘못된 사건이 아니라 통상적으로 일이 제대로 이루어지는 방식(work-as-done)을 이해하는데 조사의 초점을 맞춘다. 둘째, 안전-II에서는 질 향상 활동에서 시스템 전체를 고려하여, 특정한 방식으로 완료할 필요가 있는 핵심 기능이 있는지, 좋은 결과를 보이는 영역이 있는지 등을 찾으려고 노력한다. 셋째, 안전-II에서는 전향적 분석을 통하여 실패가 아닌 성공에 필수적인 기능들을 규명하고, 안전한 기능 수행에 필요한 자원을 적시에 사용할 수 있도록 보장하는 방법을 찾는다. 마지막으로 안전-II에서는 과거 활동의 결과로 나타나는 후행지표(lagging indicator) 보다는 성과에서 원하지 않는 변동을 일으키는 조건을 반영하는 선행지표(leading indicator)를 주로 사용한다.

전통적으로 환자의 안전에 대한 지배적인 사고 방식은 개인에게 책임이 있다는 가정에 바탕을 두고 있어, 오류와 위해사건이 주로 개인의 무능, 과실 및 성격상의 결함(예: 부주의, 건망증 또는 무모함 등)에 기인한 것으로 간주하고 있었다. 미국 의학한림원의 보고서가 발간된 이후 스위스치즈모형, 체크리스트, 근본원인분석 등과 같은 시스템적 접근을 도입하면서 중심정맥관관련 혈류 감염 감소, 수술 관련 사망과 이환 감소, 신속대응팀 도입으로 환자 상태 악화 방지 등의 환자안전 성공 사례들이 보고된 바 있다. 그러나 환자안전 향상을 위한 많은 노력에도 불구하고, 안전의 개선을 지속하고 확산시키기가 어려우며, 예방 가능한 위해의 전반적인 발생률로 볼 때 시스템 수준에서 측정 가능한 개선이 나타나지 않고 있다. Mannion과 Braithwaite는 이러한 한계를 극복하기 위하여 현재의 환자안전 노력을 뒷받침하면서 복잡하고 역동적인 보건의료 시스템에서 환자안전을 이해하고 해결하는데 안전-II라는 새로운 접근법의 필요성을 강조한 바 있다[21]. 그러나 환자안전 사건보고 시스템과 같은 기존의 접근법이 가지고 있는 잠재력이 아직 충분하게 발휘되지 못하고 있으므로, 새로운 접근법(안전-II)과 기존의 접근법(안전-I)을 동시에 적절하게 사용할 필요가 있다는 주장도 있다[22]. 안전 과학의 패러다임 전환이라는 용어가 사용되고 있으나, 안전-I과 안전-II는 서로 대체 관계에 있는 접근법이라기보다는 상호 보완적인 관계에 있는 접근법으로 이해하는 것이 적절할 것이다.

Vincent와 Amalberti는 진료의 수준을 위해 가능성에 따라 ① 적정한 진료와 표준의 엄격한 준수, ② 통상적인 진료와 표준의 불완전한 준수, ③ 낮은 수준의 진료: 위해 없음, ④ 낮은 수준의 진료: 위해 가능성이 있으나 편익이 더 큼, ⑤ 위해가 편익보다 더 큰 진료의 5단계로 구분하고, 1~3단계를 ‘질의 영역(area of quality)’으로 3~5단계를 ‘안전의 영역(area of safety)’으로 규정하였다(3단계는 질과 안전이 중복되는 영역)[23]. 이러한 단계 구분에서는 단계가 증가할수록 실패 가능성이 증가하므로, 안전의 영역에서는 안전-I의 접근법이 질의 영역에 대해서는 안전-II의 접근법이 상대적으로 더 유용할 것으로 생각된다. 또한 그들은 안전의 영역에서 위험의 발생 수준에 따라 위험 관리 접근법을 ① 극단적 적응모형(ultra adaptive model), ② 고신뢰모형(high reliability model), ③ 극단적 안전모형(ultra safe model)으로 구분하여, 적절한 접근법을 선택하기를 권고하였다. 즉 환자안전 관리 접근법에서도 가능한 위험을 배제하여야 하는 극단적 안전모형이 적용되는 상황에서는 위험을 회피(risk avoidance)하는 접근법을, 위험을 추구하지는 않지만 업무 상 위험이 내재되어 있는 고신뢰모형이 적용되는 상황에서는 위험을 관리(risk management)하는 접근법을, 업무 특성 상 위험을 감수하여야 하는 극단적 적응모형이 적용되는 상황에서는 위험을 포용(risk embracement)하는 접근법이 더 적절하다고 한다. 우리가 의료기관 내에서 의료의 질 향상 또는 환자안전 활동을 할 때에도 천편일률적인 방식을 적용하지 않고 프로세스의 특성을 고려하여 적절한 접근 방법을 선택할 필요가 있을 것이다.

III. 결론

우리는 현재 환자안전의 개선을 위하여 스위스치즈모형과 같이 안전과학 분야에서 사용하는 모형을 이용하여 환자안전과 관련된 현상을 이해하고, 다른 산업 분야에서 사용하였던 사건보고학습시스템, 근본원인분석, 고장유형및 영향분석 등과 같은 방법론을 개선 활동에 주로 사용하고 있다. 이러한 접근법을 통하여 개인보다는 시스템에 초점을 맞추어 환자안전 개선 활동을 수행함으로써 환자안전에서 많은 성과를 거두어 왔다. 그러나 이러한 기존의 방법론들의 제한점에 대하여 여러 가지 지적들이 제기되고 있다[24-27].

앞으로 우리나라 환자안전의 지속적인 발전을 위해서는 기존의 방법론의 활용에 머무르지 않고 안전과학의 변화 동향을 신속하게 파악하여야 할 것이다. 또한 새롭게 개발되는 접근법들의 보건의료 분야 도입 가능성을 검토하고, 실제 진료 상황에서 새로운 접근법들의 유용성을 검증할 필요가 있다.

Notes

Funding

None

Conflict of Interest

None

References

1. Kohn KT, Corrigan JM, Donaldson MS. To err is human: building a safer health system Washington, D.C., United States of America: National Academies Press; 1999.
2. Haskins J. 20 years of patient safety [Internet] Washington, D.C., United States of America: Association of American Medical Colleges; 2019 [cited 2021 March 18]. Available from: https://www.aamc.org/news-insights/20-years-patient-safety.
3. Vincent C, Aylin P, Franklin BD, Holmes A, Iskander S, Jacklin A, et al. Is health care getting safer? British Medical Journal 2008;337(7680):1205–7.
4. Bates DW, Singh H. Two decades Since to err is human: an assessment of progress and emerging priorities in patient safety. Health Affairs 2018;37(11):1736–43.
5. Wears R, Sutcliffe K. Still Not Safe: Patient safety and the middle-managing of American medicine New York, Untied States of America: Oxford University Press; 2019.
6. Aven T. What is safety science? Safety Science 2014;67:15–20.
7. Borys D, Else B, Leggett S. The fifth age of safety: the adaptive age. Journal of Health Services Research & Policy 2009;1(1):19–27.
8. Hollnagel E. Safety-I and Safety-II: the past and future of safety management London, Unithed Kingdom: CRC Press; 2014.
9. Yang JY. Brief review of resilience engineering. Occupational Safety & Health Issue Report 2019;13(1):14–23.
10. Hollnagel E, Pariès J, Woods D, Wreathall J. Resilience engineering in practice: a guidebook Farnham, Unithed Kingdom: Ashgate Pub Co; 2011.
11. Rasmussen J. Risk management in a dynamic society: a modelling problem. Safety Science 1997;27(2):183–213.
12. Leveson N. A new accident model for engineering safer systems. Safety Science 2003;42(4):237–70.
13. Hollnagel E. FRAM : the functional resonance analysis method Farnham, Unithed Kingdom: Ashgate Pub Co; 2012.
14. Filho APG, Jun GT, Waterson P. Four studies, two methods, one accident – an examination of the reliability and validity of accimap and STAMP for accident analysis. Safety Science 2019;113:310–7.
15. Underwood P, Waterson P. A critical review of the STAMP, FRAM and accimap systemic accident analysis models. In : Stanton NA, ed. Advances in Human Aspects of Road and Rail Transportation Boca Raton, Untied States of America: CRC Press; 2012.
16. Hollnagel E, Wears RL, Braithwaite J. From Safety-I to Safety-II: A White Paper. [Internet]. [cited 2021 March 29]. Available from: https://www.england.nhs.uk/signuptosafety/wp-content/uploads/sites/16/2015/10/safety-1-safety-2-whte-papr.pdf.
17. Wachter R, Gupta K. Understanding Patient Safety, 3rd Edition New York, United States of America: McGraw-Hill; 2018.
18. ISQua J. Safety-II – the changed paradigm of patient safety. [Internet]. [cited 2021 March 29]. Available from: https://isqua.org/news/safety-iithe-changed-paradigm-of-patient-safety.
19. Righi AW, Saurin TA, Wachs P. A systematic literature review of resilience engineering: Research areas and a research agenda proposal. Reliability Engineering & System Safety 2015;141:142–52.
20. McNab D, Bowie P, Morrison J, Ross A. Understanding patient safety performance and educational needs using the ‘safety-II’ approach for complex systems. Education for Primary Care 2016;27(6):443–50.
21. Mannion R, Braithwaite J. False dawns and new horizons in patient safety research and practice. International Journal of Health Policy and Management 2017;6(12):685–9.
22. Carson-Stevens A, Donaldson L, Sheikh A. The rise of patient safety-II: should we give up hope on safety-I and extracting value from patient safety incidents? comment on "false dawns and new horizons in patient safety research and practice". International Journal of Health Policy and Management 2018;7(7):667–70.
23. Vincent C, Amalberti R. Safer Healthcare: Strategies for the Real World. [Internet]. [cited 2021 March 29]. Available from: https://link.springer.com/book/10.1007%2F978-3-319-25559-0.
24. Shebl NA, Franklin BD, Barber N. Failure mode and effects analysis outputs: are they valid? BMC Health Services Research 2012;12:150.
25. Catchpole K, Russ S. The problem with checklists. BMJ Quality & Safety 2015;24(9):545–54.
26. Macrae C. The problem with incident reporting. BMJ Quality & Safety 2016;25(2):71–5.
27. Peerally MF, Carr S, Waring J, Dixon-Woods M. The problem with root cause analysis. BMJ Quality & Safety 2017;26:417–22.

Article information Continued

Table 1.

Three ages of safety science.

Age of technology Age of human factors Age of safety management
Model Sequential Epidemiological Systemic
Accident Simple, linear Complex, linear Complex, non-linear
Principle of causation Single causes (Root cause) Multiple causes (Latent conditions) Complex outcomes (Emergent variability)
Issue Hardware failure Individual human performance Vulnerability against unanticipated situations
Improper socio-technical interaction
Scientific focus Proximal components Distal and proximal components Situated, integrated whole;
Change action Reactive response Proactive attention Proactive anticipation
Management Error management Performance deviation management Performance variability management