▲ 신지섭 박사 / 명지대학교 일반대학원 객원교수

인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하려는 컴퓨터 과학의 세부분야 중 하나인 인공지능(人工知能) 또는 A.I.(Artificial Intelligence)는 지능을 갖고있는 기능을 갖춘 컴퓨터 시스템이며, 인간의 지능을 기계 등에 인공적으로 시연(구현)한 것이다. 일반적으로 범용 컴퓨터에 적용한다고 가정한다. 또한 지능을 만들 수 있는 방법론이나 실현 가능성 등을 연구하는 과학 기술 분야를 지칭하기도 한다. 이러한 인공지능 개발을 위해서는 신뢰성과 안전성 확보를 위해 기술적으로 확인해야 할 요구사항들이 존재하게 된다.
공학시스템(Engineering system)에서 신뢰성이라는 것은 「기능 요구사항에 따라 기기와 시스템이 정확한 동작을 신뢰할 수 있는 것」이며, 안전성이라는 것은 「사람에게 위해를 끼치지 않는 것」이다. 일반적으로 신뢰성이 높을수록 안전성은 유지되고 있다고 보기 때문에 안전성은 신뢰성에 귀속 된다고 생각할 수 있다. 하지만 안전성을 확인할 수 없는 시스템이나 기기가 사고 발생전 작동을 멈추어 버린다면 시스템이나 기기는 본래의 기능을 수행하지 못해 신뢰도는 낮지만, 사고가 나지 않는다는 측면에서 안전성은 높다고 볼 수 있어 신뢰성을 낮춤으로 안전성을 높일 수 있는 상황이 된다. 따라서 신뢰성과 안정성의 관계는 밀접한 관련이 있으나 분명히 다른 개념이며, 미묘한 관계임은 분명한 사실이다. 
여기에 안전성은 「리스크」라는 개념과 「허용가능」이라는 개념으로 정의 할 수 있는데,  안전이라는 것은 ‘리스크 제로’가 아니라 앞으로 받을 편익(benefit) 또는 필요한 대책 비용을 고려하여 어쩔 수 없이 받아들이는 허용 가능한 수준과 수용 가능한 정도까지 리스크가 저감될 때를 안전이라고 볼 수 있는 것이다. 하지만 절대 안전을 나타내는 「리스크 제로」는 현실적으로 있을 수 없다. 
그러면 어느 정도의 리스크를 안전한 상태로 볼 수 있는 것인가? 
이는 시대의 변화와 주어진 조건에 따라 안전한 상태는 변하겠지만 안전이라는 것은 리스크가 낮은 레벨로 억제되어 있는 상태이며 리스크의 발생확률과 부상의 정도를 작게 하는 측면에서 안전성은 실현되고 있다고 볼 수 있지 않을까?
이러한 시대적 요구에 따라 시스템이나 기기에 일어날 수 있는 리스크를 이론적으로 분석하고 이로 인해 사고에 이르는 경과를 해석하며, 그에 따른 리스크를 수치화하고 그 시스템이 제품의 라이프사이클을 통해 경제성과 비교하여 허용되는 리스크 내로 유지할 수 있는지를 검증하는 RAMS(Reliability, Availability, Maintainability, Safety)라는 유지보수체계 관리 시스템 기술이 부각되고 있다.
이는 국제적인 추세에 따라 신뢰성과 안전성을 만족하면서 상시 유지보수 활동 및 시스템을 제어해야 하는 객관적이고 정량적인 RAMS 요구사항을 각 단계별로 확실히 일치시킬 것을 요구하고 있으며, 이를 통한 높은 안전성을 가진 시스템을 확보하는 것이 우선시 되고 있다.

RAMS는 시스템(철도, 국방, 전력, 원자력, 플랜트 등)의 신뢰성, 가용성, 유지보수성 및 안전성 목표를 설정하고 전 수명주기에 걸쳐 상기 목표 달성을 위한 RAMS 활동을 체계화하고 수행하여 소기의 목표 달성을 위한 시스템엔지니어링 방법론이다.
RAMS규격은 유럽에서 차량시스템을 전제로 만들어져 국내에서는 1970년대 항공 정비프로그램을 운용하는 개념 도입 이후 철도시스템 전체의 평가방법으로 자리 잡고 있으며 '신뢰성, 가용성, 유지보수성'을 나타내는 ‘RAM’의 경우 우선 신뢰성이 기본이 되며

RAMS규격에서는 각 단계에 있어서 RAM에서의 활동과 안전에 관한 활동이 규정되어 있다.
RAMS 분석 및 운영기술은 글로벌 규정이 신뢰성과 안전성에 대한 무한 책임을 요구하는 방향으로 제정됨으로써 자동차, 철도, 기계, 가전제품 등의 경쟁력 향상을 위해 반드시 확보되어야 하는 핵심기술이다.
현재 많은 분야에서 RAMS규격 적용과 라이프사이클 코스트(LCC)에 대한 모니터링 요구사항 등을 통해 Knowledge Management(지식경영), Project Management, 기술안전방침과 안전 목표의 설정이 가능한 수준에 이르렀다.

그렇다면 인공지능 소프트웨어의 신뢰성과 안전성은 어떠할까?
신뢰할 수 없는 시스템은 안전하지 않지만, 시스템은 얼마든지 안전하지 않은 상태로 제공될 수 있다. 인간에게 해를 끼질 수 있는 기계는 물리의 세계이지만 소프트웨어는 논리의 세계이기 때문이다. 모든 위협에서 완전히 안전한 시스템은 없다. 
그렇다면 소프트웨어에 신뢰성의 개념이 존재하듯이 안전성의 개념을 포함하는 것은 가능한 일일까?
소프트웨어의 세계에도 구조와 확률 관련 사항은 분명히 존재하여 소프트웨어가 가진 가치 및 원칙과 일관된 방식으로 작동해야 한다. 따라서 완벽한 안전성(perfect safety)을 위한 리스크는 반드시 인지되고(recognised), 이해되고(understood), 통제되어야(controlled) 한다. 이는 특히나 새로이 부각되고 있는 신분야인 자율주행차 등과 같은 첨단산업의 소프트웨어 안전에도 예외가 될 수 없기 때문이다.
작은 실수가 쌓여 큰 리스크가 되듯이 안전과 생명을 다루는 분야에 설치되는 인공지능 소프트웨어(artificial intelligence software)의 신뢰성과 안전성 확인을 위한 검증 및 입증은 필수 조건이 되고 있다. 이러한 이유로 신뢰성과 안전성의 차이와 상호관계를 명확하게 이해하는 것이 중요하며, 신뢰성과 안전성이 융합되지 않는 한 참된 안전이 실현될 수 있을까? 하는 생각이 든다.