“우와, 우리가 시킨 음식 로봇이 서빙해주네!”
“근데 만약 저 로봇에 사람이 부딪히면 어떻게 되는 거지?”

주문한 음식을 가져다주는 서빙 로봇부터 병원에서 수술을 돕는 로봇 팔, 집안 곳곳을 청소해 주는 로봇까지.
이제 스마트 로봇은 우리의 일상에서 어색하지 않은 존재인데요. 하지만 AI 기반 스마트 로봇의 안전성에 대한
고민은 여전히 남아있는 상황입니다. 실제로 로봇의 기계적 움직임으로 상해를 입거나,
개인정보 해킹으로 인한 보안 이슈 등이 뒤따르고 있기 때문이죠. 지난 4월, OECD 소비자정책위원회에서
인공지능, 사물인터넷과 관련한 스마트 로봇의 제품 안전 정책에 대한 열띤 논의가 이어졌습니다.
트렌드리포트에서는 회의에서 다뤄진 주요 내용을 짚어보고, 2027년부터 적용되는 EU 기계류 규정을 검토하며 시사점을 찾아봅니다.

스마트 로봇, 정말 안전한가요?

과거에는 상상만 하던 로봇이 함께하는 일상이 이제 현실이 되었습니다. 하지만 스마트 로봇이 열어갈 편안한 미래, 그 이면에는 보이지 않는 그림자가 있습니다. 이에 스마트 로봇의 제품 안전성에 대해 한 번쯤 짚어보는 일은 매우 중요한 일입니다. 소비자 입장에서 도움받고자 사용한 로봇이 반대로 위협으로 다가올 수 있기 때문이죠.

지난 4월, 경제협력개발기구(이하 OECD)는 파리에서 소비자정책위원회(Committee on Consumer Policy, 이하 CCP)를 개최했습니다. 이와 함께 소비자제품안전작업반(Working Party on Consumer Product Safety, 이하 WPCPS)의 정례회의도 이어졌는데요. 회의에서 진행한 워크숍 시간에는 스마트 로봇에 대한 안전을 위한 각국의 정책 동향을 함께 논의했는데요. 동 회의에서 다뤄졌던 일본, 영국 및 EU의 스마트 로봇 관련 정책 동향을 살펴보겠습니다.

[WPCPS 스마트 로봇 관련 주요 논의 내용]

일본

일본은 스마트 로봇의 잠재적 위험성을 면밀히 들여다보고 있습니다. 먼저 사용 대상자에게 위험을 줄 수 있는 제품은 인터넷에 연결된 자율 시스템 기반의 가정용 (스마트)로봇으로 설정했죠. 이어 로봇의 잠재적 위험에 노출될 수 있는 대상을 취약 소비자와 간접 소비자(indirect Consumer)로 분류, 위험 요인은 물리적 위험, 심리적 위험, 사이버 물리 위험 세 가지로 구분하고 있는데요. 물리적 위험은 기계적인 움직임, 기계의 작은 물체(구멍)로 인해 발생할 수 있는 상해를 의미하며, 심리적 위험은 로봇으로 인한 현실과 인식 괴리로 인한 감정 기만이나 심리적 위협 등의 발생을 포함합니다. 마지막으로 사이버 물리 위험은 해킹을 통해 네트워크 침범이 발생하거나 로봇이 원격으로 조정되어 피해가 발생하는 경우를 말하죠. 이처럼 일본은 주요 내용을 개념화하고, 위험 요소 완화를 위해 다양한 표준화 연구를 진행하고 있습니다.

영국

인간이 혼자서 생활을 이어갈 수 있도록 돕는 보조로봇(Assistive Robots)은 신체 작업, 약품 전달, 요리 및 신체의 재활 등을 지원하며, 신체적·심리적인 도움을 주고 있는데요. 여기에 의료기기, 통신 소프트웨어 및 동작 센서와 상호작용이 가능한 이점이 있어 사용자는 더욱 다양한 역할을 기대할 수 있죠. 하지만 안전·윤리적 측면에서 보조 로봇의 위험성 문제가 우려되는 상황입니다. 특히 진단 불량, 충돌, 소음, 자율성 감소 등 여러 문제가 발생할 수 있다는 점에 집중하고 있습니다. 이에 영국은 제품의 연속성, 유지 관리 책임, 적용 규정에 대한 논의를 이어가는 중입니다.

EU

EU는 가정용 스마트 로봇 관련 안전 규제를 검토하고 있습니다. 현재 일반 규정으로 일반제품안전규정(GPSR)이 적용, 개별적으로는 AI, 기계류 및 의료기기 등에 적용되는 개별 표준이 있는데요. 하지만 이 규정은 제조업자의 안전을 위한 가이드 역할일 뿐, 안전 확보를 위한 수단이 되기는 어려움이 있죠. 이처럼 EU의 현행 규정으로 스마트 로봇으로 인한 안전을 보장하기 어렵고, 로봇에 적용할 수 있는 표준이 명확하지 않다는 한계점도 존재합니다. EU는 로봇에 대한 안전 규제의 어려움에 대응하기 위해 유럽의 관련 규정인 EU 기계류 규정 및 AI법을 검토해야 한다는 의견이 제기되고 있습니다.

2027년부터 시행하는 EU 기계류 규정

EU는 유럽연합 내 기계류의 안전성과 신뢰성을 높이기 위해 법적 체계인 ‘EU 기계류 규정’을 마련했습니다. 이전에 시행되던 기계류 지침을 개정, 로봇 윤리를 세우는 데 중심이 되는 아이작 아시모프의 로봇 원칙^*과 2017년 EU 결의안을 반영한 내용으로 구성되었는데요. 이렇게 개정된 EU 기계류 규정은 2027년부터 EU 내 모든 회원국에서 시행될 예정입니다.

EU 기계류 규정의 구성 및 주요 내용

새로운 규제방식 설정	기술 발전에 효과적으로 대응하기 위해 필수 건강과 안전 요건(EHSR) 등 기술 중립적인 규제방식을 설정
CE 표지 부착의무 규정 (Communaute Europeenne)	제조업자에게 기계 등으로 인한 필수 건강 및 안전 요건이 충족되었는지를 입증하는 적합성 평가를 의무화하고, 평가 결과에 따라 CE표지 부착 의무를 부과

EU 기계류 규정은 로봇, AI, 스마트 로봇과 같은 용어를 직접 사용하지 않습니다. 오히려 지속적으로 발전하는 AI 기반 기술시스템에 효과적으로 대응할 수 있도록 중립적인 용어를 사용하고 있죠. 다만 관련 내용을 해석할 때 적용 대상으로 포섭할 수 있는데요. 그렇다면 기계류 규정 내 스마트 로봇에 관한 규정은 어떤 내용들을 포함하고 있을까요? 스마트 로봇에 대한 안전 규정, 스마트 로봇과의 의사소통을 중심으로 EU 기계류 규정을 살펴보겠습니다.

EU 기계류 규정은 로봇으로 인한 위험을 대비하기 위한 위험 평가 및 방지 관련 내용을 담고 있습니다. 위험 평가는 신체 건강뿐 아니라 로봇과 접촉으로 인한 심리적 건강 상태(스트레스, 불안 등)도 함께 관리합니다. 환자나 어린이, 노인과 같은 취약 계층을 보호하기 위해 설계 시 안전에 관한 내용도 포함하고 있죠. 여기에 스마트 로봇의 자율성과 자체 진화 행동에 중점을 둔 필수 건강 및 안전 요건 규정을 별도로 마련했습니다.

특히 로봇의 자율성과 자체 진화 행동에 관한 내용은 자세히 들여다볼 만한데요. 로봇은 인간과 독립되어 작동할 수 있으나, 이러한 경우에도 인간의 통제가능성이 있음을 규정하고 있습니다. 자율 기계 작동을 위해서는 기능이 안전하게 실행될 수 있도록 시스템을 설계하고, 원격으로 통제 가능한 인적 감독 시스템을 마련하도록 했죠. 이어 기계학습이나 인공지능 기술을 활용해 스스로 진화할 수 있는 로봇의 경우, 기존에 설정된 위험 평가 수준을 넘어선 행동으로 인해 문제가 될 수 있다는 사실을 짚었습니다. 이에 기계의 제어 시스템은 원칙적으로 설정된 작업 공간 및 이동 반경을 벗어나지 않고, 외부영향에 견딜 수 있도록 설계·제작되어야 한다는 점을 명시하고 있습니다.

스마트 로봇의 의사소통 기능은 그 대상과 역할에 따라 내용이 달라질 수 있는데요. 기계류 규정 속 ‘로봇과의 의사소통’은 사용자와의 단순한 정보 교환 기능뿐 아니라 사용자의 안전을 위한 기능도 수행해야 한다는 원칙을 두고 있습니다. 로봇 운영자에게 로봇의 행동반경이나 예상되는 행동을 알려 안전을 위한 조치 등에 대비할 수 있도록 하는 것이죠. 이처럼 안전한 로봇 작업을 위해서는 지정된 인적 감독이 필요하다는 점을 인정하고 있습니다.

스마트 로봇의
안전성 공백을 채우기 위한 시사점

기술의 발전과 더불어 안전성에 대한 논의가 끊이지 않는 지금, 스마트 로봇의 안전성 공백을 채워나가기 위해 각국은 저마다의 행보를 이어가고 있는데요. 앞서 살펴본 각국의 안전성 정책 동향과 EU 기계류 규정을 둘러싼 주요 시사점을 정리하면 다음과 같습니다.

그간 과학 기술에 대한 세부적 내용을 법률·규정의 수준에서 논의하고, 과학 기술에 대한 법학적 논의를 이어가는 일은 그리 많지 않았습니다. 하지만 AI를 활용한 새 기술을 장착한 기계류가 많아지면서 소비자에게 위해를 끼칠 수 있다는 우려는 점점 커지고 있는데요. 이런 환경에서 이용자(소비자)의 안전을 위한 규정적 뒷받침이 필요하다는 인식이 확산되고 있습니다. 이에 AI법의 제정과 기계류 규정의 개정을 통해 안전성 공백을 채워나가고 있는 것으로 보입니다.

EU 기계류 지침은 기계 지침(Directive)에서 기계 규정(Regulation)으로의 전환이라는 점에서 의미가 있습니다. 개정된 기계 규정은 회원국의 전환 입법이 필요하지 않은 규정 형식(법)으로, 2027년 1월 이후에는 EU 역내시장에 바로 적용될 예정이죠. 이렇게 규정 형식이 변화함에 따라 역내 로봇 이용자는 동일한 수준의 안전을 보장받고, 사업자의 경우 동일한 규제를 적용받아 자유로운 거래를 할 수 있다는 이점이 있습니다.

EU 기계류 규정이 탄생하면서 사실상 법률적으로 규제가 없던 과학기술에 대한 실질적 안전 규제 입법이 자리 잡게 됩니다. 이는 기술 중립적이고 개방적인 용어를 사용해 기술발전에 대응할 수 있는 기반을 마련하는 동시에, 인간과 기계의 상호관계를 고려한 입법이라고 할 수 있겠습니다. 또한 자율성을 기반으로 하면서도 안전을 위한 인간의 통제 가능성을 배제하지 않는 방식을 취하고 있죠. 물론 일부 규정에 있어 부족한 면도 존재하는 것은 사실이지만, 스마트 로봇을 포함한 기계류에 대한 최소한의 안전 기반이 마련되었다고 평가할 수 있겠습니다.