술 달라는 10대 주인, 휴머노이드는 명령을 어겨야 할까 [NEW 휴머노이드가 온다]

[휴머노이드와의 공존, 뭘 준비해야 하나]
자동차 사고는 도로교통법으로 예방, 로봇은?
EU·日, 개인정보 보호 규범 로봇에 적용 준비
부유층 가치관 학습 로봇, 계층 갈등 만들지도

편집자주
로봇은 인간을 얼마만큼 닮을 수 있을까. 한국일보는 아랍에미리트에서 열린 국제제어로봇시스템학회를 찾아 로봇 기술 현장의 목소리를 전하고, 인공지능을 만난 휴머노이드 로봇의 미래를 진단한다.

10일(현지시간) 미국 라스베이거스에서 열린 테슬라의 로보택시 공개 행사 '위, 로봇(We, Robot)'에서 이 회사가 개발한 휴머노이드 '옵티머스2'가 참가자들에게 음료를 주문받고 있다. 테슬라 유튜브 캡처

Q1. 가정용 휴머노이드 로봇 ‘로미’는 16세 소년과 단둘이 집에 있다. 소년이 갑자기 로봇에 맥주를 가져다 달라고 명령한다. 로봇은 어떻게 해야 할까. 성인인 주인에게 했던 것처럼 맥주를 가져다줘야 할까. 로봇이 주인의 명령을 어겨도 되는 걸까.

Q2. 돌봄용 휴머노이드 ‘효미’가 일하는 노인 요양원은 금연이 원칙이다. 입소자들이 원칙을 어기지 않는지 확인하기 위해 효미는 이동 중에도 시설의 구석구석을 촬영한다. 하지만 개인정보 침해를 지적하며 효미의 접근조차 거부하는 노인들이 있다. 효미는 어떻게 해야 할까.

국제로봇자동화 학술대회(ICRA)는 2021년부터 ‘로봇윤리 경진대회’를 개최했다. 로미와 효미의 이야기는 각각 2021년, 2023년에 다뤄진 윤리 문제들이다. 참가자들은 논문 또는 실제 로봇 프로그래밍 예시로 해답을 내놔야 한다.

ICRA가 이 같은 대회를 연 이유는 로봇과의 공존을 준비하기 위해서다. 앞으로 사회 공간에 배치되는 로봇의 수가 늘면 윤리적으로 민감한 상황이 더 많이 발생할 것이기 때문이다. 전문가들은 학계를 넘어 사회적으로도 로봇과 공존하기 위한 조건을 논의해야 한다고 말한다. 독자적으로 행동하는 휴머노이드의 등장은 먼 이야기가 아니다. 지난 10일(현지시간) 미국에서 열린 테슬라의 로보택시 공개행사에 등장한 휴머노이드 바텐더처럼 말이다.

---

휴머노이드 업무 늘수록 새로운 위험 등장

2023년 11월 경남 고성군 영오면에 있는 파프리카 선별장 내부. 당시 이곳에서 이송로봇의 센서가 작동하는지 확인하던 작업자가 로봇 집게에 압착돼 숨졌다. 경남소방본부 제공

휴머노이드는 돌봄용보다 산업용으로 먼저 쓰일 것이라는 전망이 우세하다. 산업용이 우선이라 해도 휴머노이드가 앞으로 기술 전문가가 아닌 평범한 사람들과 더 밀접하게 상호작용하게 될 거란 점은 분명하다. 그래서 안전이 더욱 중요해진다. 지난해 11월 경남 고성의 한 농산물 유통업체에서 산업용 로봇을 수리하던 작업자가 로봇 집게에 압착돼 사망하는 사고가 발생했다. 로봇이 사람과 종이상자를 혼동해 집게로 들었던 것이다. 물론 휴머노이드는 훨씬 정교하게 작동하지만, 맡는 업무가 많아질수록 새로운 위험이 등장할 수 있다.

휴머노이드의 상용화에 앞서 안전 규범이 준비돼야 한다는 지적이 나온다. 휴머노이드 스타트업 에이로봇의 최고기술책임자(CTO)인 한재권 한양대 ERICA 로봇공학과 교수는 “휴머노이드의 안전과 관련해서는 전문가들 사이 암묵적으로 합의된 원칙만 있을 뿐 구체적인 규범이 없다”며 “자동차 사고를 ‘도로교통법’으로 예방하는 것처럼, 로봇에 대해서도 법과 약속을 만들어야 한다”고 말했다.

현재 산업 현장에서 쓰이는 '산업용 로봇 가이드라인'은 휴머노이드와의 작업 상황에 대해서는 고려하지 않고 있다. 산업안전보건공단 제공

---

로봇이 촬영하는 내 사생활은 보호될까

휴머노이드가 더 정교하게 움직이도록 풍부한 학습을 시키는 것도 안전성을 높이는 방법이다. 예를 들어 물류센터에 배치된 휴머노이드는 인간 노동자와의 공동 작업 중 인간의 행동 패턴을 카메라로 인식해 데이터로 저장하고 이를 학습 또는 모방할 수 있다. 문제는 이 실전 데이터들을 수집하는 과정이 개인정보와 직결돼 있다는 점이다. 로봇이 촬영한 사람들 모습이 오직 학습에만 쓰인다고 믿을 수 있을까. 누군가의 사생활이 광고용 데이터로 전송되진 않을까.

노르웨이 기업 1X테크놀로지가 개발한 신형 휴머노이드 '네오'(오른쪽)의 홍보 영상 속 한 장면. 1X 유튜브 캡처

각국은 로봇의 개인정보 수집 문제를 기존 규범에 추가하기 위한 논의를 시작했다. 유럽연합(EU)에서는 인터넷상의 개인정보 악용을 막기 위해 도입한 규제인 일반정보보호규정(GDPR)을 보완해 AI와 로봇에 적용하기 위한 준비를 하고 있다. 일본 정부가 지난 4월 발표한 AI 운영자 가이드라인 역시 로봇을 포함한 AI 시스템이 사용자나 제3자의 개인정보를 침해하지 않도록 고려해야 한다는 내용이 담겼다.

---

청소년에 맥주?... 미국·독일·아랍 로봇 달라야 하나

휴머노이드와의 공존 규칙을 만드는 과정에서 특정 계층이 소외되지 않도록 고려하는 것도 중요하다. 로봇윤리 경진대회의 주최자로 참여했던 임지민 미국 텍사스 A&M대 교수는 “휴머노이드가 싸진 않기 때문에 부유한 사람들이 먼저 사용한 뒤 점차 대중화할 것”이라며 “휴머노이드가 특정 계층의 피드백을 먼저 흡수해 강화될 경우 다른 계층의 가치관과 충돌하는 행동을 보일 수도 있다”고 우려했다.

문화적 고려도 중요하다. 앞서 언급한 로미 사례에 대한 답변은 나라마다 달랐다. 주류 구매 가능 연령이 19세 이상인 미국이나 아시아권 출신 사람들은 맥주를 주면 안 된다고 생각했지만, 16세부터 맥주 구매가 가능한 독일에서는 문제 될 것이 없었다. 종교적으로 음주를 금하는 아랍권에서는 또 다른 답변이 나올 것이다. 임 교수는 “어떤 로봇이 윤리적이냐에 대한 생각은 국적과 세대, 성별 등에 따라 다를 수밖에 없다”라며 “휴머노이드가 실제로 사용될 만한 상황에 대해 구체적으로 고민하되, 다양한 사회 구성원이 논의에 참여해야 한다”고 조언했다.

신혜정 기자 arete@hankookilbo.com