셀레늄 찾으러 간 로봇 구하기 위해, 그들이 한 일 [주기율표 위 건강과 사회]
글을 쓰려고 원소에 대한 자료를 찾을 때마다 영양제나 건강보조식품 광고와 마주친다. 이번에도 그랬다. 원소기호 34번 셀레늄(Se·selenium)이 독자들에게 낯설지 않을까 나름 우려하며 시작했는데, 알고 보니 쓸데없는 걱정이었다. 이미 ‘영양소의 어벤저스’라는 화려한 수식어와 함께 멀티비타민으로, 건강보조식품으로 널리 팔리고 있었다. 항산화 효과가 비타민 E에 비해 1000배가 넘고 각종 질병 예방은 물론 항암효과까지 겸비했다는 팔방미인, ‘인싸’ 중의 ‘인싸’였던 것이다.
터무니없는 말은 아니다. 셀레늄은 대표적 항산화 효소인 글루타치온 과산화제와 티오레독신 환원효소의 성분이다. 갑상샘 기능을 유지하는 데에도 중요한 역할을 한다고 알려져 있다. 인간을 포함해 여러 동물과 일부 식물의 세포가 기능하는 데 미량이지만 반드시 필요한 원소 중 하나다. 그러나 셀레늄 농도가 특별히 낮은 자연환경에서 키워진 것이 아닌 이상, 보통의 식습관만으로도 권장량을 채우는 데 무리가 없다. 오히려 과다 섭취했을 때 중금속 중독과 유사한 증상이 나타날 수 있다. 그래서 섭취 허용량과 작업장의 안전 노출 기준이 정해져 있다.
오늘날 셀레늄이 가장 많이 활용되는 분야는 의료가 아니라 제조업이다. 상업적 활용의 50%가량이 유리 제조에 쓰인다. 과거에는 광전지와 반도체 생산에도 많이 쓰였다고 한다. 1876년 영국 물리학자들이 시연한 첫 번째 태양전지에서 빛 흡수를 담당한 것이 바로 셀레늄이었다. 그러나 1950년대 실리콘 태양전지가 개발되면서 셀레늄은 거의 대체되었다.
한국이 세계 최초로 만든 ‘로봇 윤리 헌장’
미국의 과학소설 작가 아이작 아시모프의 단편 〈런어라운드〉는 셀레늄이 광전지에서 중요한 역할을 하던 1942년에 발표되었다. 이 작품은 인류가 태양계 행성을 오갈 수 있는 미래사회, 무려 2015년(!)을 배경으로 한다. 오랫동안 방치되었던 광산 재가동을 위해 수성으로 파견된 엔지니어 두 명과 휴머노이드 로봇 ‘스피디(Speedy)’가 그 주인공이다. 어느 날 이들은 기지의 생명 유지 장치를 구동하는 태양광 발전설비에 셀레늄이 부족하다는 것을 발견한다. 당장 셀레늄을 보충하지 않으면 얼마 지나지 않아 기지 내 온도 상승으로 엔지니어들이 생명을 잃게 될 터였다. 이들은 30㎞ 정도 떨어진 셀레늄 웅덩이에 스피디를 내보냈다. 태양과 가장 가까운 행성인 수성의 극한 기온을 로봇만이 견뎌낼 수 있기 때문이었다. 그런데 다섯 시간이 지나도록 스피디는 돌아오지 않았다. 구형 로봇을 보내서 현장을 확인해보니 스피디는 다리를 절룩이면서 웅덩이 주변을 계속 빙글빙글 돌고 있었다. 얼른 돌아오라는 명령에는 노래를 부르며 주정뱅이처럼 횡설수설 대답했다. 왜 이런 일이 벌어졌고, 이 문제를 어떻게 해결할 것인가.
아시모프는 여기에서 역사적인 로봇공학 3원칙을 풀어놓는다. 제1원칙은 로봇이 인간에게 해를 끼치거나, 지시를 따르지 않음으로써 인간이 해를 입도록 해서는 안 된다는 것이고, 제2원칙은 제1원칙과 상충하지 않는 한 로봇은 인간의 명령을 따라야만 한다는 것이다. 마지막 제3원칙은 제1원칙 혹은 제2원칙과 상충하지 않는 한 로봇이 스스로를 보호해야 한다는 것이다. 스피디가 이렇게 이상한 행동을 했던 것은, 셀레늄 웅덩이에 로봇에게 치명적인 위험이 도사리고 있었기 때문이었다. 인간의 명령은 따라야 하는데(제2원칙) 그렇게 하다가는 스스로가 파괴되기 때문에(제3원칙) 이러지도 저러지도 못하는 ‘랙(lag)’이 걸린 상황이었다. 고심하던 엔지니어가 선택한 해결책은, 엔지니어들 스스로 목숨을 걸고 기지 바깥으로 나오는 것이었다. ‘로봇은 인간이 해를 입도록 해서는 안 된다’는 제1원칙이 우선적으로 작동해 스피디가 갈등 상황에서 벗어날 수 있도록 말이다. 계획은 성공을 거둔다.
이후 아시모프는 로봇공학 3원칙을 장치로 활용한 작품들을 연달아 발표하며 주목받았고, 과학소설 업계에서 이 원칙은 일종의 상식으로 자리 잡았다. 그리고 1983년 출판된 〈여명의 로봇〉이라는 작품에서는 로봇공학 제0원칙이 제시된다. 그것도 로봇의 입을 통해서. 이는 ‘로봇은 전체 인류의 광범위한 이해를 염두에 두고 행동해야 하며, 그러한 궁극적 선을 위해 필요하다면 다른 법칙들을 넘어설 수도 있다’는 것이다. 전체로서의 인류가 인간 개인의 운명보다 우선이라는 뜻이다. 불완전하고 욕심 많은 인간들을 대신해서 인류의 미래를 설계하고, ‘사심’ 없이 옳은 길을 안내하는 온정주의적 인공지능이라니. 머리를 조아리며 예를 올려야 마땅하겠지만, 사실 이는 대단히 위험한 원칙이다. 이제 인류 대의를 위해서라면 로봇은 개별 인간에게 해를 끼치거나, 인간의 명령을 거부하거나, 스스로를 파괴할 수 있게 된 것이다. ‘인류의 광범위한 이해’가 무엇인지를 과연 누가 판단한다는 말인가.
로봇공학 3원칙은 현실의 기술 발전과 함께 허구의 세계를 벗어나고 있다. 아시모프의 기대와 달리 인공지능을 장착한 만능 도우미나 휴머노이드 로봇은 아직 보편화되지 못했지만, 로봇 청소기부터 자율주행차, 군사용 드론과 폭탄 처리 로봇에 이르기까지 이미 많은 현장에서 인류와 로봇은 공존하고 있다. 그리고 이러한 기술의 개발과 생산, 사용에서 여러 가지 윤리적 딜레마들이 제기되면서 ‘로봇 윤리’에 대한 논의들도 잇따르는 중이다. 이를테면 한국 산업통상자원부는 2007년에 세계 최초로 ‘로봇 윤리 헌장’ 초안을 마련했는데, 당시 외신 인터뷰에 의하면 이를 준비한 전문가들은 아시모프의 로봇공학 3원칙을 참고했다고 밝혔다.
로봇 청소기처럼 윤리적 딜레마를 일으키지 않는 단순한 제품도 있지만, 자율주행차처럼 돌발 상황에서 최선의 안전에 대해 ‘판단’하는 알고리즘을 탑재하거나, 아예 ‘자율살상무기(LAW·lethal autonomous weapons)’처럼 인명 살상을 목표로 하는 제품들에는 상당한 논쟁이 뒤따른다. 흔히 ‘킬러 로봇’이라 불리는 LAW는 미리 프로그래밍된 제약과 지시를 바탕으로, 독립적으로 목표물을 수색하고 적군과 교전할 수 있도록 고안된 기기 혹은 시스템을 지칭한다. 지뢰처럼 특정 상황에서 자동으로 작동하거나, 드론처럼 원격 조작을 통해 작동하는 것은 ‘자율’이라 말하지 않는다. 일단 활성화되고 나면 인간에 의한 추가 지시나 개입 없이 스스로 표적을 선택하고 교전할 능력을 갖는다는 점이 ‘자율’의 핵심이다. 로봇이 인간에게 해를 끼쳐서는 안 된다는 로봇공학 제1원칙이나 인간의 명령에 복종해야 한다는 제2원칙은 여기에 맞지 않는다. 보다 어려운 문제도 있다. 스스로 표적을 선택한다지만, 예컨대 도심 시가전 상황에서 전투원과 민간인을 어떻게 구분할 것인가. 만일 잘못된 판단으로 적군이 아닌 사람을 사살했다면 그 책임은 누구에게 있는가. 킬러 로봇인가, 로봇이 속한 부대의 지휘관인가, 아니면 그러한 시스템을 개발한 사람인가.
게다가 이런 전투 로봇은 전쟁을 점차 비현실적인 것으로 만들고 있다. 인명 피해를 줄이기 위해 개발되었다지만 그건 어디까지나 기술적으로 우월한 아군의 인명에 국한된다. 현실에서는 기계와 기계가 맞붙어 인간 대신 ‘안전한’ 대리전을 치르는 것이 아니라, 기술이 우세한 진영의 기계가 그렇지 못한 진영의 인간을 대상으로 전투를 치른다. 인명을 살상한다는 죄책감을 느낄 겨를조차 사라진다. 물론 제2차 세계대전 이전 시대처럼 참호를 만들고 직접 총과 칼을 겨누며 육탄전을 벌이는 전투가 ‘인간적’이었다고 말하려는 것은 아니다. 다만 적대하는 이들 사이의 물리적·심리적 거리가 멀어질수록, 살육과 고통이 벌어지는 현장과 이를 초래하는 행위가 분리될수록 이해나 공감, 평화적 해결의 가능성은 멀어질 수밖에 없다.
미국의 역사학자 하워드 진은 2차 세계대전 당시 군복무에 자원해 공군 포격병으로 근무했다. 파시즘을 물리쳐야 한다는 정의감으로 성실하게 임무를 수행했고, 종전이 임박한 1945년 4월에도 프랑스 해안도시 로얀에 출격하여 여느 때처럼 네이팜탄을 투하했다. 전쟁이 끝나고 10여 년이 지났을 무렵, 그는 우연히 당시 피해자들의 증언을 듣고 자료수집에 나선다. 그렇게 알게 된 사실은 자신이 출정했던 바로 그 공중폭격 작전 때문에 그곳에 살던 1000명 이상의 프랑스 민간인, 그리고 전쟁이 끝나기만을 기다리며 근처에 숨어 있던 독일군이 다수 사망했다는 것이다. 높은 상공에서 충실하게 작전을 수행하던 하급 장교로서는 미처 생각지 못한 일이었다. 그가 베트남 전쟁과 이라크 전쟁을 반대하며 평화운동에 헌신한 것은 이러한 개인적 각성 경험과 관련이 있다.
사람들을 갈라놓는 가장 강력한 무기
넷플릭스 ‘블랙 미러’ 시리즈의 〈보이지 않는 사람들〉은 공감을 차단하는 적극적 기술을 보여준다. 마을에 침입해 병원체를 퍼뜨리고 생필품을 훔쳐가는 돌연변이(극 중에서 바퀴벌레라고 불린다)들을 소탕하는 작전에 군인들이 투입된다. 이들이 현장에서 마주친 적들은 흡사 좀비를 연상시키는 기괴한 몰골이고, 군인들은 엄청난 공포 속에서 닥치는 대로 이들을 사살한다. 어느 날 주인공에게 삽입된 신경 임플란트가 문제를 일으키면서 시각적 왜곡에서 풀려난다. 그는 자신이 학살하던 존재가 자신과 같은 ‘사람’이자 삶의 터전을 빼앗긴 평범한 주민들이라는 사실을 알게 된다. 이제 그는 더 이상 예전과 같은 행동을 저지를 수 없다. 조 홀드먼의 과학소설 중 국내에 미출간된 작품 〈영원한 평화(Forever Peace)〉는 조금 다른 방식으로 접근한다. 이 소설에서 요원들은 원격으로 조종하는 ‘솔저보이(soldierboy)’를 이용해 적군과 전투를 벌인다. 이때 원격조종은 손발로 조종기판을 움직이는 것이 아니라 뇌에 직접 잭을 연결하는 방식이다. 시스템에 연결되어 함께 작전을 수행하는 부대원들 사이에는 보고 듣는 것, 감정까지도 모두 공유된다. 한 사람이 부상당하거나 사망하면 남은 부대원들에게도 마치 자신이 직접 경험한 것처럼 충격이 그대로 전해진다. 자신의 의지와 무관하게 징집되어 전투를 이어가던 어느 날, 주인공은 우연히 적군과 신경 접속이 이루어지고 그의 고통과 감정을 고스란히 겪는다. 이 경험이 다른 부대원에게도 점차 퍼져나가고, ‘그들’이 ‘우리’와 같은 존재라는 것을 모두가 깨닫게 되면서 더 이상 전쟁이 불가능하게 되었다.
사실 타인의 고통에 공감할 수 있는 기회를 차단하는 데 신경 임플란트 같은 첨단기술이 있어야만 하는 것은 아니다. 어릴 적에 본 반공 만화영화 〈똘이장군〉에서 북한 사람은 사납게 생긴 돼지나 음흉한 늑대로 그려졌다. 당연히 물리쳐 없애야 할 대상이었다. 오늘날 이스라엘은 마당에서 뛰어노는 어린이도, 가자지구 병원에서 환자를 진료하는 의사도, 현장을 취재하는 기자도, 심지어 구호품을 전달하는 유엔 직원도 모두 하마스라고 말한다. 병원도 대학도 도서관도 모두 하마스의 위장 기지다. 그러니 이들을 사살하고 폭파해도 괜찮다고 정당화한다. ‘타자화’와 혐오는 사람들을 갈라놓는 가장 강력한 무기다.
하지만 인간은 신경 접속 장치 없이도 그러한 장벽을 뛰어넘을 수 있는 존재이기도 하다. 예컨대 눈먼 아버지를 위해 인당수에 뛰어들어본 경험이 없는 사람도, 거친 파도에 흔들리는 뱃머리에 올라 최후의 결단을 앞둔 무대 위 심청과 하나 되어 눈물 흘리는 일은 얼마든지 가능하다. 직접 그 사람이 되어보고, 직접 그 상황을 경험해야만 타자를 이해할 수 있는 것은 아니다. 우리에게 필요한 것은 인간 존재의 ‘보편성’을 이해하는 너른 사회적 인식, 그리고 우리의 생각이 틀릴 수 있음을 잊지 않는 겸손한 지성이 아닐까.
김명희 (노동건강연대 운영위원장·예방의학 전문의) editor@sisain.co.kr
▶좋은 뉴스는 독자가 만듭니다 [시사IN 후원]
©시사IN, 무단전재 및 재배포 금지
Copyright © 시사IN. 무단전재 및 재배포 금지.