[해외 칼럼] AI 시대 위한 격언… 기술이 우리를 더 인간답게 만든다

5월 21~22일 서울에서 한국과 영국 정부의 공동 개최로 ‘AI(인공지능) 서울 정상회의’가 열렸다. 구글, 네이버, 오픈AI 등 AI 분야를 주도하는 글로벌 빅테크(대형 정보기술 기업)는 21일 화상 회의에서 안전한 AI 사용과 개발에 대한 ‘프런티어 AI 안전 서약’에 참여했다. 서약에 참여한 빅테크 임원은 에릭 슈밋 슈밋재단 설립자, 데비스 허사비스 구글 딥마인드 회장을 포함해 이재용 삼성전자 회장, 이해진 네이버 창업자, 안나 마칸주 오픈AI 부사장, 일론 머스크 xAI 설립자, 브래드 스미스 마이크로소프트(MS) 사장 등이었다. 서약의 주요 내용은 기업이 위험을 충분히 완화할 수 없는 경우 AI 모델을 개발하거나 배포하지 않겠다는 것으로, 기업은 AI가 초래할 위험을 적정한 범위 내에서 관리하기 위해 노력하기로 했다. 내·외부 레드팀을 통한 AI 모델에 대한 위협을 평가하고 사이버 보안과 내부 위협 방지를 위한 투자, 제삼자를 통한 문제점 점검과 보고 장려, AI 생성 콘텐츠를 식별하는 메커니즘 개발 등도 서약 내용에 담겼다. 필자는 “AI는 인간의 삶과 업무를 크게 개선하고 있고 앞으로도 그럴 것이지만, 위험을 탐색하는 것 또한 매우 중요하다”면서 “이러한 약속은 첨단 AI의 가장 심각한 위험을 관리하는 데 있어 매우 중요한 진전”이라고 했다. 이번 칼럼은 2024년 5월 필자의 페루자대 연설을 각색한 것이다.

윤석열 대통령이 5월 21일 청와대 영빈관에서 화상으로 참석한 ‘AI 서울 정상회의’에서 마이크로소프트(MS)브래드 스미스 사장의 발언을 듣고 있다. /연합뉴스

리드 호프먼 링크드인 창업자스탠퍼드대 심볼릭시스템스, 옥스퍼드대 철학 석사, 전 링크드인 최고경영자(CEO), 오픈AI 공동 설립

기술에 대한 논쟁은 점점 더 극명한 이분법으로 요약된다. ‘AI를 축소해야 한다, 아니면 가속화해야 한다.’ 정설과 반론만 있을 뿐 통합된 명제는 없다. 우리는 어느 한 편을 선택하기보다는 인류애에 초점을 맞출 수 있는 대안적인 외침을 고려해야 한다. 여섯 가지 격언을 제안하고 싶다.

방법을 찾거나 만들어야 한다

첫 번째 격언, ‘방법을 찾거나 만들어야 한다’는 카르타고 장군 한니발의 명언이다. AI는 아직 초기 단계에 머물러 있다. 지금 나오는 성과는 잠재력의 표면을 겨우 긁어낸 것에 불과하다. AI는 이전에는 볼 수 없었던 길을 찾을 수 있도록 도와주고, 인간의 창의력을 통해 새로운 길을 만들 수 있도록 돕는다. ① 챗GPT, 코파일럿(Copilot) 등의 도구는사람에 의한, 사람에 대한 자료로 학습된다. 이것들은 우리를 대체하기는커녕, 우리를 확장한다. 이전에는 알 수 없었던 통찰의 실타래를 발견하거나 부엌에 있는 재료를 하나로 묶은 실을 발견했다고 상상해 보라. 인류의 창조물과 과거의 공헌이 방대한 자료가 확장되는 태피스트리처럼 우리 앞에 놓여 있고, 이제 우리는 이전에 어떤 세대보다 더 많은 것을 할 수 있는 도구를 갖게 됐다.

우리는 기호이며, 기호 속에 살고 있다

두 번째 격언, ‘우리는 기호이며, 기호 속에 살고 있다’는 것이다. 랠프 월도 에머슨은 세상을 이해하고, 설명하고, 형성하기 위한 우리의 언어 사용을 이렇게 설명했다. 인간은 항상 도구에 의존해 왔으며, 바로 그 도구가 상징이다. 상징은 이전에는 존재하지 않았고 자연적으로 발생하지 않는 것을 창조할 수 있게 해준다. 독수리의 머리와 날개, 사자의 몸을 한 그리핀을 생각해 보라. 그리핀은 우리가 세상에서 보고 싶은 현실을 반영한 인간의 창조물이다. 인간은 인간만의 독특한 이유로 그리핀을 만들었다. AI도 다르지 않다.

사실, 메리 셸리의 ‘프랑켄슈타인’에 등장하는 괴물부터 제임스 캐머런의 ‘터미네이터’에 등장하는 킬러 사이보그까지, 상상력을 자극하는 창작물에는 경계심을 불러일으키는 의미가 있다. 우리는 ‘새로운 것’을 처음 접할 때 두려움을 느낀다. 그리핀은 두려움을 장엄한 가능성으로 바꿀 수 있음을 상기시켜 준다. 궁극적으로 인간은 상징, 문화, 환경, 결정의 창조자이자 그 산물이다. AI와 함께 우리는 더 많은 그리핀을 만들 수 있다.

대성당을 짓는 것

세 번째 격언, ‘대성당을 짓는 것’이다. 이는 우리의 노력을 고귀하게 만들고 단순한 인류 집단을 친교 커뮤니티로 바꿔준다.

실제 성당은 인류의 경외심을 불러일으키는 창조물 중 하나다. 아폴로 달 착륙 같은 미션을 ‘성당 프로젝트’라고 부르는 이유다. 이러한 프로젝트에는 지역, 분야, 때로는 여러 세대가 함께 협력하는 많은 손길이 필요하다. 작가이자 비행가인 앙투안 드 생텍쥐페리는 “성당은 돌로 지어지고, 돌로 이루어져 있지만, 성당은 돌 하나하나를 고귀하게 만들어 성당 돌이 된다”고 썼다. 과학적 발견과 기술혁신은 인류 발전이라는 대성당의 돌이다.

이제는 AI 이야기가 비슷한 패턴을 따른다. 많은 사람이 챗GPT 같은 최근의 상용 애플리케이션을 통해 AI를 알고 있지만, 여기 오기까지는 여러 세대에 걸친 혁신가와 발명이 필요했다. 우리는 방향성을 제시하기 위해 협력과 건전한 경쟁을 통해 탄생한 거대한 프로젝트가 필요하다. 우리가 성당을 설계 건축하는 방식은 우리가 어떤 사람이 되고 싶은지를 말해준다.

작은 위험을 감수해야 한다

네 번째 격언, ‘큰 위험을 헤쳐 나갈 희망을 위해서는 작은 위험을 감수해야 한다’는 것이다. 실패를 가져올 수 있는 도전은 반복, 성찰, 토론, 지속적인 개선의 기회를 창출하기 때문에 환영해야 한다.

② 경제학자 하이먼 민스키의 금융 위기에 대한 훌륭한 통찰력을 떠올려보라. 그는 ‘안정성’이 그 자체로 불안정성을 야기할 수 있다는 점을 간파했다. 금융 시스템에 안전장치가 너무 많으면 더 취약해질 수 있으며, 안전해 보이는 것은 그 시스템이 무너질 때 아무도 대비하지 못한다는 것을 의미한다.

AI 규제에도 동일한 교훈이 적용된다. 우리는 혁신을 장려해야 할 뿐만 아니라 작은 위험을 감수하는 실험 자체가 위험 완화 메커니즘이라는 점을 인식해야 한다. 궁극적으로 이러한 기술이 널리 보급돼 더 많은 사람이 기술을 시도하고 생활에 통합할 수 있을 때, 더 나은 규제가 마련될 것이다.

기술이 인간성을 증진한다

다섯 번째 격언, ‘기술이 우리를 인간답게 만든다’는 것이다. AI가 인류의 논제와 정반대되는 개념이라고 생각하면 반은 인간, 반은 기계인 사이보그의 미래를 예상할 수 있지만 실제로는 그렇지 않다. 정설과 반대의 조합은 조잡한 ③ ‘매시업(mashup)’이 아니라 새로운 정설로 이어진다. 이 둘은 함께 진화하고 그 결과 더 나은 인간이 탄생하는 것이다. AI는 우리가 더 인간적으로 행동하는 데 도움이 될 수 있다. 대화형 AI 모델과 챗봇이 얼마나 반응이 빠르고, 현재에 충실하며, 인내심을 가질 수 있는지 생각해 보라. 이러한 리소스를 쉽게 이용할 수 있게 된다면 많은 사람의 친절함과 공감 능력이 향상될 것이다. 이러한 차원의 AI 잠재력이 아직 충분히 평가되지 않았다고 본다.

현재보다 더 나은 미래 만들 의무 있다

여섯 번째이자 마지막 격언, ‘우리에게는 현재보다 더 나은 미래를 만들어야 할 의무가 있다’는 것이다. 모든 사람의 주머니 속에개인화된 디지털 의사나 튜터(개인 교사)가 있다고 상상해 보라. 그런 일이 더 빨리 일어나지 않고 나중에 일어난다면 어떤 대가를 치를까. 삶을 개선할 수 있는 독보적인 힘을 가진 기술에서 속도는 미덕이다.

모두가 유망한 합성이 어떤 모습일지 스스로에게 물어봐야 한다. AI 기반 연구를 통해 새로운 치료법을 발견하고 핵융합의 힘을 제때 활용하여 기후변화로 인한 최악의 결과를 피할 수 있는 인류 번영의 새 시대를 열 수 있다면 어떨까.

미지의 어둠을 들여다보고 잘못될 수 있는 모든 것을 고려하는 것은 당연한 일이다. 하지만 무엇이 옳을 수 있는지에 대해서도 고려하는 것은 필수적이며, 더 본질적으로는 인간적인 일이다.

① 챗GPT: 오픈AI에서 개발한 GPT-3.5와 GPT-4를 기반으로 하는 대화형 AI 서비스다. 채팅하듯이 챗봇에 질문을 입력하는 것만으로 AI를 이용할 수 있다.코파일럿(Copilot): 코파일럿은 마이크로소프트의 대화형 AI다. 기존에는 빙(Bing) 채팅 등으로 불렸다. Bing에서 검색한 최신 정보를 이용해 답변해 준다.

② 하이먼 민스키(Hyman Minsky·1919~96년)는 미국의 경제학자로, 잠재적으로 취약한 금융 시스템의 변동에 기인한 금융 위기의 특성에 대한 연구 업적을 남겼다.

금융시장에서 채무가 과도하게 축적되는 것에 반대했다. 경제의 정상적인 수명 주기에서 금융시장의 취약성, 금융시장에 내재적인 투기적 투자 거품을 연결하는 이론을 제안했다.

③ 웹으로 제공되는 정보와 서비스를 융합하여 새로운 소프트웨어나 서비스, 데이터베이스 등을 만드는 웹 개발 방식을 의미한다. 음악에서는 두 개 이상의 노래 중 하나는 음성, 다른 하나는 반주로만 구성해 원래 있던 노래처럼 믹스하는 음악 수법이다.