김민석 총리 "인간적 AI 위한 '오마이 휴메인 포럼' 만들자"

[글로벌 오마이포럼 2026] 기조 연설자 토론... 주한 덴마크 대사 "AI, 민주주의 약화하는 블랙박스 돼선 안 돼"

[김시연, 남소연, 유성호 기자]

▲ AI시대 인간다움과 민주주의의 미래 논하는 김민석 국무총리 김민석 국무총리가 20일 서울 중구 대한상공회의소 국제회의장에서 열린 오마이포럼 'AI 권력의 시대 : 인간다움과 민주주의의 미래' 종합토론에서 오연호 오마이뉴스 대표의 질문에 답하고 있다. ⓒ 남소연

김민석 국무총리가 '인간적인 AI'를 만들기 위한 '오마이 휴메인 AI 포럼'을 만들자고 제안했다. <오마이뉴스>와 트리스탄 대표 회사 이름(Center for Humane Technology)을 딴 것이다.

김 총리는 20일 오전 서울 중구 세종로 대한상공회의소 국제회의장에서 열린 <오마이뉴스> 창간 26주년 오마이포럼에서 "'오, 나의 인간적인 AI 포럼'이 될 것 같은데, 그 뜻은 지혜롭고 선하고 인류에 기여하는 AI를 세팅하는 노력을 한다는 것과 앞으로 만들 대한민국 민관 거버넌스의 한 축을 하면 좋겠다는 것"이라고 말했다.

김민석 총리 "지혜롭고 선하고 인류에 기여하는 AI 만들어야"

▲ 김대식 한국과학기술원(KAIST) 교수와 김민석 국무총리, 트리스탄 해리스 인간 중심 기술센터 대표, 오연호 <오마이뉴스> 대표가 20일 오전 서울 중구 대한상공회의소 국제회의장에서 열린 <오마이뉴스> 창간 26주년 기념 글로벌 오마이포럼 2026 'AI 권력의 시대 - 인간다움과 민주주의의 미래'에서 '새로운 종의 탄생? AI 제국주의는 부활하는가' 주제로 대화를 나누고 있다. ⓒ 유성호

'AI 권력의 시대 : 인간다움과 민주주의의 미래'란 주제로 열린 오마이포럼 기조연설자들과 오연호 <오마이뉴스> 대표가 마주한 4자 토론은 중앙 권력화된 '디스토피아'나 탈권력화에 따른 '카오스(혼돈)'가 양립하는 AI의 미래를 바꿀 대안을 함께 모색하는 자리였다.

앞서 트리스탄 해리스 인간중심기술센터 대표는 기조 연설에서 "중앙화된 AI로 인한 '디스토피아'의 길과 카오스의 길 양쪽 모두 부정적인 결과를 초래한다"고 우려했고, 김대식 카이스트(KAIST) 교수도 강대국과 빅테크 기업이 단합한 'AI 제국주의' 등장이 민주주의를 위협할 거라고 경고했다.

김대식 교수는 "(두 개의 길에서) 인공지능에 대해 선택해야 하는 사람들의 기억에 소셜네트워크(SNS)가 있다"면서 "(SNS 때문에) 지난 20년 동안 인간은 현명하지 않은 선택을 하는 쪽으로 훈련이 돼 있는 상태에서 하필 AI가 현실이 됐다는 게 인류 역사의 큰 비극"이라고 지적했다.

트리스탄 해리스 대표는 "김 교수 말대로 AI가 노동이나 인간을 대체하고 인간은 중독적인 하이퍼미디어로 과부하되는 게 이미 기본값으로 정해졌을 수도 있지만, 우리가 AI가 노동을 완전히 대체하길 원하지 않는다면 다른 길을 가고 싶다고 결정해야 한다"면서 "전 세계적인 움직임이 필요하고 수십 억 명이 다른 길을 가고 싶다고 선언해야 한다"고 강조했다.

그는 "덴마크, 스페인, 호주 등도 학교에서 SNS를 금지했는데 이게 인류가 할 공동 행동이다"라면서 "우리가 기술을 반대하는 게 아니라 기술이 만드는 악영향을 반대하는 것"이라고 덧붙였다.

▲ 오마이포럼 참석한 트리스탄 해리스 '실리콘밸리의 양심'이라고 불리는 트리스탄 해리스(Tristan Harris) 인간중심기술센터(Center for Humane Technology) 공동 창립자이자 대표가 20일 서울 중구 대한상공회의소 국제회의장에서 열린 오마이포럼 'AI 권력의 시대 : 인간다움과 민주주의의 미래' 종합토론에서 오연호 오마이뉴스 대표의 질문에 답하고 있다. 왼쪽 뒷모습은 김민석 국무총리. ⓒ 남소연

미카엘 헴니티 빈터 주한 덴마크 대사도 이날 "덴마크도 AI를 낙관적으로 보면서도 상식에 기반해 접근하고 있다"면서 "기술은 사람을 돕는 것이지 혼란스럽게 하거나 압도해선 안 된다"고 말했다. 그는 "AI 통제권은 사람에게 있어야 한다, AI가 의사 결정을 지원한다면 인간이 그 결정을 이해하고 이의를 제기할 수 있어야 한다"면서 "민주주의는 개방성과 투명성에 기반하기 때문에 AI가 신뢰를 약화시키는 블랙박스가 돼선 안 된다"고 강조했다.

김대식 교수는 "현재 AI는 학습 기반 인공지능이고 지금도 계속 학습하고 있다"면서 "인간의 가치와 잘 어울리는 '휴메인(인간적인) AI'를 만들려면 여러분이 앞으로 착한 데이터를 많이 만들면 된다. 나쁜 댓글보다 좋은 댓글, 남에 대한 나쁜 얘기보다 좋은 얘기, AI에게 항상 존댓말만 쓰는 게 좋다, 여러분의 데이터가 미래 AI의 성격을 좌우한다는 사명감을 갖고 살면 된다"고 밝혔다.