“AI 시대 ‘인간 중심’의 국제 협력 필요”
세계 석학들, 인간의 가치와 윤리 넘어서면 안 돼
변화의 물결에도 기술의 방향은 사람이 결정해야
제주국제자유도시개발센터(JDC)는 지난달 24~26일 열린 제21회 제주포럼에서 국제무대에서 활동할 제주 청소년들에게 글로벌 소통과 교육의 장을 마련했다.
이 기사는 제주포럼 청소년 기자단(UNlock Jeju)이자 세인트존스베리아카데미 제주에 재학 중인 고현준(8학년), 김동현(9학년), 박정현(10학년) 학생이 작성했다. 【편집자 주】
제21회 제주포럼에서 세계 각국의 전문가들은 인공지능(AI)이 가져올 변화와 위협, 그리고 AI 시대에서 인류가 나아가야 할 방향을 제시했다.
지난달 25일 제주해비치호텔에서 열린 '인공지능-사이버 넥서스: 인류의 공동 과제와 대응 전략' 세션에서 최성주 고려대 정보보호대학원 특임교수는 "어떤 기술이든 인간이 그 중심이어야 한다. AI의 효율적인 활용도 중요하지만 기술이 인간의 가치와 윤리를 넘어서는 순간 그 의미를 잃게 된다"고 경고했다.
게오르크 슈미트 주한 독일 대사는 AI가 국제적 위협을 초래할 수 있는 핵무기에 비유하며 "더 이상 기다릴 시간이 없다"면서 "AI로 인한 위험(AI의 인류 지배)이 현실화되기 전에 국제사회가 규범을 마련하고 공동대응 방안을 구축해야 한다"고 촉구했다.
웡카이쥔 주한 싱가포르 대사도 "정부와 행정시스템의 디지털 전환이 가속화되면서 AI를 악용한 사이버 공격도 함께 늘어나고 있다"면서 "싱가포르는 아시아 국가들과 협력해 사이버 보안훈련과 정보 공유 체계를 강화하고 있다"고 소개했다.
윤종권 외교부 국제사이버협력대사는 "AI 시대의 사이버 공격이 개인과 기업은 물론 국가에도 큰 피해를 줄 수 있다"며 "이러한 문제는 한 국가만의 노력으로 해결할 수 없다"며 국제 협력의 필요성을 강조했다.
지난달 26일 열린 '개인정보보호 규제와 글로벌 협력' 세션에서는 AI 발전과 데이터 활용 증가에 따라 개인정보 보호와 혁신 사이에서 어떻게 균형을 찾을지에 대한 논의가 이뤄졌다.
전문가들은 데이터가 국경을 넘어 이동하는 시대에는 국제 협력이 필수적이며, 신뢰할 수 있는 AI 생태계를 만들기 위해 공동의 기준과 규범이 필요하다고 입을 모았다.
또한 AI가 사회 발전에 큰 도움을 줄 수 있는 기술인만큼 안전과 책임, 신뢰 역시 함께 논의돼야 한다고 한 목소리를 냈다.
■ AI 시대에도 대체되지 않을 인간의 역할
AI는 우리 생활 곳곳에서 사용되고 있다. 학생들의 숙제를 도와주고, 병원에서 의사의 진료를 돕기도 한다.
하지만, AI가 진화할수록 중요한 의문이 생긴다. "과연 AI를 안전하고 책임감 있게 사용할 수 있을까?"
제주포럼에서는 세계의 석학들이 답을 내놓았다.
타니아 사바 캐나다 몬트리올대 교수는 "캐나다는 AI 연구에서는 세계 최고 수준이지만, 실제로 AI를 사용하는 정도는 분야마다 큰 차이가 있다"며 "많은 AI 프로젝트는 기술이 부족해서가 아니라, 누가 책임을 지는지 명확하지 않아서 실패를 하고 있다"고 설명했다.
그러면서 "AI는 사람의 일을 바꾸고 새로운 직업을 만들기 때문에 평생 배우고 새로운 기술을 익히는 것이 점점 더 중요해지고 있다"며 "무엇보다 AI는 항상 인간의 중심으로 만들어져야 하며, 정부와 기업, 연구자, 시민들이 함께 규칙을 만들어야 한다"고 주문했다.
그의 결론은 "AI의 성공은 뛰어난 기술만으로 이루어지지 않는다"며 신기술보다 인간의 우선이라고 강조했다.
로베르토 지카리 독일 괴테 프랑크푸르트대 교수는 "AI를 믿고 사용하려면 충분한 검증이 필요하다"고 조언했다.
예를 들어, 의료분야에서 AI가 내리는 진단에는 반드시 근거가 있어야 한다 했다. 피부암을 진단하는 AI라면 실제 환자를 대상으로 한 연구와 시험을 거쳐 정확성을 확인해야 한다는 것이다.
그는 "AI가 의사를 대신하는 것이 아니라 더 나은 결정을 내릴 수 있도록 도와주는 도구가 돼야 한다"며 AI를 개발하는 과정에서 기술 전문가뿐 아니라 의사, 법조인, 윤리 전문가 등 여러 사람이 함께 참여해야 이유를 설명했다.
제프리 림 싱가포르 정보통신미디어개발원 매니저는 "에이전트 AI는 사람이 하나하나 지시하지 않아도 스스로 계획을 세우고 여러 일을 처리할 수 있다. 하지만 이런 AI는 예상하지 못한 행동을 하거나 실수를 할 가능성도 있다"고 경고했다.
그러면서 "AI가 어떤 일을 할 수 있는지 미리 정하고, 중요한 결정은 반드시 사람이 확인해야 한다. AI를 세상에 내놓기 전에는 충분히 시험하고, 사용한 뒤에도 계속 살펴보는 과정이 꼭 필요하다"고 강조했다.
토론을 마무리하며 전문가들은 한 가지 공통된 의견을 내놓았다. AI가 아무리 발전하더라도 마지막 결정은 사람이 내려야 한다는 것, 또 기술은 계속 발전하지만 AI를 안전하고 올바르게 사용하는 책임은 결국 사람에게 있다는 것이다.
■ AI가 만들어 갈 새로운 문화·관광의 미래
지난 24일 열린 'AI와 디지털 혁신 시대의 문화·관광 협력' 세션에서는 AI가 단순한 첨단기술을 넘어 우리의 문화와 일상, 미래 사회를 변화시키는 중요한 도구라는 점이 제시됐다.
AI는 과제를 돕거나 정보를 찾는 편리한 기술뿐만 아니라 문화와 관광, 교육 등 다양한 분야에서 AI가 사람들의 경험을 더욱 풍부하게 만들 수 있다는 사례가 제시됐다.
예를 들어 AI는 관광객의 관심사에 맞는 여행을 추천하거나, 가상현실(VR)과 증강현실(AR), 생성형 AI 등을 활용해 문화유산을 더욱 생생하게 체험하도록 도왔다.
기술은 단순히 시간을 절약하거나 효율성을 높이는 데 그치지 않았다.
문화를 더 깊이 이해하고 새로운 방식으로 경험할 수 있도록 돕는 역할도 했다. AI가 문화와 관광을 결합해 새로운 가치를 창출하고, 지역의 특색을 더욱 효과적으로 알릴 수 있어서다.
특히, 디지털기술이 발전할수록 관광산업도 기존의 획일적인 여행이 아닌 연령, 동행자, 선호도에 부응하는 맞춤형 코스와 숨겨진 명소를 제공한다.
AI 시대에는 단순히 지식을 암기하는 능력보다 창의적으로 사고하고, 다양한 사람들과 협력하며, 기술을 올바르게 활용할 수 있는 역량이 더욱 중요해졌다.
AI가 많은 일을 대신하더라도 인간만이 할 수 있는 가치 판단과 공감 능력, 그리고 창의성이 더욱 중요한 경쟁력으로 떠올랐다.
제주포럼에서는 AI는 다양한 산업에서 더욱 큰 역할을 하겠지만, 기술의 발전만큼 인간 중심의 가치와 책임 있는 활용에 대한 고민도 함께 이루어져야 한다고 제시했다. 기술과 사람이 조화를 이루며 함께 발전할 때 AI는 우리 사회에 더 긍정적인 변화를 가져올 수 있기 때문이다.
[고현준·김동현·박정현 기자]
