AI가 내놓는 유해한 답변 없애려면?…UN과 글로벌 빅테크 서울서 해법 논의

국내·외 개인정보 감독기관들과 빅테크 기업들이 오늘(23일) 서울에 모여 AI에 활용되는 데이터 규범에 대해 논의했습니다.

개인정보보호위원회는 오늘(23일) 서울 중구 더 플라자 호텔에서 ‘인공지능과 데이터 거버넌스 국제 컨퍼런스’를 개최했다고 밝혔습니다.

컨퍼런스에는 아만딥 싱 유엔 기술특사를 비롯해 국내외 AI 관련 전문가와 업계 인사 등이 참석했습니다.

고학수 개인정보보호위원회 위원장은 “개별 국가마다 AI를 안전하게 활용하기 위한 정책을 만들고 있는데, 파편화된 규범이 만들어지면 인공지능 기술의 혁신을 도모하는데 있어서 효과적이지 않을 가능성이 높다”라며 “국제사회가 보다 긴밀히 소통해야 하고 유연한 사고에 기반한 논의 과정을 통해 인류 전체가 함께 번영을 누릴 수 있는 방향으로 AI 거버넌스 체계를 마련해야 한다”라고 밝혔습니다.

아만딥 싱 유엔 기술특사는 “데이터와 AI 거버넌스는 밀접히 연결돼 있다”며 “데이터는 AI 시스템에 투입되는 핵심 원천이고 AI 모델이나 결과만 보아서는 AI 리스크에 적절히 대응할 수 없기 때문”이라고 말했습니다. 또 “편향되고 오도하는 추론, 비인간적인 표현 등은 모두 적절하지 않은 데이터 거버넌스에서 기인한다며 ”데이터를 잘 관리하고 잠재력을 이끌어 내는 것이 ‘AI 거버넌스’에 있어 중요한 부분이라고 본다“고 덧붙였습니다.

이 컨퍼런스에는 오픈AI, 구글, 메타, 네이버, 업스테이지 등 AI 개발을 주도하고 있는 주요 기업 임원들도 참여해 인공지능을 개발할 때 생기는 데이터 관련 고충과 데이터 규범이 나아가야 할 방향 등을 논의했습니다.

국내 AI 스타트업 업스테이지 김성훈 대표는 ”LLM을 개발 할 때 자료를 잘 구해야 하는데 양질의 데이터를 구하려면 비용이 너무 높아 거의 살 수 없는 상황“이라고 고충을 이야기 했습니다.

애슬리 판툴리아노 오픈AI 법률고문은 ”AI 모델을 개발하는 단계에서 데이터에 있는 유해한 콘텐츠를 최대한 제거하려고 한다“라며 ”모델이 학습한 뒤에도 결과에서 유해 콘텐츠가 나오지 않는 것도 중요하기 때문에 저희는 레드팀을 구축해서 검증하고 있다“라고 설명했습니다.

유니스 훵 구글 아태지역 인공지능·신흥기술 부서장은 ”엔진은 여러 분야에 응용돼서 쓰일 수 있는데, 엔진 자체를 규제하면 엔진 배기량이 작아지고, 대형 장비를 구동할 수 있는 엔진을 만들 수 없다“라며 ”AI 기술에 대한 규제가 아닌 그것이 응용되는 분야, 애플리케이션에서의 규제여야 할 것“이라고 강조했습니다.

이어 AI가 데이터를 학습할 때 모든 개인정보를 제외하는 건 현실적으로 가능하지 않다며 결과값에 대한 필터링을 해서 개인정보가 나오지 않도록 해야한다고도 덧붙였습니다.

AI가 발전함에 따라 나오는 부작용 중 하나인 가짜뉴스 증가와 손쉬운 유포에 대한 대책으로는 유니스 구글 부서장은 ”가짜뉴스는 예전에도 존재했지만, 생성형 AI 때문에 생성 비용이 줄어 손쉽게 만들 수 있는 상황“이라며 ”업계에서도 공통 표준을 마련해 워터마킹을 할 것이다“라고 했습니다.

김성훈 업스테이지 대표는 ”신문을 여러개 구독해서 비교하는 것처럼 다양한 LLM을 사용해 더블 체크하는 게 도움이 될 것이라고 생각한다“고 밝혔습니다.

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

신지수 기자 (js@kbs.co.kr)