MS 부회장 “AI 남용 가능성 대비한 보호 장치 중요”

브래드 스미스 마이크로소프트 부회장이 18일 오후 서울 여의도 국회에서 ‘AI의 현재와 미래, 그리고 우리‘ 주제로 강연을 하기 위해 김진표 국회의장과 입장하고 있다. 2023.04.18. 뉴시스

“인공지능(AI) 등 신기술의 남용 가능성을 대비한 보호 장치 마련이 중요하다.”

브래드 스미스 마이크로소프트(MS) 부회장이 18일 한국을 찾아 김진표 국회의장과 면담하며 이같이 강조했다. MS는 미국 챗GPT를 개발한 오픈AI의 대규모 언어모델(LLM) ‘GPT-4’를 적용한 대화형 검색 서비스 ‘빙’을 운영하고 있다.

스미스 부회장은 면담 직후 ‘AI의 현재와 미래’라는 주제로 국회에서 강연을 진행하며 기술 발전에 따른 부작용을 최소화하기 위한 조치가 필요하다고 강조했다. 그는 “기술 혁신으로 빠르게 앞으로 나아갈 때 적절한 안전장치도 필요하다”며 “기업과 정부에서 바로 이런 것을 개발해야 한다”고 말했다.

MS의 검색 서비스에 오픈AI의 기술을 접목하면서 고려했던 고민도 공유했다. 스미스 부회장은 “MS는 이른바 ‘레드팀(내부에서 반대 입장을 내는 역할)’을 구성해 (AI와 관련해) 어떤 위험과 유해성이 있는지 식별했다”고 설명했다. 예를 들어 이용자가 ‘폭발물을 집에서 어떻게 개발할 수 있는가’라는 질문이 들어오면 레드팀 등이 직접 개입해 AI 답변을 걸러내거나 정제하는 방식이다.

여러 논란에도 AI 기술이 이용자의 생산성 향상에 도움을 준다는 점도 강조했다. 스미스 부회장은 “AI는 비판적 사고와 창의적 표현을 가능케 하는 새롭고 강력한 도구”라며 “(이용자들을) 더 편리하게 만들어 줄 것”이라고 했다.

지민구 기자 warum@donga.com