나델라 MS CEO “AI혁신에 규제 결합해야…글로벌 표준 필요”

다보스포럼서 클라우스 슈밥교수와 대담
“신기술이 가져올 의도치 않은 결과 고려해야”
경직된 EU식 규제보다 미국식 자율규제 옹호
“대규모 언어모델 출시 전 레드팀 검증 필요”

[뉴욕=이데일리 김상윤 특파원] “인공지능(AI) 규제에 대한 글로벌 표준 도입 매우 바람직하다고 생각합니다. 그렇지 않으면 일부 핵심연구조차 통제하기 어렵고, 솔직히 바늘을 움직이기가 매우 힘들어질 것입니다.”

마이크로소프트(MS)의 사티아 나델라 최고경영자(CEO)가 AI 규제에 대한 글로벌 차원의 조율 및 적절한 보호장치에 대한 합의가 필요하다고 밝혔다. 최근 유럽연합(EU)이 AI규제를 주도하고 있는 가운데 각국마다 상이한 규제가 마련될 경우 AI기술 개발이 어려워질 수 있다는 점을 제기한 것이다. 16일(현지시간) 스위스 휴양지 다보스에서 진행 중인 세계경제포럼(WEF·다보스포럼)에서 행사 창립자인 클라우스 슈밥 교수와 대담 자리에서다.

사티아 나델라 마이크로소프트 CEO가 다보스에서 열린 세계경제포럼(WEF) 연례회의 세션에서 발언하고 있다. (사진=AFP)

나델라는 AI규제 필요성에 대해서는 인정했다. 그는 “신기술이 가져다줄 혜택과 의도하지 않은 결과는 동시에 고려해야 한다”며 “전 세계가 신기술을 필요로 하는 동시에 ‘가드레일’도 있어야 한다. 민간 분야의 혁신에다가 규제를 결합하는 것이 중요하다”고 강조했다.

다만 그는 일률적으로 AI를 규제하는 방식이 아닌 기업들의 자율성을 기반으로 한 규제가 필요하다는 점을 내세웠다. 그는 “현재 상황을 요약하자면, 대규모 언어 모델에 관해서는 새로운 것을 출시하기 전에 엄격한 평가와 레드팀 구성, 안전 및 가드레일을 갖춰야 한다는 것이 우리 모두의 공통된 생각”이라며 “애플리케이션과 관련해서는 이 기술을 배포하는 방법에 대한 위험 기반 평가가 있어야 한다”고 강조했다.

이는 미국식 AI규제를 옹호한 것으로 해석된다. 미국은 지난해 11월 법이 아닌 행정명령을 통해 AI를 규제하기로 했다. 기업에 독립적으로 AI위험성을 검증하는 레드팀(red team)을 의무적으로 도입하고 시험 결과를 정부에 제출하도록 하는 등 일정 수준 기업에 자율성을 부여하는 방식이다. AI 위험성 등급을 4단계로 분류해 일률적으로 규제를 부과하는 EU식 규제와는 차이가 있다.

AI규제를 조율할 수 있는 글로벌 AI기관 필요성도 강조했다. 그는 “글로벌 AI기관이 설립될 수 있을지 확신할 수 없지만, 의료분야에는 의료규정을 AI에 적용하고, 금융서비스 역시 금융위험 등을 고려해 AI에 안전장치를 적용해야 한다”며 “이런 합의와 규범을 구축하기 위한 기초가 마련된다면 우리가 함께할 수 있다고 생각한다”고 설명했다.

AI가 만들어내는 혜택을 특정 국가나 계층이 집중적으로 누리면서 소외 현상을 유발할 것이라는 지적에 대해서는 “경계하되 개발을 주저해선 안 된다”고 밝혔다. 그는 “세상에 필요한 신기술이 더 많은 격차를 만들 가능성은 우리가 꼭 염두에 둬야 할 부분이라고 생각한다”면서도 격차 해소에 기여할 신기술의 가능성을 간과해선 안 된다고 주장했다.

김상윤 (yoon@edaily.co.kr)