AI규제 시동건 美 … 韓기업 정보보고 의무

바이든, 행정명령 서명
"AI 위험 사전 차단 위해
개발 전 상무부와 공유"
아마존·MS·구글 클라우드
자사 고객 정보, 정부에 신고

미국 클라우드 서비스를 활용해 인공지능(AI)을 개발하는 전 세계 모든 기업에 대한 정보를 미국 정부가 수집하기로 결정했다. 또 AI 서비스를 미국에 선보이는 기업은 개발 전 모델 성능과 안전성 결과를 미국 정부에 직접 보고해야 한다.

30일(현지시간) 조 바이든 미국 대통령은 워싱턴DC 백악관에서 AI의 잠재적인 위험으로부터 국가 안보, 저작권자, 소비자, 근로자, 소수 집단을 보호하는 행정명령에 서명했다. 바이든 대통령은 행정명령을 통해 안보·경제·보건·안전에 위험을 초래할 수 있는 AI 기술과 이와 관련된 개발자가 신제품 출시에 앞서 국방물자생산법(DPA)에 따라 안전 실험을 실시한 뒤 그 결과를 정부와 공유하도록 지시했다. 또 AI 기업들은 공격조인 '레드팀'을 구성해 미국 국립표준기술연구소(NIST)가 설정한 엄격한 기준을 통과하는지 실험해야 한다. 이런 강력한 조치는 AI 시스템의 안전성과 신뢰성을 높이기 위한 것이다. 이번 명령은 미국 국방물자생산법을 근거로 했다.

우선 미국 정부는 AI가 만든 콘텐츠에 워터마크(꼬리표)를 표시하는 지침을 마련해 실물과 명확히 구분하겠다는 방침이다. 앞서 오픈AI, 마이크로소프트(MS), 구글 등 15개 기업이 백악관과 AI 콘텐츠에 대한 워터마크 부착 등 안전 표준을 자발적으로 도입하기로 약속한 바 있다. 또 백악관은 AI 분야 고숙련 인력의 미국 유입을 장려하고 개인 정보 보호를 강화하기로 했다. 바이든 대통령은 "잘못된 손에 AI가 넘어가면 해커들이 우리 사회를 돌아가게 하는 소프트웨어의 취약점을 더욱 쉽게 악용할 수 있다"며 "AI의 가능성을 실현하면서도 위험을 예방하려면 관련 기술을 통제해야 한다"고 강조했다. 뉴욕타임스는 이에 대해 "AI 행정명령은 테러리스트가 대량 파괴 무기를 개발하는 등의 위험과 가짜뉴스가 선거판에 활용되는 걸 막을 것"이라고 평가했다.

하지만 한국 AI업계는 이 같은 조치가 '양날의 칼'이 될 수 있다고 염려했다. 행정명령을 뜯어보면 미국 정부가 상당수 정보를 수집하기 때문이다. 먼저 외국 기업이 미국에서 두 가지 용도 이상의 AI인 이른바 '범용 AI'를 서비스하려면 90일 이내에 미국 상무부에 보고해야 한다. AI를 개발하고 있거나 개발할 뜻이 있는 기업은 무결성을 보장하기 위한 물리적이고 사이버적인 보안 조치를 해야 하고, 향후 활동에 대해서도 신고해야 한다. 예를 들어 생성 AI를 개발해 미국에 서비스하려면 AI가 생물학·화학 무기 등에 대한 결과값을 만들어내서는 안 되며 이와 관련해 강력한 보안 조치를 해야 하는 셈이다. 특히 미국 정부는 규제 대상을 '10의26승개의 이상 정수 또는 부동 소수점 연산을 사용하는 모델'로 규정했다. 챗GPT의 근간이 되는 GPT-3.5는 인간 두뇌 시냅스에 해당하는 파라미터 수가 약 1750억개에 달한다.

상무부는 미국 서비스형 인프라스트럭처(IaaS) 기업에 대해서도 고객 데이터 정보 보고를 의무화하기로 했다. 대표적인 IaaS 기업으로는 아마존웹서비스(AWS), MS 애저, 구글 클라우드 등이 있다. 특정 기업이 미국 클라우드 서비스를 활용해 AI를 개발할 경우 해당 클라우드 기업이 고객 데이터를 미국 정부에 보고하는 방식이다. 특히 법인명, 주소, 계좌번호, 결제 수단, 이메일 주소 등 포괄적 정보를 미국 정부가 수집한다. 시너지리서치그룹에 따르면 이들 3개사의 시장 점유율은 66%에 달한다. 한 AI업계 관계자는 "미국이 자국 기업 중심의 글로벌 장벽을 세우는 것으로 볼 수 있다"면서 "자국 기업에 대한 통제책이 될 수 있지만, 미국에 서비스하거나 미국 클라우드 서비스를 활용하려고 한다면 해당 정보가 사전에 노출될 수 있다"고 염려했다.

[워싱턴 강계만 특파원 / 이상덕 기자 / 정호준 기자]