거짓말하고 음란물 만드는 AI… 종주국 美도 규제 나선다

美정부, 가드레일 도입 가능성 시사
60일간 AI기술 관련 여론 수렴 돌입
구글·MS도 규제 제정에 찬성 입장

마이크로소프트(MS), 구글 등 미국 빅테크 기업이 생성형 인공지능(AI) 경쟁을 촉발한 상황에서 ‘적절한 규제 마련’을 요구하는 목소리가 높아지고 있다. 챗GPT 같은 AI가 정보를 날조하는 ‘환각’을 일으키고 있고, 비윤리적 결과물 생성에 활용하는 부작용이 곳곳에서 불거지고 있기 때문이다. AI 기술 개발의 중심지인 미국까지 규제 대열에 합류하면서 ‘책임감 있는 AI’를 둘러싼 논쟁과 규제에 속도가 붙고 있다.

미국 정부는 11일(현지시간) AI 관련 ‘가드레일’ 도입 가능성을 시사했다. 미국 상무부 산하 통신정보관리청(NTIA)의 앨런 데이비슨 청장은 60일 동안 AI 시스템에 대한 여론 수렴을 시작한다고 밝혔다. 그는 “AI 기술 능력은 경이롭지만, 기술을 책임 있게 쓰려면 가드레일이 일부 필요하다. 합법적이고 효율적이며 윤리적인 AI 시스템을 보장하기 위한 방안을 살펴보려 한다”고 말했다. NTIA도 성명을 통해 “식품과 자동차가 안전성을 검증받아 출시되는 것처럼 AI 시스템도 국민과 정부, 기업에 ‘목적에 적합하다’는 보증을 제공해야 한다”고 강조했다. NTIA는 조 바이든 행정부에 정책 권고사항을 전달할 방침이다.

챗GPT 출시 이후 AI가 정보를 날조하고 음란물을 생산하는 도구로 활용되는 등 비윤리적 사례가 속출하자 ‘사회적 위험성을 높이는 기술’이라는 비판적 시각은 커지고 있다. 아직 AI와 관련된 명확한 규제를 마련한 국가는 없다. 다만 ‘속도 조절론’이 급격하게 부상하고 있다. 이탈리아 규제 당국은 지난달 말에 챗GPT 사용을 제한했다. 영국과 캐나다 일본 등도 AI 관련 규제 검토에 돌입했다. 중국은 ‘AI가 체제를 위협하는 방식으로 작동할 수 있다’면서 관리 방안을 제정했다. 관리 방안은 ‘AI 기술로 만든 콘텐츠는 중국의 핵심 사회주의 가치를 반영해야 한다’는 게 핵심이다.

생성형 AI 개발에 가장 적극적인 국가들이 규제를 도입하려는 움직임을 보이자 기업들도 보폭을 맞추겠다는 입장을 잇따라 내놓고 있다. 구글은 “AI는 규제가 반드시 필요한 영향력이 큰 영역”이라고 규정했다. 사회적으로 도움이 될 수 있는 방향으로 AI를 개발해야 한다는 업계 공통 협력원칙도 제시했다. 켄트 워커 구글·알파벳 글로벌 부문 사장은 “‘무엇을 할 수 있는가’만이 아닌 ‘무엇을 해야 하는가’에 대한 논의가 필요하다. AI의 혁신적 잠재력은 큰 기대를 갖게 하지만 AI 오남용 가능성에 대한 우려도 존재하는 것이 사실”이라며 “예상되는 전반적 혜택이 예측 가능한 위험과 단점을 월등히 능가해야 한다. 이런 접근 방식은 어느 기업도 단독으로 진행할 수 없다. AI 책임은 협력이 필수적이고 올바른 균형에 도달하기 위해서는 여러 관점을 제시해야 하는 공공과제”라고 강조했다.

MS도 규제 제정에 찬성한다는 입장이다. MS는 성명을 내고 “피드백을 광범위하게 얻으려는 공공정책을 환영해야 한다”고 했다.

전성필 기자 feel@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지