“AI, 심각한 위험 존재” 챗GPT 창시자도 규제 필요성 인정

미국 의회서 ‘인공지능 주제’ 첫 청문회

내년 대선 앞둔 상황서 여론 조작 가능성 질문 쏟아져
오픈AI 측 “정보 조작·설득하는 능력 개선…우려 영역”
AI 국제표준 마련 제안…의회는 규제 기구 설립 공감대

“AI 기술 잘못되지 않도록 정부와 협력” 챗GPT 창시자 샘 알트먼 오픈AI 최고경영자가 16일(현지시간) 미국 워싱턴 의회의사당에서 열린 상원 법제사법위원회 청문회에 참석해 증언하고 있다. AFP연합뉴스

“이 기술이 잘못되면 상당히 잘못될 수 있다고 생각한다. 그런 일이 일어나지 않도록 목소리를 내고, 정부와 협력하고 싶다.”

미국 의회에서 16일(현지시간) 처음으로 열린 인공지능(AI) 청문회에 출석한 챗GPT의 창시자 샘 알트먼 오픈AI 최고경영자(CEO)가 AI에 대한 규제를 촉구했다. 뉴욕타임스 등에 따르면 이날 열린 상원 법제사법위원회에서 알트먼은 “오픈AI는 AI가 우리 삶의 거의 모든 측면을 개선할 것이란 믿음으로 설립됐지만 동시에 심각한 위험도 존재한다”며 이같이 밝혔다.

이번 청문회는 인류가 통제할 수 없는 속도로 AI가 빠르게 발전·확산되고 있다는 우려 속에서 열렸다. 미 의회가 AI를 주제로 청문회를 개최한 것은 이번이 처음이다.

이 자리에서 알트먼은 내년 대통령 선거를 앞두고 AI가 여론을 조작할 가능성에 대한 질문을 집중적으로 받았다. 그는 “내년에 대통령 선거가 있고, 정보를 조작하고 설득하는 AI 모델의 일반적인 능력이 개선되고 있다는 점을 감안할 때 이것은 중요한 우려의 영역이라고 생각한다”고 말했다. 알트먼은 “AI의 이점이 위험보다 훨씬 더 크다고 생각하지만 안전을 보장하는 것이 매우 중요하다”면서 별도의 AI 규제기관 설립이 필요하다고 주장했다. 구체적으로 알트먼은 AI와 관련한 표준을 관리하는 새로운 정부기관을 설립하고, 정부 표준을 어기면 AI 개발 허가를 취소하도록 하는 방안을 제안했다.

AI 규제를 위한 국제 협력기구 필요성도 언급했다. 알트먼은 “순진하게 들릴 수 있지만 국제원자력기구(IAEA) 같은 선례가 있다. 미국이 다른 나라와 협력해 AI 국제표준을 설정하는 것은 비현실적으로 들리지만 실제 가능하고 전 세계에 큰 도움이 될 것”이라고 말했다.

게리 마커스 뉴욕대 신경과학 명예교수 역시 청문회에서 새로운 규제기관의 필요성을 강조했다. 마커스 교수는 “AI는 복잡하고 빠르게 발전하고 있다”며 “정규 기관이 AI를 규제하는 것이 중요하다”고 말했다.

민주당과 공화당 의원들 대부분도 AI 규제 필요성을 인정하며 별도의 규제기구 설립에 대한 초당적 합의를 이뤘다. 크리스 쿤스 민주당 의원은 청문회에서 “의회는 이제까지 소셜미디어에 대한 규제에 실패해왔다”며 “AI가 민주주의의 가치에 대한 믿음을 훼손할 가능성이 걱정스럽다”고 밝혔다. 조시 홀리 공화당 의원 역시 중국을 비롯한 적국의 AI 위협과 관련해 “미국의 자유와 국민을 위해 어떻게 이 기술을 통제할 수 있는지 고민해야 한다”고 말했다.

이날 청문회는 AI를 향한 미 정치권의 뜨거운 관심을 반영했다. 리처드 불러먼솔 법사위원장은 모두발언을 대신해 자신의 목소리를 AI로 짜깁기한 ‘딥페이크 녹취록’을 틀었다. 챗GPT가 만든 연설문에 AI 음성 복제 소프트웨어로 오디오를 입힌 연설이었다. 불러먼솔 위원장은 “만약 여러분이 집에서 듣고 계신다면, 이 목소리와 발언이 나라고 생각할 수 있다”며 AI의 위험성을 강조했다. 그는 “AI는 희망적인 동시에 딥페이크, 허위정보의 무기화, 여성 괴롭힘, 사칭 등 잠재적 해악도 품고 있다”며 “가장 끔찍한 것은 이 같은 새로운 산업혁명으로 수백만 일자리가 사라질 수 있다는 것”이라고 말했다.

AI 규제안을 마련하려는 글로벌 차원의 발걸음은 점점 빨라지고 있다. 최근 유럽연합(EU)은 세계 최초로 AI에 대한 포괄적 규제법 마련에 나섰다. EU의 AI 규제법 초안에는 원격 안면인식 등 생체정보 활용 AI 기술 규제를 강화하고, ‘생성 AI’가 만들어낸 글이나 이미지는 AI에 의해 작성된 것이라고 명확히 알리는 투명성 강화 조처 등이 포함됐다. 미 상무부 산하 국가통신정보관리청(NTIA)도 AI 규제와 관련해 의견을 수렴하고 있다.

최서은 기자 cielo@kyunghyang.com