美의회 출석한 오픈AI CEO "챗GPT 대선 악용 우려…규제 필요"(상보)

"일대일 대화로 허위정보 양산"…"AI 개발 라이선스 발급해야"

챗GPT를 개발한 샘 알트먼 오픈AI 최고경영자(CEO)가 16일(현지시간) 미국 상원 법사위원회 청문회에 참석해 발언하고 있다. 2023.05.16. ⓒ 로이터=뉴스1 ⓒ News1 김성식 기자

(서울=뉴스1) 김성식 신기림 기자 = 생성형 인공지능(AI) 챗봇인 챗GPT를 개발한 샘 알트먼 오픈AI 최고경영자(CEO)가 16일(현지시간) 미국 연방의회에 출석해 AI 기술이 내년 미 대선에서 악용될 우려가 있어 규제가 필요하다고 말했다.

로이터 통신과 파이낸셜타임스(FT)에 따르면 알트먼은 이날 상원 법사위원회가 AI 감독 방안을 마련하기 위해 개최한 청문회에 출석해 "AI가 예측할 수 없는 방식으로 사회를 변화시킬 수 있다"며 "위험을 완화하기 위해서는 정부의 규제 개입이 중요하다"고 경고했다. 알트먼이 미 의회에 출석해 발언한 건 이번이 처음이다.

이 자리에서 알트먼은 'AI가 내년 대선 여론에 영향을 줄 수 있느냐'는 의원들의 질문에 "생성형 AI가 점점 더 좋아지고 있다는 점을 감안할 때, 일대일 대화를 통해 허위 정보를 제공하는 능력은 중대한 우려의 영역이라고 생각한다"고 답했다.

알트먼은 이어 의원들에게 생성형 AI 기술을 제공하는 기업을 상대로 "공개적으로 예상되는 사항에 대한 지침을 만들어 달라"고 촉구했다. 또 "기술이 잘못되면 큰 문제가 발생할 수 있다"며 "이러한 일이 일어나지 않도록 정부와 협력하고 싶다"고 강조했다.

구체적으로 알트먼은 생성형 AI 개발 허가증(라이선스)을 발급하고 관련 기술을 테스트하는 기관을 행정부 산하에 설립하는 방안을 제안했다. 어떤 AI가 라이선스 대상인지에 대해서는 "사람의 신념을 설득하거나 조작할 수 있는 모델이 규제 문턱에 포함돼야 한다"고 말했다.

아울러 알트먼은 각 기업이 자사 데이터가 AI 학습에 사용되는 것을 원치 않는다고 말할 권리가 있어야 하지만, 현재 웹에 공개된 자료는 '공정한 게임'에 해당한다고 강조했다. 사실상 인터넷상에 게재된 방대한 데이터는 챗GPT 학습에 계속해서 활용하겠다는 뜻을 시사한 것으로 풀이된다.

이날 메이지 히로노 민주당 상원의원은 생성형 AI가 허위 정보를 유포한 사례를 지적하기도 했다. 그는 "도널드 트럼프 전 대통령이 뉴욕 경찰에 체포되는 사진이 떠도는 것을 봤다"며 생성형 AI가 만들어 낸 "이러한 가짜 이미지가 유해하다고 생각하느냐"고 따져 물었고 이에 대해 알트먼은 "창작자는 이미지가 생성될 때 진위를 명확히 밝혀야 한다"고 답했다.

그러면서도 알트먼은 "오래전 포토샵이 등장했을 때 사람들은 한동안 포토샵 이미지에 속았지만, 곧 이미지가 포토샵일 수 있다는 사실을 이해하게 됐다"며 "생성형 AI도 이와 비슷하게 될 것"이라고 낙관했다.

이번 청문회는 AI의 잠재적 남용에 대한 우려와 각국의 규제 강화 움직임 속에서 열렸다. 지난주 유럽연합(EU) 의원들은 챗GPT와 같은 챗봇에 대한 제한을 포함해 AI 사용에 대한 엄격한 규칙에 합의했다. 영국 경쟁시장감독청은 AI 시장에 대한 검토에 착수할 계획이다.

지난달에는 미국 상무부가 AI의 위험성에 대한 전문가들의 의견을 청취한 뒤 이를 기반으로 'AI 규제 이니셔티브'를 내놓겠다고 밝혔다. 비슷한 시기 주요7개국(G7)의 디지털 장관들도 '신뢰할 수 있는 AI'를 촉진하기 위한 실행 계획에 합의했다.

로이터는 회사 내부 관계자를 인용해 오픈AI가 최근 미국 정부에 AI 개발 라이선스 발급 기관인 가칭 'AI 안전 및 인프라 보안 사무소'(Office for AI Safety and Infrastructure Security·OASIS) 설립을 제안했다고 전했다.

seongskim@news1.kr