"선거에서 챗GPT 악용될 염려 있다"

샘 올트먼 오픈AI CEO
AI가 가짜뉴스 전달할 우려
규제기관 도입해 감시해야

챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO·사진)가 인공지능(AI)이 향후 선거 캠페인에 악영향을 미칠 수 있다는 사실을 인정했다. 문장과 이미지를 자유롭게 만들어내는 생성형 AI가 개인별 맞춤형 허위 정보를 생성해 유권자에게 영향을 줄 수 있다는 염려다.

16일(현지시간) 올트먼 CEO는 미국 상원 법사위원회 소위원회의 청문회에 나와 "생성형 AI가 허위 정보를 생성할 수 있다"면서 "AI가 선거의 무결성을 방해하는 것은 우려할 만한 사항"이라고 설명했다. 특히 그는 "내년 선거(2024년 미국 대선)를 앞두고 모델을 조작하는 방식으로 허위 정보를 만들려는 시도가 있을 수 있다"고 말했다. 올트먼 CEO가 청문회에 참석한 것은 이번이 처음이다.

생성형 AI가 거짓을 사실처럼 말하는 이른바 '환각 현상' 또한 선거와 관련해 잘못된 정보를 전달할 수 있다. 이날 에이미 클로버샤 민주당 의원은 "내 지역구 미네소타 블루밍턴에서 투표를 하려면 어디로 가야 하느냐고 챗GPT에 물었더니, 지금은 투표 기간이 아닌데도 주소를 제시하며 허위 정보를 제공했다"면서 "내년 대선과 경선을 앞두고 이 같은 잘못된 정보에 대한 대응이 시급하다"고 주장했다.

올트먼 CEO는 이 같은 의원들의 지적에 대해 적절한 정부 규제가 필요하다고 강조했다. 그는 △AI 개발에 표준 규격을 도입하고 △이를 감시할 독립적 기구를 설립하며 △초거대 AI를 맡을 정부 담당자를 임명해줄 것을 제안했다.

[실리콘밸리 이상덕 특파원]