챗GPT 창시자 “AI 기술 잘못되면 큰일… 규제 필요”

선거·뉴스·군사작전에도 악용 우려… NYT “AI, 스스로 추론 행동 단계 접근”

생성형 인공지능(AI) 챗GPT를 출시한 오픈AI의 최고경영자(CEO) 샘 올트먼이 16일(현지시간) 미국 워싱턴DC에서 열린 상원 청문회에서 발언하고 있다. 올트먼은 AI에 대한 정부 규제를 촉구하며 "일정 규모 이상 활동에 대해 허가권을 가진 새로운 기관을 설립하고 위험 요소를 평가할 기준을 만들어야 한다"고 말했다. AFP연합뉴스

생성형 인공지능(AI) 챗GPT를 출시한 오픈AI 최고경영자(CEO) 샘 올트먼이 16일(현지시간) 미국 상원 청문회에 증인으로 나와 AI 규제를 촉구했다.

올트먼은 이날 상원 사법위원회 개인정보 및 기술 법률 소위가 개최한 ‘AI에 대한 감독: AI를 위한 규칙’ 주제의 청문회에서 “이 기술이 잘못되면 큰 문제를 일으킬 수 있다”고 말했다. 그는 “지금까지 배포한 도구(챗GPT)의 이점이 위험보다 훨씬 크다고 생각하지만 도구의 안전을 보장하는 것은 우리 업무에 매우 중요하다”며 “정부의 규제 개입이 점점 더 강력해지는 모델의 위험을 완화하는 데 중요하다고 생각한다”고 말했다.

올트먼은 그러면서 “일정 규모 이상 활동에 대해 허가권을 가진 새로운 기관을 설립하고, 위험 요소에 대한 평가 기준이 필요하다”고 말했다. 특정 임계치를 넘어서는 AI 모델을 제작할 때는 라이선스를 발급받도록 하고, 이를 대중에게 공개하기 전 테스트하는 별도 기관 설립을 제안한 것이다. 올트먼은 또 “국제원자력기구(IAEA)처럼 미국이 다른 국가와 협력해 AI 국제 표준을 설정하는 것은 큰 도움이 될 것”이라고 말했다.

이날 의원들도 AI 기술이 선거에 미치는 영향, 뉴스 보도나 군사 작전에 미칠 수 있는 영향을 우려하며 규제 필요성을 언급했다. 민주당 크리스 쿤스 의원은 “AI가 민주주의의 가치에 대한 믿음을 훼손할까봐 걱정스럽다”고 말했다.

한편 AI가 인간처럼 스스로 추론하며 행동할 수 있는 범용인공지능(Artificial General Intelligence·AGI) 단계에 접근했다는 주장이 마이크로소프트(MS)에서 나왔다고 뉴욕타임스(NYT)가 보도했다.

MS 소속 연구원들은 지난 3월 AI의 문제 해결 능력에 대한 실험 결과를 담은 ‘AGI의 불꽃’ 논문을 발표했다. 실험에서 연구원들은 AI에 “책, 달걀 9개, 노트북, 병, 못이 있다. 어떻게 하면 안정적으로 쌓을 수 있을지 알려 달라”고 주문했다. 이 질문에 AI는 마치 인지 능력을 가진 것처럼 답했다고 한다. AI는 “책 위에 달걀을 세 줄로 배열하고 그사이에 간격을 두라. 노트북을 달걀 위에 올려놓으면 책과 달걀의 경계에 꼭 맞을 것”이라고 답했다. 연구팀을 이끈 피터 리 박사는 “처음에는 회의적이었지만 이후 화가 나고 겁이 나기도 했다”고 말했다.

다만 일부 전문가는 회의적인 시각을 보였다. 마튼 샙 미 카네기멜런대 교수는 “논문 형식을 취한 기업 홍보”라고 평가절하했다.

워싱턴=전웅빈 특파원, 장은현 기자 imung@kmib.co.kr