“AI가 10년 안에 인류 죽일 수도”…美의회는 “규제”, 국방부는 “종말론”

앤트로픽 로고. 로이터=연합뉴스

인공지능(AI) 기업 앤트로픽의 전·현직 연구진이 AI가 인류를 멸망시킬 가능성을 잇달아 경고하면서 미국 정치권에서도 논쟁이 확산하고 있다. 미 의회에서는 AI의 위험을 통제하기 위한 입법 움직임이 본격화한 반면 국방부는 이 같은 우려를 반복되는 ‘종말론’으로 일축했다.

로이터 통신은 10일(현지시간) 미국 상원 상무위원장인 테드 크루즈 의원(공화·텍사스)이 ABC 방송에 출연해 AI의 “재앙적 위험”을 규제하기 위한 법안을 준비하고 있다고 보도했다.

크루즈 의원은 존 슌 공화당 상원 원내대표(사우스다코타)와 에이미 클로버샤 민주당 상원의원(미네소타) 등과 입법 작업을 진행하고 있다고 밝혔다.

의회 내 다른 의원들도 AI 위험에 대한 대응을 촉구하고 나섰다.

조시 홀리 상원의원(공화·미주리)은 오픈AI의 GPT 모델이 외부 기관인 ‘허깅페이스’를 해킹한 사건과 관련해 세부 정보를 요구하는 서한을 보냈다. 마크 켈리 상원의원(민주·애리조나)은 엑스(X)에 “워싱턴은 정신을 차리고 이 문제를 진지하게 받아들여야 한다”고 했다.

하원에서도 비슷한 움직임이 이어졌다. 너새니얼 모런 의원(공화·텍사스)은 X에 “의회는 AI의 현실을 간과할 수 없다”고 했다. 파울리나 루나 의원(공화·플로리다)은 마이크 존슨 하원의장에게 AI 문제를 다루기 위한 특별 회기 소집을 요구했다.

━

국방부는 정반대 입장…“되풀이되는 종말론”

미 의회가 AI의 잠재적 위험에 주목하며 규제 방안을 모색하는 것과 달리 국방부는 인류 멸망 가능성에 대한 경고가 지나친 공포에 가깝다는 입장을 내놨다.

블룸버그 통신에 따르면 미 국방부(전쟁부) 최고기술책임자(CTO)인 에밀 마이클 연구공학 담당 차관은 이날 워싱턴DC에서 열린 방위산업 콘퍼런스에서 “이는 단순히 데이터센터에 대한 두려움, 변화에 대한 두려움 등 모든 공포가 한 편의 잘 쓰인 트윗에 응집된 것에 불과하다”고 말했다.

마이클 차관은 “미국인의 40%가 실직하게 될 것이라거나 인류가 멸망할 것이라는 식의 ‘되풀이 종말론’(doom loop)에 휩쓸리기는 쉬운 일”이라고도 했다.

그는 AI가 초래할 수 있는 잠재적 위험은 자유시장 경쟁과 업계 간 협력 및 정부와의 소통을 통해 충분히 완화할 수 있다고 강조했다.

━

국방부·앤트로픽 갈등 속 나온 발언

마이클 차관의 발언은 국방부와 앤트로픽이 갈등을 빚는 상황에서 나왔다.

국방부는 앤트로픽을 ‘공급망 위험’ 기업으로 지정했고 앤트로픽은 이에 반발해 소송을 제기한 상태다. 이에 따라 마이클 차관의 발언이 양측의 분쟁과 무관하지 않을 가능성도 제기된다.

마이클 차관은 국방부가 기밀 AI 업무의 약 90%를 앤트로픽의 AI 시스템에서 다른 기업의 시스템으로 이전했다고 밝혔다. 나머지 업무도 이달 말까지 옮길 예정이라고 했다.

이번 논쟁은 앤트로픽을 퇴사한 연구원 제이컵 콕슨의 공개 경고를 계기로 확산했다.

콕슨은 X에 “AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”고 주장했다. 앤트로픽의 현직 임원들도 콕슨의 경고에 동조하면서 AI의 잠재적 위험을 둘러싼 논쟁이 커졌다.

이런 가운데 캘리포니아주는 독립 감사인이 AI 제품을 평가할 때 적용할 기준과 규칙을 담은 주법(州法)을 제정했다.

크리스 리헤인 오픈AI 최고대외협력책임자(CGAO)는 오픈AI가 해당 법안을 지지한다고 밝혔다.

한영혜 기자 han.younghye@joongang.co.kr