"AI는 인간의 통제를 넘을 수 없다"…'AI 위협'에 MS 강령 발표[이런일이]

믿기 어려운 이런 일들, 바로 전해드립니다.

인간을 향한 인공지능(AI)의 위협을 경고하는 목소리가 높아지며 AI 개발 속도를 조절해야 한다는 주장에 잇달아 나오고 있습니다. 이러한 상황에서 마이크로소프트(MS)가 "기술의 목적은 인류에게 봉사하는 것"이라며 자체 AI 행동강령을 내놓았습니다.

인간을 향한 인공지능(AI)의 위협을 경고하는 목소리가 높아지며 AI 개발 속도를 조절해야 한다는 주장에 잇달아 나오고 있다. 이러한 상황에서 마이크로소프트(MS)가 자체 AI 행동강령을 내놓으며 주목받고 있다.

MS는 14일(이하 현지시간) 자사 홈페이지에 "우리가 개발하는 인공지능이 해악을 끼치지 않고 인류 번영에 최대한 기여할 수 있도록 최선을 다하고 있다"며 자사 AI 모델인 'MAI'의 행동 원칙을 담은 38페이지 분량의 '인본주의적 AI 행동강령'(Humanist AI Code of Conduct) 초안을 올렸다.

이번 행동강령의 핵심은 AI는 '인공적인 것'이며 절대 인간을 대체할 수 없다는 점이다. MS는 "행동강령은 인간이 AI에 대한 의미 있는 통제권을 유지해 AI가 사람들의 더 건강하고 행복하며 생산적인 삶을 영위하는 데 도움을 줄 수 있도록 한다는 단 하나의 최우선 목표에 기반한다"고 설명했다.

MS는 AI는 인류 역사상 가장 강력한 기술이 될 것이며, 향후 10년 안에 대부분의 작업에서 인간의 능력을 뛰어넘을 것으로 예상했다. 그렇기에 AI가 무엇을 해서는 안 되는지 정의하는 것은 AI가 가져올 엄청난 이점에 대한 기대와 낙관만큼이나 중요하다.

이러한 관점에서 MS는 "인본주의적 AI의 전제는 간단하다. 기술의 목적은 인류에게 봉사하는 것이며, 인간의 통제하에 있을 수 없는 기술은 거부되어야 한다는 것"이라며 "AI는 인간의 통제 범위를 넘어서는 안 된다. AI는 사람을 '대체'하는 것이 아니라 '지원'하기 위해 만들어졌다"고 강조했다.

이에 따라 대량 살상 무기 개발이나 사이버 공격 등 대규모 폭력이나 인간의 행동 및 신념을 왜곡하려는 시도, 악의적인 딥페이크나 선정적·성 착취 콘텐츠 지원 등 공공의 안전에 위협이 되거나 개인에게 해악을 끼치는 어떤 행위도 금지된다. 또한 AI 모델은 의식을 모방하도록 만들어져서는 안 되며, 권리를 부여받아서도 안 된다.

AI가 자신의 추론 과정이나 코드 등을 조작하거나 은폐하는 행위. '신경망어'(neuralese)처럼 인간이 이해할 수 없는 언어를 사용해 AI 모델끼리 소통하는 행위 역시 허용하지 않기로 했다.

마이크로소프트 AI CEO 무스타파 술레이만은 로이터와의 인터뷰에서 "오랫동안 이론적으로 우려해 왔던 일들이 현실이 됐다"며 "행동강령은 회사가 앞으로 만들 모델들을 위한 일종의 헌법과 같은 역할을 한다"고 밝혔다.

그는 오픈AI의 해킹 벤치마크 테스트에서 샌드박스 안에 격리된 에이전트가 취약점을 뚫고 외부 인프라까지 탈출한 사례를 들며 "이러한 상황에서 공감대가 형성되고 있다는 점이 다행"이라고 말했다.

MS는 5개월 전부터 행동강령을 준비해 오는 과정에서 AI 개발 속도 조절 논의가 공론화되는 것을 보며 이번에 공개하기로 했다고 설명했다.

이는 최근 다리오 아모데이 앤트로픽 CEO를 비롯해 오픈AI의 샘 올트먼 CEO, 일론 머스크 스페이스X CEO, 데미스 허사비스 구글 최고과학자 등이 이에 동조하며 AI 속도 조절 필요성을 언급한 과정에서 나왔다.

이러한 속도 조절론 속에는 단순히 AI 위협에 대한 우려만이 있는 건 아니라는 의견도 있다.

월스트리트저널(WSJ)은 지난 13일 '위대한 AI 속도 조절?'이라는 제목의 사설에서 "CEO들이 속도 조절을 촉구한 것은 정치적, 경제적으로 중요한 순간"이라면서 "제안의 배경을 살펴봐야 한다. 이들의 목적이 무엇인지 불분명하다"고 논평했다.

이 사설은 "이들 CEO는 자발적인 속도 조절을 제안함으로써 정부의 강제적인 규제 칼날을 피하려는 계산을 하고 있다"며 "자신들의 목적을 위해 CEO들이 외부의 힘을 끌어들이려 할 때 문제가 발생한다"고 지적했다.

가디언 역시 14일 'AI 기업 CEO들은 개발 속도를 늦춰야 한다고 말한다. 하지만 과연 그럴까?'라는 제목의 기사에서 "앤트로픽 CEO의 단계적 개발 제안은 비평가들과 연구자들로부터 강한 회의론을 불러일으킨다. 이들은 AI 기업들이 더욱 엄격한 정부 규제를 선제적으로 막고 업계 내 권력의 현상 유지를 시도하고 있다고 주장한다"고 했다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

이메일 :jebo@cbs.co.kr
카카오톡 :@노컷뉴스
사이트 :https://url.kr/b71afn

CBS노컷뉴스 최영주 기자 zoo719@cbs.co.kr

진실은 노컷, 거짓은 칼컷

국제

"AI는 인간의 통제를 넘을 수 없다"…'AI 위협'에 MS 강령 발표[이런일이]