오픈AI, AI감독 전담연구팀 꾸린다…“AI가 스스로 감독 목표”

‘슈퍼정렬팀' 구성..컴퓨팅 능력 20% 투입
인간수준 정렬전문 AI개발 최족 목표

[이데일리 김상윤 기자] 챗GPT 개발사 오픈AI가 인공지능(AI)로부터 인간의 안전을 확보하기 위한 새로운 연구팀을 꾸리고 상당한 자원을 투입하겠다고 밝혔다. 궁극적으로 AI가 스스로를 감독할 수 있는 시스템을 만들 계획이다.

(사진=AFP)

오픈AI 공동설립자 일리야 수츠케버와 정렬 담당 총괄(head of alignment) 얀 라이카는 5일(현지시간) 블로그를 통해 “초지능의 거대한 힘은 인류를 무력화하고 멸종시킬 수도 있지다”면서 “현재 초지능 AI를 조정 또는 통제하고, 제멋대로 행동하는 것을 막는 해결책은 없다”고 밝혔다.

이들은 “인간보다 지능적으로 뛰어난 초지능 AI가 10년 내 등장할 것”며 “이를 통제하기 위해서는 현재보다 뛰어난 기술이 필요하며, 결국 AI가 인간에게 유익한 상태를 유지하기 위해서는 이른바 ‘정렬 연구(alignment research)’에서 획기적인 발전이 필요하다”고 강조했다.

마이크로소프트로부터 투자를 받은 오픈AI는 향후 4년간 컴퓨팅 능력의 20%를 이 문제 해결에 투입할 계획이다. 아울러 이를 전담할 ‘슈퍼정렬팀’을 구성하고 있다고 덧붙였다.

슈퍼정렬팀의 목표는 인간 수준의 정렬전문 AI를 개발하는 것이다. 인간의 피드백을 활용해 인간의 평가를 보조할 수 있도록 AI를 훈련시켜서 최종적으로 AI가 정렬 연구를 수행할 수 있도록 한다는 계획이다.

AI 기술이 급속도로 발달하자 지난 4월 AI 업계 지도자와 전문가들은 오픈AI가 챗GPT-4보다 강력한 시스템 개발을 6개월간 중단할 것을 촉구한 바 있다. 전세계 규제당국도 AI부작용을 줄일 수 있는 규제 마련에 적극 나서고 있다.

김상윤 (yoon@edaily.co.kr)