방승찬 ETRI 원장 "연내 AI안전연구소 설립해 국가·사회 안전 확보"

방승찬 ETRI 원장이 27일 기자간담회를 하고 있다. ETRI 제공

방승찬 한국전자통신연구원(ETRI) 원장이 인공지능(AI) 기술의 실존·잠재적 위험 확대에 대비해 AI안전연구소를 연내 설립한다고 밝혔다.

방 원장은 27일 서울 강남 과학기술컨벤션센터에서 열린 'ETRI 컨퍼런스 2024'를 마치고 진행된 기자간담회에서 "AI 기술 발전의 방향과 속도를 예측하기 힘든 상황에서 AI 안전 확보를 위한 민간의 자율적인 노력에 더해 정부 역할이 필요한 시점"이라고 말했다.

방 원장은 "생성형 AI 기술이 급속도로 발전하고 있지만 AI의 기술적 한계와 인간의 기술 오용, AI 자율성 확대 등으로 AI의 위험성도 함께 증가하고 있다"며 "AI 위험은 국가사회 안전과 직결된다"고 설명했다.

그는 또 "자국 AI 안전 전담 조직 운영은 글로벌 AI 혁신 경쟁에서 뒤처지지 않기 위한 최소한의 전제"라며 "해외와 평가 상호인정체계 구축 등을 통해 국내 AI 기업의 글로벌 진출을 뒷받침해야 한다"고 밝혔다.

ETRI는 올 하반기 내에 연구소급 단위로 AI안전연구소를 설치한다. AI안전연구소는 AI 안정성을 검증하고 연구하는 전담 기관으로 AI안전검증, AI안전기술연구, AI안전정책 및 글로벌 협력 등으로 구성될 계획이다.

[이병구 기자 2bottle9@donga.com]