과학기술정보통신부가 글로벌 인공지능(AI) 기업 앤트로픽과 만나 AI 안전과 사이버보안 분야 협력 방안을 논의했다. 고성능 AI 모델이 사이버 공격과 방어 영역에 모두 활용될 수 있다는 우려가 커지는 가운데, 정부가 글로벌 AI 기업과 위험 대응 체계 마련에 속도를 내는 모습이다.
과기정통부는 11일 외교부, 국가정보원, 금융위원회, 인공지능안전연구소(AISI), 한국인터넷진흥원(KISA), 금융보안원과 함께 앤트로픽과 AI·사이버보안 분야 협력 방안을 모색하기 위한 간담회를 열었다고 밝혔다. 이번 간담회에는 류제명 과기정통부 제2차관과 김명주 AISI 소장, 오진영 KISA 본부장 등이 참석했고, 앤트로픽에서는 마이클 셀리토 글로벌 정책총괄 등이 자리했다.
정부는 앤트로픽과 협력해 AI 보안 대응 체계를 갖추겠다는 계획이다. 이번 간담회에서 과기정통부는 앤트로픽에 국내 사이버보안 기업과 기관과의 협력을 제안하고, AI 모델 관련 취약점이 공개될 경우 한국도 사전에 대비할 수 있도록 정보 공유를 요청했다.
앤트로픽은 챗봇 클로드를 운영하는 글로벌 AI 기업으로, 모델 성능이 높아질수록 악용 가능성까지 함께 커진다는 점을 꾸준히 강조해 왔다. 실제로 최신 AI 모델은 코드 작성과 취약점 분석, 보안 문서 해석에 활용될 수 있는 만큼 방어 수단이 될 수 있지만, 반대로 공격 자동화나 피싱 고도화에 악용될 수 있다는 우려도 나온다.
특히 AI 모델의 취약점은 특정 서비스에만 영향을 주는 데 그치지 않는다. 하나의 모델이 기업 업무나 금융, 공공 서비스 등에 동시에 활용될 수 있는 만큼 보안 이슈가 발생하면 파급 범위도 커질 수 있다. 정부가 국가정보원, 금융위원회, KISA, 금융보안원 등과 함께 간담회에 참석한 것도 이런 위험을 산업 전반의 문제로 보고 있기 때문이다.
이날 현장에서는 AI기본법과 관련된 논의도 이어졌다. 우리나라는 전 세계에서 두 번째로 AI 관련 법을 제정한 국가다. 올해 1월 22일 시행된 AI기본법은 AI 안전성과 신뢰성을 주로 다루고 있다. 예를 들어 개발 기업이 AI 모델을 만들기 위해선 안전성 검사를 받아야 한다.
과기정통부는 AI 모델의 안정성 확보를 위한 AISI와 앤트로픽 간 협력을 제안하고, 앤트로픽에 대해 글로벌 AI 선도기업으로서 다양한 경험을 공유해 주기를 요청했다.
류제명 과기정통부 제2차관은 "프론티어급 AI 모델의 성능이 급격하게 증가하고 활용 범위도 확대되고 있어, AI 혁신과 더불어 국민과 기업이 AI를 안전하게 활용할 수 있는 환경을 조성하는 것은 중요한 과제"라며 "AI 모델의 안전성 확보, 사이버보안 역량 강화 등 AI 위험에 대한 예방·대응 체계 강화를 위해 글로벌 AI 선도기업들과 적극 협력해 나가겠다"고 말했다.
