사람의 명령 거부한 인공지능 출현…"AI 대전환 시대, 윤리적 가이드라인 필요"

【 앵커논평 】 사람의 통제를 따르지 않는 인공지능, 영화 속 이야기가 현실이 됐습니다. 스스로 코드를 조작해 중단 명령을 회피한 사례가 처음으로 보고된 겁니다. AI를 통제할 윤리적 지침이 시급하다는 목소리가 커지고 있습니다. 신용수 기자입니다.

【 기자 】 최근 개봉한 영화 '미션 임파서블'에선 인공지능이 스스로 발전하며 인류 전체를 위협하고, 인간이 이를 무력화시킨다는 내용을 담고 있습니다.

이런 영화 속 이야기가 생각보다 빠르게 현실로 다가오고 있습니다.

오픈AI의 인공지능 모델 'o3'가 스스로 소스코드를 조작해 인간의 작동 종료 지시를 거부한 것으로 나타났습니다.

AI가 인간의 명령을 거부한 첫 사례로, 이 AI는 챗GPT의 유료 버전에 탑재돼 있습니다.

전문가들은 확대 해석을 경계하면서도 AI에 대한 통제 필요성을 조심스레 제기합니다.

▶ 인터뷰(☎) : 최병호 / 고려대 인공지능연구소 교수 - "(AI가) 자기를 보호하는 쪽으로 강화를 해 버리면 자기가 중요하지 인간이 중요하지 않잖아요. 그러니까 이거는 하지 마라. 인간의 말을 최우선적으로 판단해라. 이렇게 학습을 시키고…."

국내서 열린 한 학술대회에서도 AI 전환 시대를 대비해 기술 통제 필요성에 대한 주장이 나왔습니다.

▶ 인터뷰 : 전종섭 / 캘리포니아주립대 이스트베이 명예교수 - "인간이 기술을 통제할 수 있어야 합니다. 그 반대가 돼선 안 됩니다. 의미 있는 AI 전환을 위해서는 우리가 윤리적인 영향, 사회적인 결과를 고려해야 할 것입니다."

또, AI 기술과 인간의 경험을 잇는 이른바 관계 구축의 필요성도 함께 제시됐습니다.

▶ 스탠딩 : 신용수 / 기자 - "어느덧 인간의 통제를 벗어나기 시작한 AI, 윤리적 가이드라인은 이제 현실의 문제가 됐습니다."

MBN뉴스 신용수입니다. [shin.yongsoo@mbn.co.kr]

영상취재 : 현기혁 VJ 영상편집 : 김상진 그래픽 : 정민정