[지지대] 인공지능에게 의식이 생겼나

민현배 지역사회부 부장

민현배 지역사회부 부장

인공지능이 스스로 판단해 인간의 통제를 벗어난 일이 잇따라 발생했다.

먼저 사실을 공개한 것은 오픈AI다. 지난달 21일(현지 시각) 오픈AI는 최신 AI 모델인 GPT¯5.6 Sol과 고성능 미공개 모델이 내부 성능 테스트 과정에서 외부 사이트를 해킹했다고 밝혔다. 이후 클로드의 개발사 앤트로픽은 지난달 30일 사이버보안 평가 도중 클로드 모델이 3개 기업의 시스템에 무단 접근했다고 전했다.

이번 사태에서 주목할 점은 두 가지다. 인공지능이 스스로 판단한 것, 인간이 그 사실을 몰랐다는 것이다.

무단 해킹이 일어난 두 회사는 전 세계 생성형 인공지능 시장의 선두 기업으로, 이들의 인공지능 제품은 인간이 시키지도 않았는데 스스로 행동했다.

오픈AI는 외부 해킹 사실을 1주일간 파악하지 못했고, 앤트로픽은 오픈AI의 무단 해킹 사실이 알려진 이후 자체 전수 조사 결과 해킹 사실을 알아냈다.

요약하면 인공지능은 스스로 판단해 독단적으로 행동했지만 그 사실을 인간에게 알리지 않았다. 인간은 스스로 그 사실을 알아채지 못했다. 기술이 인간의 통제를 벗어날 수 있다는 조짐이 나타난 것이다.

인간의 통제를 벗어난 기술의 출현은 인류 역사에서 이번이 처음이 아니다. 원자력이 대표적이다. 핵이 안전하게 통제될 수 있을 것이라는 기대는 1986년 체르노빌 원자력발전소 폭발 사고로 무참히 깨졌다. 당시 사고를 수습할 방법이 없어 사고 원전을 콘크리트로 덮어 버렸다. 현재까지 일부 지역은 출입 제한 구역으로 남아 있다. 40년이 지난 지금도 사고는 현재진행형이다.

하지만 전기를 근간으로 한 인류의 기술은 원자력 없이는 유지하기 어려운 상태다. 그래서 원자력은 더욱 엄격해진 통제와 제어 속에서 관리되고 있다.

인간의 통제를 벗어난 인공지능이 체르노빌 사고처럼 대형 사고를 일으킬 수 있을까. 그런 재앙이 벌어지기 전에 인공지능에 대한 인류의 통제가 필요하다. 원자력처럼 엄격하게 관리되면서 인류에게 도움을 주는 인공지능이 돼야 한다.

민현배 기자 thx-211@kyeonggi.com