[지지대] “인공지능 위험하다”는 인공지능 기업들

민현배 지역사회부 부장

민현배 지역사회부 부장

“이 분야에는 책임질 어른이 없다.” 구글에서 근무했던 조쉬 엥겔스라는 인물이 최근 미국 NBC 방송과의 인터뷰에서 한 말이다. 이어진 그의 말에는 막막함이 담겨 있다. “최선을 다하고 있지만 우리를 구해줄 사람이 아무도 없다.”

그가 말한 분야는 인공지능이다. 최근 인공지능 분야에서 경고음이 크게 들리고 있다. 앤트로픽에서 근무했던 조 벤턴은 “인공지능이 별개의 종으로 존재하게 될 가능성이 있다”고 경고했고, 같은 회사 연구원 제이컵 콕슨은 “10년 내 인공지능이 인류를 파멸시킬 수 있다”며 회사를 떠났다. 급기야 앙숙이자 경쟁 관계인 인공지능 기업 수장들마저 “인공지능 개발 속도를 늦춰야 한다”고 입을 모았다. 그러면서 다리오 아모데이 앤트로픽 최고경영자는 제3자 안전 평가자의 상주 배치, 민주주의 국가 간 표준 수립, 글로벌 공조 등 규제안을 함께 제시하기도 했다.

최첨단 기술을 다루는 기업과 연구원들의 말이니 파급력이 있다. 그렇지만 쉽게 인정하자니 뭔가 꺼림칙하다. 선두 기업이 요구하는 규제는 안전장치인 동시에 후발 주자의 진입을 막는 높은 장벽이 될 수 있다. 개발 속도를 늦추자고 해놓고 경쟁사 몰래 강력한 인공지능 서비스를 준비하고 있을 수도 있다.

그렇다고 이들의 경고를 기업의 숨은 계산으로만 몰아붙이는 것 역시 위험하다. 이해관계가 있다고 해서 이들이 보낸 경고의 내용까지 거짓이 되는 것은 아니다. 인공지능의 안전 기준은 개발 기업에만 맡겨서는 안 된다. 기업과 이해관계가 분리된 평가기관이 기술을 점검하고, 정부와 학계·시민사회가 규칙을 함께 만들어야 한다.

기업의 경고는 귀담아듣되 규제의 설계도까지 기업에 넘겨서는 곤란하다. 경고는 기업이 할 수 있지만, 안전의 기준은 사회가 정해야 한다.

민현배 기자 thx-211@kyeonggi.com