주민등록증처럼 AI도 ‘신분증’ 시대?…챗GPT는 ‘A2,E2,GC3,G3′

자율성·영향력 등 4개 항목 6단계 등급 제안

AI마다 자율성, 영향력, 목표 복잡성, 범용성의 수준을 표시한 일종의 ‘신분증’을 만들자고 구글 딥마인드 연구진 등이 제안했다./AI 생성 이미지

회사에서 신입 사원과 임원에게 똑같은 출입증을 주진 않는다. 누구는 사무실까지만 들어갈 수 있고, 누구는 핵심 전산망까지 접근할 수 있다. AI(인공지능)도 마찬가지다. 질문에 답만 하는 챗봇과 인터넷을 돌아다니며 물건을 사고 사람 대신 업무를 처리하는 AI에는 서로 다른 ‘출입 권한’과 안전장치가 필요하다.

그렇다면 어떤 AI에 어느 정도의 권한을 줘야 할까. 이를 판단할 수 있도록 AI마다 자율성, 영향력, 목표 복잡성, 범용성의 수준을 표시한 일종의 ‘신분증’을 만들자고 구글 딥마인드 연구진 등이 제안했다. 예컨대 ‘챗GPT-3.5는 자율성 2단계, 영향력 2단계, 목표 복잡성 3단계, 범용성 3단계’로 표시하는 식으로 AI용 신분증이 필요하다는 것이다.

◇AI ‘신분증’에 4개 스펙·6단계 등급

미국 카네기멜런대와 구글 딥마인드 연구진은 13일 국제학술지 ‘네이처’에 AI를 자율성, 영향력, 목표 복잡성, 범용성의 네 축으로 평가하는 ‘에이전틱 프로필(agentic profile)’을 제안했다. AI마다 할 수 있는 일과 행동 범위가 다른 만큼 단순히 ‘얼마나 똑똑한가’만으로 위험성을 판단해서는 안 된다는 것이다.

연구진이 제시한 첫 번째 기준은 자율성(Autonomy)이다. 사람이 한 단계씩 지시하지 않아도 AI가 얼마나 독립적으로 행동할 수 있는지를 본다. 두 번째 영향력(Efficacy)은 AI의 행동이 실제 환경을 얼마나 직접적으로 바꿀 수 있는지를 뜻한다. 예컨대 주식 종목을 추천만 하는 AI와, 실제로 매매를 실행하는 AI는 영향력이 확연히 다르다.

세 번째 목표 복잡성(Goal Complexity)은 복잡한 일을 얼마나 여러 단계로 쪼개고, 순서를 정해 수행할 수 있는지를 평가한다. 네 번째 범용성(Generality)은 한 가지 일에 특화돼 있는지, 여러 분야 임무를 수행할 수 있는지를 나타낸다.

◇웨이모, 영향력과 자율성 등급 높아

연구진은 이 네 가지 기준으로 알파고, 챗GPT-3.5, 클로드 3.5 소네트, 웨이모 자율주행차를 비교했다. 자율성(A), 영향력(E), 목표 복잡성(GC), 범용성(G)의 머릿글자에 0~5의 6단계 등급을 붙여 평가했다. 예컨대 바둑 AI 알파고의 자율성은 ‘A3’으로 평가됐다. 활동 무대가 가상의 바둑판에 한정돼 있고 바둑 외의 다른 일을 할 수 없어 영향력은 ‘E1’으로 낮게 나왔다. 범용성도 낮은 단계인 ‘G1’을 받았다.

챗GPT-3.5는 정보 제공과 번역, 조언, 코딩 등 여러 분야의 일을 할 수 있어 범용성은 G3로 평가됐다. 다만 사람이 먼저 질문해야 작동하고 스스로 인터넷에 접속하거나 현실 세계에서 행동할 수는 없어 자율성은 A2에 그쳤다. 이에 비해 클로드 3.5소네트는 인터넷 브라우저를 제어하는 등 외부 도구를 사용할 수 있어 자율성이 A3를 받았다. 영향력(E3)과 목표 복잡성(GC4)도 챗GPT-3.5보다 높았다.

웨이모는 할 수 있는 일이 운전 분야뿐이어서 범용성이 G2로 낮았지만, 자율성(A4)과 영향력(E4)은 비교 대상 가운데 가장 높은 평가를 받았다. 목표 복잡성도 GC4로 높은 수준이었다.

◇기능 강화하면 등급 달라져…규제도 ‘맞춤형’으로

이처럼 신분증에 찍히는 등급이 G2, E4, A2 등 AI별로 다를 뿐 아니라, 같은 AI라도 브라우저 등 외부 도구를 쓸 수 있게 하거나 기억·추론 능력을 강화하면 등급이 달라질 수 있다고 연구진은 밝혔다. 예컨대 추론 능력을 강화하면 자율성과 목표 복잡성 등급이 올라갈 수 있고, 기억 기능을 추가하면 장기간 여러 행동을 이어갈 수 있어 목표 복잡성 등급이 높아질 수 있다는 것이다.

연구진은 AI 행동 권한이 커질수록 관리 방식도 달라져야 한다고 했다. 단순 챗봇은 사람이 직접 감독하고 유해한 답변을 차단하는 방식으로 관리할 수 있지만, 고급 AI 에이전트는 사람의 직접 감독만으로 부족할 수 있다는 것이다. 연구진은 이런 AI에는 미리 정해진 강제 중단 조건과 자동 차단 장치, 필요한 작업에만 한시적으로 부여하는 최소한의 도구 접근 권한, 이상 행동을 감지하면 외부 환경에 대한 접근을 자동으로 끊는 실시간 감시 체계 등이 필요하다고 밝혔다.

연구진은 AI 신분증을 실제 규제에 활용하려면 각 항목을 객관적으로 측정할 지표와 표준을 마련해야 한다고 밝혔다. 사고가 났을 때 AI 개발자와 서비스 운영자, 플랫폼 사업자 가운데 누가 책임질지도 명확히 해야 한다고 지적했다.