SK·엔비디아도 찜한 K-스타트업…"AI 보안으로 ‘로봇 도둑’ 원천 차단"

유상윤 에임인텔리전스 CEO 인터뷰
의도치 않은 결제 등 취약점 막는 앱 개발
오픈AI 가드레일·엔비디아 인셉션 등 선정
연 매출 60억 목표…금융·제조AI 영역 확장

"휴머노이드 로봇이 칼을 들고 있는 장소가 강남역 사거리인지, 부엌인지에 따라 위험도는 달라지지만 로봇 입장에서는 다를 바 없다. '매출 극대화'를 명령어로 제시했을 때 도덕성을 판단하지 못하는 로봇은 돈을 훔칠 수도 있다."

유상윤(29·사진) 에임인텔리전스 최고경영자(CEO)는 디지털타임스와의 인터뷰에서 "소프트웨어 공간에서 이뤄지는 외부 해킹 등이 물리 공간에서 벌어지면 생명의 위협으로 이어질 수 있다"며 이같이 경고했다.

유 CEO는 서울대 전기정보공학부 학·석사로 리스폰서블(Responsible) 인공지능(AI) 분야를 연구했다. 이후 서울대병원에서 소프트웨어 엔지니어 등을 지내다, 'AI가 스스로 일하는 시대'에서 안전장치를 만든다는 목표로 2024년 7월 에임인텔리전스를 설립했다.

최근 빌 게이츠 마이크로소프트(MS) 공동창업자가 "AI가 10억명의 사망자를 낳는 사건을 일으킬 만큼 강력하다"고 경고한 것도 같은 맥락이다.

유 CEO는 "대학원생 시절 거대언어모델(LLM)이 등장하고 다들 성능만 얘기만 할 때, 사람들이 생각하는 미래를 이루려면 보안이 병목이 되겠다고 여겼다"며 "연구보다 창업을 통해 생각하는 문제를 풀어가는 것이 더 임팩트를 줄 수 있을 것이라 판단했다"고 회사 설립 배경을 설명했다.

에임인텔리전스의 보안솔루션은 '스팅어'(공격)와 '스타포트'(방어)를 두 축으로 하고 있다. 스팅어는 다른 AI 서비스를 공격해 취약점을 미리 찾아내는 솔루션으로, AI 애플리케이션의 취약점을 찾는데 강점이 있다.

AI 에이전트의 경우 사용자의 의도와 다르게 명령이 주입돼 '의도치 않은 결제' 등의 행동을 일으킬 수 있다는 점에서, 전통적인 사이버 보안과 차별된다. 흔히 '로봇이 사람을 공격할 수 있다'는 우려도 여기에서 파생된다.

에임인텔리전스는 작년 11월엔 오픈AI의 보안 솔루션인 '가드레일'에 아태지역 스타트업 중 유일하게 소개됐다. 지난 8월엔 엔비디아의 스타트업 육성 프로그램인 '인셉션'에 도전한 그랜드 챌린지' 1만개 기업 중 아태지역 최종 10개 기업에도 포함되는 등 글로벌 시장에서 기술력을 인정받고 있다.

유 CEO는 "오픈AI 가드레일의 경우 출시 전 직접 자사의 도구로 진단했고, 일부 취약점을 발견했다. 이를 기반으로 자사 모델을 활용하는 형태의 파트너십을 맺고 있다"며 "엔비디아로부터는 자금을 비롯해 기술이나 상업적인 부분에서 지원받고 있다"고 설명했다.지난 7월엔 SK의 사회적기업 행복나래가 선정한 'SK임팩트부스터' 1기 육성기업 9곳에도 선정됐다. 현재 과학기술정보통신부가 주도하는 '모두의 AI' 프로젝트 중 SK텔레콤 컨소시엄에 참여하고 있다.

모두의 AI는 국산 AI챗봇을 비롯해 전화·문자와 카카오톡 등 일상적인 서비스에서 예약·신청·결제까지 지원하는 AI 에이전트를 목표로, 에임 인텔리전스는 보안 부문을 담당하고 있다. 이 프로젝트는 현재 SKT를 비롯한 카카오·KT 등 3개 컨소시엄이 연내 출시를 목표로 하고 있다.에임인텔리전스는 이를 기반으로 현재 국내 주요 은행·보험 등 금융권을 비롯해 증권, 통신, 제조 기업들을 고객사로 두고 있다. 삼성, SK, 현대차, LG 등 국내 대기업을 비롯해 오픈AI, MS 등 글로벌 빅테크와도 파트너십을 구축하고 있다.

그는 "금융 부문은 개인정보가 중요하다면, 제조는 기업 기밀이 우선시 된다"며 "AI팩토리의 에이전트 관제 솔루션을 제공하는 등 제조 분야에서도 AI 에이전트를 잘 활용할 수 있도록 솔루션을 제공하고 있다"고 말했다.

설립 후 누적 투자 유치 금액은 올해 시리즈A 라운딩을 포함해 130억원가량으로 삼성벤처투자, 미래에셋캐피탈, 스마일게이트인베스트먼트, 블루포인트, 포레스트벤처스 등이 투자자로 참여했다. 현재 직원 수는 40여명이다.

그는 "AI가 단순한 질의응답을 넘어 직접 업무를 수행하는 'AI 에이전트'로 진화하면서 새롭게 부상한 보안 위협을 선제적으로 대응해야 할 필요성이 높아지고 있다"며 "글로벌 AI 보안 시장에서 한국을 대표하는 기업이 되도록 해 나갈 것"이라고 밝혔다.

장우진 기자

jwj17@dt.co.kr

유상윤 에임인텔리전스 최고경영자(CEO). 장우진 기자