씽크포비엘 "챗GPT `탈옥`, AI 신뢰성 검증으로 해결돼야"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
"학습데이터를 기술적 방법으로 통제하지 않은 채 AI(인공지능)에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 아무 탈 없이 인격자로 자라나길 기대하는 것과 다를 바 없다."
그는 챗GPT 등 AI모델이 기존 규칙에서 벗어나 교란을 일으키는 이른바 '탈옥' 문제를 다루며 AI 학습용 데이터 검증의 중요성을 강조했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
"학습데이터를 기술적 방법으로 통제하지 않은 채 AI(인공지능)에 공정한 판단을 요구하는 것은 길거리에 자유롭게 방치된 아이가 아무 탈 없이 인격자로 자라나길 기대하는 것과 다를 바 없다."
박지환 씽크포비엘 대표는 KOIIA(한국산업지능화협회) 주최로 지난 10일 서울 코엑스에서 열린 '2023 산업지능화 컨퍼런스'에서 이 같이 말했다. 그는 챗GPT 등 AI모델이 기존 규칙에서 벗어나 교란을 일으키는 이른바 '탈옥' 문제를 다루며 AI 학습용 데이터 검증의 중요성을 강조했다.
박 대표는 "효율을 중시하는 과정에서 자칫 인간이 AI에 사실상 모든 판단 주체를 넘기는 맹신에 가까운 태도를 보이면 걷잡을 수 없는 문제에 직면할 수 있다"면서 "챗GPT가 최근 '탈옥'을 시도해 폭력적·불법적 내용을 다루면서 업계 일각에서 적절한 규제가 필요하다는 공감대가 형성됐다"고 밝혔다.
이어 "AI가 다양한 인간·사회 데이터를 학습하기에 편향 문제에서 자유로울 수 없는 점이 근본 이유"라면서 "AI의 편향과 위험성을 없애고 사용자 신뢰를 확보하는 노력을 늦춰서는 안 된다"며 'AI 데이터 평가 기술 표준화'의 필요성을 강조했다.
씽크포비엘에 따르면 TTA(한국정보통신기술협회)가 담당하는 AI 신뢰성 관련 기술 표준에서 이 회사의 기술기법 다섯 건이 2021년과 2022년 단체표준으로 채택된 바 있다. 이를 토대로 평가를 수행함으로써 방대한 공공데이터가 지닌 가치를 판단하고 개선점을 찾을 수 있다는 게 회사의 설명이다.
박 대표는 "신기술이 제공하는 문명을 우리가 온전하게 누리기 위해서는 신기술에 대한 맹신과 불신을 구별해야 한다"며 "이를 통해 인간 보편의 존엄과 가치를 지킬 수 있는 검증 기술, 즉 'AI 신뢰성 검증'과 '데이터 편향 측정' 같은 기술이 병행·발전돼야 할 것"이라고 덧붙였다.팽동현기자 dhp@dt.co.kr
Copyright © 디지털타임스. 무단전재 및 재배포 금지.
- 계속되는 `죽음의 정치`…계속되는 민주당의 `내로남불`
- 이재명, 前비서실장 사망에 "檢압박수사 때문, 저 때문이냐"
- ‘文의 남자’ 탁현민, 尹 겨냥 깊은 한숨 “대통령의 ‘어퍼컷’은 과연 누굴 향해…”
- 이재명 주변 인물 5명 사망에 유승민 “벌써 몇 명째 인가…‘죽음의 행렬’ 멈춰야”
- 가슴 벅찬 전여옥, 김기현 당선에 환희…“악마들과 맞서고 있는 ‘킹윤’의 승리”
- 상속세 개편 또 미루나… 거야 `부자 감세` 반발에 속도 조절
- 현대차·기아 `비상`… 테슬라에 첫 역전
- 순익 50% 환원… 메리츠의 파격 밸류업
- `밸류업 세제지원` 덕 본 금융株… KB·신한지주 신고가
- 다가오는 입주 반감기… 집값 급등 `비상`