"AI 기술에도 안전장치 필요"…국제인공지능윤리협회 콘퍼런스

'ASC 콘퍼런스'에서 강연하는 과학기술정보통신부 엄열 정보통신정책관 [국제인공지능윤리협회 제공]

(서울=연합뉴스) 노재현 기자 = 국제인공지능윤리협회(IAAE)는 16일 서울 강남구 '마루180'에서 기업을 위한 인공지능(AI) 윤리와 AI 안전 방향성을 주제로 제1회 'ASC(AI Safety Compass) 콘퍼런스'를 개최했다.

행사에는 법무법인, 금융권, 교육기관, 스타트업 등 AI 도입을 계획하는 다양한 분야의 기업 및 기관 관계자 100여명이 참석했다.

연사로 나선 과학기술정보통신부 엄열 정보통신정책관은 올해 AI 정책 방향을 설명하며 ▲ AI 일상화 확산 ▲ 혁신 AI 인프라 고도화 ▲ 글로벌 파트너십 확장 ▲ 지역·중소기업·정부 AI 활용 촉진 등의 계획을 발표했다.

윤창희 한국지능정보사회진흥원(NIA) AI정책연구팀장은 국내외 초거대 AI 기술, 정부의 초거대 AI 구축 전략 등을 소개했다.

그는 현재 국회에 계류 중인 'AI 기본법'의 특징으로 처벌 조항이 없는 점 등을 꼽았다.

기업 세션에서는 거대언어모델(LLM) 하이퍼클로바X를 보유한 네이버의 이화란 퓨처AI센터 리드가 LLM의 안전성과 신뢰성에 대한 문제들을 소개했고 AI 기술 기업 '업스테이지'의 박찬준 수석연구원은 자사 LLM '솔라' 개발 과정에서 AI의 신뢰성 확보를 위한 노력을 설명했다.

전창배 IAAE 이사장은 "위험할 수 있는 자동차를 안전하게 탈 수 있는 것은 브레이크와 같은 기술적 안전장치와 더불어 도로교통법 등 법과 제도 덕분"이라면서 "인공지능 역시 윤리라는 안전장치가 필요하고 안전한 인공지능 생태계 구현을 위한 법과 제도 마련이 중요하다"고 말했다.

nojae@yna.co.kr

▶제보는 카톡 okjebo