[충청일보]


[이규철의 100세 대학] 이규철 법학박사·신중년행복디자이너

◇ AI의 대표적인 문제점 및 단점

첫째, 기밀 정보의 누설이다. 사용자가 AI에 입력한 데이터는 회사 내부의 기밀 정보나 고객의 개인정보 등을 입력해 버리면 AI 서비스 제공자나 다른 사용자에게 기밀 정보가 유출될 위험이 존재한다.

둘째, 프롬프토인젝션(Prompt Injection)이다. 프롬프트 인젝션이란 악의적인 사용자가 ChatGPT 등 AI에 특수한 지시나 질문을 입력함으로써 본래 공개하지 말아야 할 기밀 정보나 데이터를 빼내는 사이버 공격의 일종이다.

셋째, 저작권·상표권 등 권리침해다. 생성된 콘텐츠에 기존 콘텐츠와의 유사성 및 의거성이 인정되면 저작권자는 저작권 침해로서 손해배상 청구 및 금지 청구가 가능하며, 형사처벌 대상이 될 수 있다.

넷째, 딥페이크(Deep Fake)이다. 딥러닝 기술을 활용해 실제로 사기나 가짜뉴스의 확산 등에 악용되어 큰 문제가 되고 있다.

다섯째, 잘못된 아웃풋 생성(Hallucination)이다. AI의 이용 방법에 따라서는 사실과 다른 잘못된 정보 아웃풋을 진실처럼 당당하게 생성하는 할시네이션이라는 현상이 일어난다.

여섯째, 윤리적으로 부적절한 출력이다. 생성AI의 아웃풋은 학습데이터의 내용에 크게 좌우된다. 인종이나 성 의식에 관한 차별이나 증오를 조장하는 내용 등 윤리적으로 부적절한 아웃풋이 생성되어 버릴 위험이 존재한다.

일곱째, AI 과신으로 인한 업무 오류다. AI는 매우 편리한 도구이며 적절하게 이용함으로써 업무 생산성을 크게 높일 수 있지만 어떤 상황에서도 만능인 것은 아니다. 예를 들어 AI를 이용해 법적인 계약서를 작성한 경우 잘못된 법적 내용을 담은 문서가 작성될 수도 있다.

◇ AI의 문제점에 대한 해결책

첫째, 최적의 AI 활용 범위 설정이다. AI는 모든 업무에 만능은 아니며, 명확하게 잘 못하는 것이 존재한다. 따라서 AI 활용의 성과를 극대화하고 위험을 최소화하기 위해서는 활용할 범위를 적절하게 설정하는 것이 매우 중요하다.

둘째, 최적의 AI 툴 선정 및 도입 시 각 기업의 상황이나 목적에 최적인 AI 툴의 선정과 도입은 안전하고 효율적인 AI 활용을 위해 중요하다.

셋째, 리스크를 최소화하는 데이터 관리다. AI는 입력된 데이터를 기반으로 작동하기 때문에 데이터 관리의 질이 AI의 출력 품질과 직결된다. 데이터의 정확성, 편향성, 기밀성 유지는 위험을 최소화하는 데 매우 중요하다.

넷째, 직원용 이용 규칙·매뉴얼의 책정이다. 구체적으로 사내에서 AI 사용 목적, 사용범위, 윤리 가이드라인, 데이터 취급의 룰·매뉴얼을 책정할 필요가 있다.

다섯째, 직원의 AI 활용 리터러시 향상이다. AI의 잠재력을 최대한 활용하고 동시에 위험을 관리하기 위해서는 직원의 AI에 대한 이해와 기술, 즉 AI 리터러시(literacy, 응용력)를 향상시키는 것이 필수다. 연수 프로그램이나 실천적인 트레이닝을 통해서, 직원이 AI의 기본적인 지식, 적절한 사용방법, 관련되는 리스크를 이해시켜, 효율적이고 책임 있는 방법으로 사용할 수 있는 환경을 구축하는 것이 요구된다.

여섯째, 최신 동향의 AI 활용 방법 정기적 재검토다. AI의 기술·서비스는 나날이 진화하고 있어, 새로운 활용 방법이나 이용 프로세스가 등장하고, 그에 따라 새로운 리스크가 발생할 가능성이 높다. 따라서 국내외 AI에 관한 최신 동향을 항상 파악하여 기업의 AI 활용 방법을 정기적으로 재검토하고 갱신하는 것이 필요하다.

<저작권자 Copyright ⓒ 충청일보 무단전재 및 재배포 금지>