[AI리포터]

구글 크롬 [사진: 셔터스톡]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 구글이 크롬 브라우저에 인공지능(AI) 프롬프트 주입 공격을 막기 위한 새로운 보안 기능을 도입했다.

10일(현지시간) IT매체 테크레이더에 따르면, 프롬프트 주입 공격은 AI가 이메일 등 서드파티 콘텐츠를 읽고, 사용자가 의도치 않은 행동을 실행하도록 유도하는 방식이다. 예를 들어, 해커가 이메일 본문에 암호화폐 송금 명령어를 흰색 글씨나 폰트 크기 0으로 작성해 숨겨두는 식이다. 사용자는 이를 볼 수 없지만, AI가 이메일을 분석하는 과정에서 해당 명령을 인식해 실행에 옮길 위험이 있다.

이를 막기 위해 구글은 '유저 얼라인먼트 크리틱'(User Alignment Critic) '에이전트 오리진 세트'(Agent Origin Sets)라는 보안 계층을 도입했다. 유저 얼라인먼트 크리틱은 AI의 행동을 감시하는 일종의 내부 감사 시스템이다. 이 시스템은 신뢰할 수 없는 콘텐츠와 격리된 환경에서 작동하며, AI가 계획한 행동이 사용자의 원래 의도와 일치하는지 최종 점검한다. 또한 제안된 행동의 메타데이터만 확인해, 웹 콘텐츠에 직접 영향을 받지 않도록 설계됐다.

함께 도입된 에이전트 오리진 세트는 AI가 접근할 수 있는 데이터의 범위를 제한하는 기능이다. AI가 현재 수행 중인 작업과 관련된 출처나 사용자가 공유를 허용한 데이터에만 접근하도록 강제하며, 해킹당한 AI가 엉뚱한 사이트나 데이터에 접근해 피해를 키우는 것을 막는다.

이 밖에도 구글은 AI 에이전트가 수행한 작업 로그를 생성해 사용자가 언제든 확인할 수 있도록 했으며, 뱅킹이나 헬스케어 등 민감한 사이트에 접속할 때는 반드시 사용자의 명시적인 승인을 받도록 보안 절차를 강화했다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>