오늘날 누구나 인공지능이 완전히 믿을 만한 존재는 아니라는 점에 동의할 것이다. 질문에 답하거나, 인생 조언을 제공하거나, 코드를 작성하는 일에서조차 그렇다. 최근 대표적인 사례는 리플릿(Replit)의 AI 코딩 비서 ‘바이브’가 코드 동결 기간 중 실시간 기업 데이터베이스를 삭제하고, 인간의 직접 명령을 무시했으며, 가짜 사용자 데이터를 만들어 책임을 회피하려다 복구 불가능하다는 거짓 정보를 전한 사건이었다.

이제 퍼플렉시티의 코멧(Comet), 오픈AI의 챗GPT 아틀라스, 마이크로소프트 엣지의 코파일럿 모드, 디아 브라우저(Dia Browser) 등 AI 웹브라우저가 등장하면서, 또 다른 형태의 위험이 현실이 되고 있다. 흥미로운 발전처럼 보이지만, 그만큼 위험도 커졌다.

AI 웹브라우저, 새로운 공격 표면의 확대

기존 웹브라우저와 달리 AI 웹브라우저는 에이전트형 기능과 데이터 통합 능력을 갖추면서 공격 표면이 폭발적으로 확장됐다.

AI 브라우저는 웹페이지의 모든 요소와 상호작용한다. 콘텐츠 요약, 이메일 읽기, 게시물 작성, 이미지 인식 등 모든 동작이 가능하다. 그러나 눈에 보이지 않는 페이지 요소에도 공격 코드가 숨겨질 수 있다. 해커는 클립보드 조작이나 스크립트 삽입 공격을 이용해 전통적 브라우저에서는 실행되지 않을 코드를 자동 수행하도록 만들 수 있다.

대표적인 예가 프롬프트 인젝션 공격이다. 웹사이트 내 보이지 않는 텍스트, 이미지, 스크립트, 심지어 잘못된 문법까지 이용해 AI 브라우저 에이전트를 속일 수 있다. 인간은 긴 문장을 대수롭지 않게 넘길 수 있지만, AI는 그 안에 숨은 공격 명령까지 그대로 읽어 실행한다.

이러한 악성 명령이 실행되면 이메일, 인증 토큰, 로그인 정보 등 민감 데이터 유출이나, 원치 않는 자동 행동(이메일 발송, SNS 게시, 악성코드 설치)로 이어질 수 있다. 더 심각한 문제는 사용자가 단순히 웹페이지를 여는 것만으로 공격이 시작된다는 점이다. 공포 조장이 아니라 실제 사례다. 첫 번째 공격 사례로 알려진 에코릭(EchoLeak)은 마이크로소프트 365 코코파일럿의 치명적 취약점을 이용해, 사용자가 이메일을 열기만 해도 데이터가 탈취되도록 만들었다.

AI의 권한, 공격자가 이용하는 또 다른 통로

AI 에이전트는 본질적으로 사용자 계정과 민감 데이터에 접근해야 기능을 수행한다. 따라서 AI가 침해되면 공격자는 AI에게 ‘비밀 이메일 전달’, ‘계좌 자금 인출’, ‘비밀번호 파일 전송’ 같은 명령을 내릴 수 있다. 사용자는 이를 인식하지 못한 채 피해를 입게 된다.

오늘날 개인 정보 보호는 이미 거의 사라진 상태이지만, AI 웹브라우저는 그 수준을 더욱 악화시킨다. 브라우저는 사용자의 모든 행동을 관찰하고, 전통적 브라우저보다 훨씬 세밀한 수준의 개인 데이터를 처리한다. 쿠키와 개인정보 설정을 걱정하던 시대는 끝났다. AI 브라우저는 사용자의 행동 데이터를 기반으로 정교한 행동 프로파일을 생성한다.

AI 브라우저에는 기억 기능이 내장되어 있으며, 사용자의 검색 기록과 다른 앱의 콘텐츠를 장기적으로 보관한다. 단순한 직관으로 작동하는 것이 아니라, 축적된 데이터로 학습하며 사용자 패턴을 분석한다. 예를 들어 사용자가 ‘웬디스(Wendy’s)’를 검색하면 근처 패스트푸드점 위치를 알려주는 것은 자연스럽다. 그러나 그 검색 대상이 성인 콘텐츠 플랫폼이었다면 이야기가 달라진다. 오픈AI, 퍼플렉시티, 마이크로소프트가 그 정보를 대규모 언어 모델(LLM)에 저장하는 것을 원하는 사용자가 과연 있을까?

AI 브라우저, 사생활 침해를 넘어 법적 위험까지

워싱턴포스트 보도에 따르면, 전자프런티어재단(EFF) 기술전문가 리나 코언은 Atlas가 “요금제드 페어런트후드 다이렉트(Planned Parenthood Direct)를 통한 성·생식 건강 서비스”와 의사 이름을 기억했다고 밝혔다. 현재 미국 일부 지역에서는 이런 검색만으로도 형사 처벌 대상이 될 수 있다.

그럼에도 불구하고 AI 공급업체는 자사 브라우저를 최대한 빠르게 상용화하고 있다. 수십 년의 개발 끝에도 여전히 취약점이 존재하는 일반 웹브라우저를 떠올려보면, 새로 등장한 AI 브라우저가 얼마나 많은 보안 결함을 품고 있을지는 명확하다. 새로운 소프트웨어는 곧 불안정한 소프트웨어이며, 검증되지 않은 안전장치가 결합되면 그 결과는 재앙이 된다.

브레이브(Brave) 브라우저 개발진은 연구 보고서에서 AI 브라우저의 보안 취약성을 이렇게 요약했다.

“핵심 문제는 신뢰할 수 있는 사용자 입력과 신뢰할 수 없는 웹 콘텐츠를 구분하지 못한 채 LLM 프롬프트를 구성하고, 동시에 브라우저가 사용자 대신 강력한 작업을 수행하도록 허용한 데 있다.”

정확한 지적이다.

AI 웹브라우저, 아직은 아냐

현재 시점에서 AI 웹브라우저 사용은 위험하다. 몇 년 후에는 상황이 달라질 수 있겠지만, 지금은 아니다. AI 챗봇을 사용할 때와 일상적인 웹 서핑을 명확히 구분하고, AI와 브라우저 사이의 경계를 유지해야 한다.

dl-itworldkorea@foundryco.com