Veriato

<이미지를 클릭하시면 크게 보실 수 있습니다>

일부 AI 생산성 도구는 온라인 시간, 보낸 이메일, 기타 활동과 같은 데이터를 추적해 직원의 업무 점수를 매긴다. AI가 매긴 점수를 관리자가 해석하는 방법은 다양하다. 그 점수를 그대로 믿기도 하지만, 특히 사무실 환경에서는 직원에 대한 관리자의 판단과 질적 인사이트에 더 의존할 수도 있다.

코넬대학교의 직장 자동화 연구원이자 박사 과정 학생인 페가 모라디에 따르면, 기업이 해고와 같은 고용 관련 결정을 내릴 때 데이터의 전체적인 맥락을 고려하지 않고 점수를 사용하면 다른 문제가 발생한다. 기업은 직원에 대한 광범위한 데이터를 사용해 결정을 내릴 수 있지만, 직원은 자신에 대한 동일한 데이터에 액세스할 수 없기 때문에 불균형한 권력 관계가 발생한다. 모라디는 코로나19 이후 원격 근무가 증가하면서 직원이 로그아웃이나 자리비움 상태가 너무 오래 지속되면 “주의 추적”이 표시되는 것이 보편화됐다고 말했다.

모니터링에서 AI의 역할

관리자는 항상 직원 성과를 평가하기 위해 지표를 사용해 왔지만, 이제 AI 도구를 사용하면 이런 지표를 해석하기 어려운 단일 점수로 통합할 수 있다. 모라디에 따르면, 이런 추세는 LLM의 덕분에 점점 더 증가하고 있다.

LLM은 종종 직원의 행동 예측에 사용되는데, 여기에는 퇴사, 노조 결성, 기타 행동의 위험이 포함된다. 그러나 AI의 역할은 주로 이메일이나 메시지 같은 개인적인 커뮤니케이션을 분석하는 데 있다. 다른 사람의 메시지를 해석하는 것은 누군가의 업무 성과에 대한 잘못된 추론을 불러올 수 있기 때문에 까다로운 작업이 될 수 있다. 모라디는 “만약 알고리즘이 누군가를 해고하게 만든다면, 편견이나 의사결정 과정의 다른 문제에 대한 법적 구제 수단이 불분명하고, 알고리즘 결정의 책임에 대한 중요한 의문이 제기된다”고 지적했다.

AI가 보스웨어를 더 효율적이고 통찰력 있게 만들 수 있지만, LLM이 수집하는 데이터는 난해하다. 모라디는 “그래서 해고와 같은 결정이 어떻게 내려지는지 아는 것은 마치 블랙박스처럼 난해하다”고 덧붙였다.

노동자 권리 단체들은 원격 근무자 모니터링이 긍정적인 결과보다 부정적인 결과를 더 많이 낳는다고 주장한다. “보스웨어(bossware)”라는 용어를 처음 만든 전자 프런티어 재단은 직원 모니터링 소프트웨어를 사생활 침해 행위로 비난했다. 민주주의와 기술 센터(CDT)는 보스웨어를 직원의 안전과 건강에 대한 위협으로 비난했다.

CDT의 노동자 권리 및 기술 담당 선임 정책 고문인 매트 셰러는 코로나19로 데이터가 중요해지면서 지난 10년 동안 이런 도구의 사용이 증가했으며, 특히 코로나19 팬데믹으로 원격 근무가 증가했던 지난 몇 년 동안 크게 증가했다고 말했다. 보스웨어는 휴식을 방해하고 더 빠른 작업 속도를 강요하며, 다운타임을 줄이기 때문에 노동자의 건강에 좋지 않다. 이런 요소들이 결합되면 업무 부담으로 인한 신체적 부상 및 정신 건강 문제의 위험이 증가할 수 있다.

셰러는 “또한 조직화 권리를 방해하는 등 노동자의 법적 권리를 위협하는 방식으로 시스템을 사용하는 기업의 수가 증가하고 있는 것으로 보인다”라며, “하지만 가장 골치 아픈 것은 이런 감시 시스템이 얼마나 보편적인지, 어떤 기업이 이를 사용하고 있는지, 어떤 노동자가 영향을 받고 있는지 전혀 알 수 없다는 사실이다”라고 말했다.

전자 프런티어 재단의 대변인 허드슨 혼고는 대다수 보스웨어가 직원을 처벌하기 위한 것이라고 주장했다. 또한 노동자의 건강을 위협하고 사생활과 보안을 위험에 빠뜨릴 수 있다는 데도 동의했다.

혼고는 “노동자는 개인정보 침해, 부당한 해고, 그리고 자동화된 의사결정(ADM) 시스템에 의해 유도된 조치를 포함한 기타 부당한 대우로부터 보호받을 수 있는 법적 및 계약상의 권리를 가지고 있다”라며,”ADM 솔루션 업체는 효율성 향상이나 보다 객관적인 의사결정을 약속할 수 있지만, 이런 시스템은 종종 결함이 있고 편견을 반복적으로 보여 왔으며, 관련 지역 및 주 법률과 규정을 인식하지 못할 수도 있다”고 지적했다.

가트너 리서치에 따르면, 많은 IT 솔루션 업체가 성과 관리 시스템에 생성형 AI를 추가해 시간 절약과 보다 객관적이고 데이터 기반의 평가를 약속한다. 그러나, 성과 관리를 위한 AI에 관심이 없다고 응답한 인사 담당자가 52%에 달하는 등 AI 도입은 제한적이다. 가트너의 HR 부문 애널리스트인 로라 가디너에 따르면, HR 책임자는 AI의 참신함과 해결되지 않은 규정 준수 문제 때문에 이 기술을 도입하는 것을 주저하는 경우가 많다.

그러나 가디너는 2027년이 되면, 조직의 30%가 AI가 생성한 성과 피드백을 맥락에 맞게 해석하는 방법을 관리자에게 교육해 생성형 AI의 책임 있는 사용에 대한 관리자의 기술을 향상시킬 것으로 전망했다.

규제가 답일까?

하버드 법대 노동 및 공정 경제 센터에 따르면, 미국 캘리포니아, 일리노이, 뉴저지, 뉴욕, 버몬트 등 여러 주에서 채용, 해고, 보상과 관련된 자동화 도구를 규제하는 법안을 제안했다.

2023년 미국 매사추세츠주 법안은 노동자를 위한 사적 권리 행사와 함께 자동화된 의사 결정 및 감시로부터의 노동자 데이터 문제를 해결하고자 한다. 노동자는 자동화된 시스템에 의해 내려진 결정에 대해 이의를 제기하거나 수정할 수 있어야 한다. 대부분의 이런 조치에는 독립적인 서드파티가 수행해야 하는 영향 평가가 필요하다. 이 법안은 또 AI 또는 자동화된 시스템이 고용에 영향을 미칠 때 기업이 관련 정보를 포함한 평가 결과에 대한 적시 액세스를 제공하도록 요구한다.

매사추세츠주의 제안은 아직 법으로 제정되지 않았다. 셰러는 미국에는 고용주가 노동자에 대해 어떤 유형의 감시를 할 수 있는지, 또는 어떤 유형의 데이터를 수집할 수 있는지에 대해 엄격한 제한을 두는 법이 없다고 밝혔다. 또 “직장에서 직원의 사생활을 침해하는 행위가 소송의 대상이 되는 경우는 드물기 때문에 감시 도구가 보편화됨에 따라 더 강력한 규제가 필요하다”고 강조했다.

모든 보스웨어가 직원 성과 모니터링을 위한 것은 아니다. 데이터 유출의 가장 큰 원인은 의도적이든 의도적이지 않든 직원과 관련이 있기 때문에 보안상의 이유도 있다. 버라이즌의 연구에 따르면, 기업 데이터 유출의 82%는 직원의 실수나 안전하지 않은 행동의 결과이고, 최대 68%는 부주의한 행동이나 소셜 엔지니어링 사기에 속는 등 악의적이지 않은 인적 오류와 관련이 있다.

데이터 유출을 방지하기 위해 IT 부서는 직원 모니터링 소프트웨어를 사용해 불법 활동을 추적하고, 기밀 정보를 보호하며, 내부자 위협을 감시한다.

신뢰의 문제

기업이 신중하게 접근하면 직원 감시는 존엄성이나 신뢰를 훼손하지 않으면서 운영을 개선할 수 있다. 핵심은 이를 단지 기술 문제가 아니라 기업과 직원 간 힘의 균형 문제라는 점을 인식하는 것이다. 익스프레스VPN의 파슨스는 “생산성 도구에서 침입적인 형태의 감시 수단으로 전환되면 불신과 창의성 저해, 그리고 원망이 생겨난다. 기업은 모니터링 시스템이 의도치 않게 사기를 떨어뜨릴 수 있는지 생각해 볼 필요가 있다”고 강조했다.

예를 들어, 기업은 실시간 모니터링이나 생체 인식 추적 대신 결과에 초점을 맞출 수 있다. 그러면 노동자에게 더 많은 자율성을 부여해 긍정적이고 생산적인 작업 환경을 조성할 수 있다.

포레스터의 직원 경험 연구 책임자인 데이비드 브로드어 존슨은 “이런 종류의 도구를 사용해 공정성, 평등한 대우, 포용성을 보장할 수 있는 방법이 있다”라고 말했다. 예를 들어, 대규모 조직이 직원의 감정, 어조, 상호 작용에 대한 데이터를 익명으로 집계해 시간 경과에 따른 전반적인 분위기를 추적한다고 가정해 보자. 또는 불확실성, 불안감, 불신을 야기할 수 있는 주요 기업 변화를 발표한 후, 경영진이 데이터를 분석해 직원들이 어떻게 반응하는지, 어떤 부분에 대해 걱정하고 있는지, 혼란이 있는 부분은 어디인지 파악할 수 있다.

브로드어 존슨은 “이런 통찰력은 리더십이 메시지를 조정하고, 우선순위를 명확히 하며, 더 많은 지원을 제공할 수 있도록 도와준다. 그러나 이런 데이터가 비윤리적인 방식으로 사용될 위험도 있다”고 지적했다.

많은 기업이 액티브트랙(ActiveTrak), 마이크로소프트 비바(Microsoft Viva), 데스크 타임(Desk Time), 사피엔스 애널리틱스(Sapience Analytics) 등의 AI 기반 도구를 활용해 직원 성과와 업무 시간을 평가한다. 이외에도 베리아토(Veriato), 타임 닥터(Time Doctor), 스냅소프트(Snapsoft), 허브스태프(Hubstaff), 테라마인드(Teramind) 등의 도구가 있다.

직원 모니터링에 대한 ‘오해’와 싸우다

어웨어니스 테크놀로지스(Awareness Technologies)의 CEO인 엘리자베스 하츠는 직원 모니터링 소프트웨어 산업에 대한 “잘못된 정보”와 “오해”가 많다고 말한다. 대부분은 새로운 혁신에 대한 두려움에 근거한 것이다. 어웨어니스 산하 베리아토(Veriato)의 직원 모니터링 소프트웨어는 세일즈포스닷컴과 같은 업체가 제공하는 판매 추적 플랫폼과 다르지 않다는 것이 하츠의 설명이다. 단지 더 많은 비즈니스 사용례를 포괄할 뿐이다.

기업은 하이브리드 근무나 원격 근무와 관계없이 가장 중요한 자산인 사람과 데이터를 보호할 책임이 있다. 모니터링 소프트웨어는 이들이 안전한 근무 환경에서 일하고, 괴롭힘으로부터 보호받고, 고객 데이터가 오용되지 않도록 보호되고 있는지 확인한다.

하즈는 “이런 책임은 수십 년 동안 존재해 왔지만, 이제는 세일즈포스와 같은 영업 추적 도구가 표준이 된 것처럼, 기술을 통해 이런 책임을 보다 효과적으로 관리할 수 있는 현대적인 도구가 제공되고 있다”라며, “지난 20~30년 동안 일어난 모든 유형의 자동화를 옹호할 수 있으며, 그로 인해 얻은 이점을 확인할 수 있다. 이 분야도 마찬가지이다. 5년 후에는 매우 보편적인 현상이 될 것이라고 생각한다”고 강조했다.

Veriato

<이미지를 클릭하시면 크게 보실 수 있습니다>

기업은 베리아토의 소프트웨어를 사용해 회사에서 지급한 기기에서 직원의 행동을 모니터링한다. 이런 사용자 활동 모니터링(UAM)의 대상에는 스마트폰, 태블릿, 노트북, 데스크톱 등이 포함된다. UAM은 생산성 향상과 내부자 위험 관리라는 두 가지 주요 목표를 달성하는 데 도움이 된다.

예를 들어, 직원이 고객의 사회보장번호나 기타 개인식별정보를 복사해 워드 문서에 붙여넣는 경우, 베리아토가 이를 감지해 관리자에게 알람을 보내 실시간으로 활동을 중단시킬 수 있다. 하츠는 “직원은 자신이 고객의 데이터를 손상시키고 있다는 사실을 깨닫지 못할 수도 있다. 그들은 단지 더 빨리 일하려고 하는 것뿐이다”라고 말했다.

베리아토의 솔루션은 근무 시간을 추적하는 데에도 사용할 수 있으며, 이를 통해 효율성을 높일 수 있다. 예를 들어, 한 직원이 일주일에 38시간 일하고 다른 직원이 80시간 일하고 둘 다 같은 양의 일을 수행하는 경우, 소프트웨어의 데이터를 사용하여 낭비되는 노력을 줄일 수 있는 방법을 찾을 수 있다.

이 데이터는 해고가 필요한 사람을 결정하는 데도 사용될 수 있으며, 이는 관리자가 시간이 지남에 따라 저조한 성과를 발견하는 것과 다르지 않다. 하츠는 “예를 들어, 한 직원이 지메일로 업무 시간의 절반을 보내고 있다는 경고를 받으면, 누군가 그 내용을 자세히 들여다보고 화면 캡처를 통해 그 직원이 무엇을 하고 있었는지 확인할 수 있다. 하루의 80%를 일하지 않고 유튜브에서 고양이 영상을 보고 있다면, 아마도 다른 직업을 찾아야 할 것이다”라고 설명했다.

직원 모니터링 소프트웨어와 서비스가 정확히 무엇을 감시하는지는 플랫폼과 그 플랫폼의 개인정보보호 기능에 달려 있다. 일부는 윤리적인 데이터 사용을 보장하기 위해 분석 전에 개인식별정보를 자동으로 제거한다. 예를 들어, 마이크로소프트는 신원 보호에 중점을 두고 집계된 데이터만 분석한다. 브로드 존슨은 오용을 방지하기 위해 신뢰와 안전 장치를 구축했다고 밝혔다.

아이러니하게도, AI를 이용한 모니터링 소프트웨어의 사용이 증가하면서 이런 소프트웨어를 속이는 방법도 생겨났다. 모라디는 “이런 종류의 장치가 점점 더 많이 등장하고 있다. 예를 들어, 마우스 진동기 같은 것이다. 친구 중 한 명은 온라인 상태임을 알리기 위해 컴퓨터에 유튜브 동영상을 항상 틀어 놓는다”라고 말했다.
dl-itworldkorea@foundryco.com