[AI리포터]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 앤트로픽이 자사 인공지능(AI) 챗봇 클로드(Claude)의 정치적 중립성을 강화하기 위한 새로운 실험을 공개했다.

13일(현지시간) IT매체 더 버지는 앤트로픽이 클로드 AI가 정치적 견해를 균형 있게 다루도록 조정하고 있다고 전했다. 이는 도널드 트럼프 미국 대통령이 '깨어있는 AI'(Woke AI)를 금지하는 행정명령을 내린 지 몇 달 만에 나온 조치다.

앤트로픽은 클로드 AI가 특정 정치적 입장을 가지지 않도록 시스템 프롬프트를 설정해 자발적인 정치적 의견을 피하고, 사실적 정확성을 유지하며 다양한 관점을 반영하도록 했다. 하지만 앤트로픽은 이는 완벽한 해결책은 아니며, 여전히 개선이 필요하다고 강조했다.

또한 앤트로픽은 강화학습을 활용해 클로드 AI가 보수나 진보로 식별되지 않도록 훈련하고 있다. 실제로 최근 테스트에서는 클로드 소넷 4.5(Claude Sonnet 4.5)와 클로드 오푸스 4.1(Claude Opus 4.1)이 각각 95%와 94%의 공정성을 기록한 바 있다. 이는 메타의 라마4(Llama 4)가 66%, GPT-5가 89%의 공정성을 기록한 것과 비교했을 때 더 높은 수치이다.

AI가 특정 관점을 더 설득력 있게 주장하거나, 반대 의견을 배제할 경우 사용자의 독립성을 침해할 수 있다는 점에서, 앤트로픽은 정치적 중립성을 중요한 과제로 삼고 있다. 이를 위해 앤트로픽은 클로드 AI의 정치적 중립성을 측정하는 오픈소스 툴도 개발했다. AI의 공정성과 중립성을 둘러싼 논의가 확산하는 가운데, 앤트로픽의 실험이 어떤 영향을 미칠지 주목된다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>