[AI리포터]

<이미지를 클릭하시면 크게 보실 수 있습니다>

[디지털투데이 AI리포터] 컴퓨터는 숫자 계산에는 뛰어나지만, 수학적 논리와 추론에서는 인간 수학자를 대체하지 못했다. 그러나 구글 딥마인드가 개발한 인공지능(AI) '알파프루프'(AlphaProof)가 이 한계를 넘고 있다고 19일(현지시간) IT매체 아스테크니카(ArsTechnica)가 전헀다.

딥마인드는 알파프루프를 기존 AI와 차별화하기 위해, 수학적 논리 구조를 학습시키는 새로운 접근 방식을 도입했다. 기존 AI는 대량의 텍스트 데이터를 기반으로 확률적인 답변을 생성하지만, 알파프루프는 수학적 정밀성이 요구되는 환경에서 작동한다. 이를 위해 수학자들이 사용하는 린(Lean)이라는 형식적 프로그래밍 언어를 활용해, 자연어로 작성된 수학적 명제를 AI가 이해할 수 있도록 번역하는 과정을 거쳤다. 이를 통해 약 8000만개의 수학적 명제를 자동으로 형식화하는 데 성공했다.

알파프루프는 딥마인드의 알파제로(AlphaZero)와 유사한 구조를 갖추고 있다. 대형 신경망과 트리 탐색 알고리즘을 결합해, 가능한 모든 수학적 행동을 분석하고 가장 유망한 경로를 선택하는 방식이다. 하지만 고난도 문제 해결을 위해 '테스트-타임 강화 학습(TTRL)'이라는 새로운 요소를 추가했다. 이는 인간 수학자가 어려운 문제를 해결할 때 사용하는 '단순화 후 해결' 방식을 모방한 것으로, AI가 스스로 훈련 데이터를 생성해 학습할 수 있도록 했다.

알파프루프는 2024 국제 수학 올림피아드에서 은메달 수준의 성과를 기록하며, AI가 고급 수학 문제 해결에 한 발 더 다가섰음을 입증했다. 하지만 한계도 명확했다. 문제를 해결하는 데 여러 날이 걸렸으며, 대규모 컴퓨팅 자원이 필요했다. 연구팀은 알파프루프의 계산 비용이 대부분의 연구 그룹이 감당하기 어려운 수준이라고 인정했다. 또한 올림피아드 문제는 고등학교 수준이며, 진정한 연구급 수학 문제는 완전히 새로운 개념을 발명해야 하는 도전이 남아 있다.

딥마인드는 알파프루프를 더욱 최적화해 연구자들이 활용할 수 있도록 지원할 계획이다. 토마스 휴버트(Thomas Hubert) 딥마인드 연구원은 "우리는 수학 대회에서 멈추지 않고, 연구급 수학에도 기여할 AI 시스템을 만들고자 한다"며, 알파프루프를 수학자들에게 유용한 도구로 발전시킬 의지를 밝혔다.

<저작권자 Copyright ⓒ 디지털투데이 (DigitalToday) 무단전재 및 재배포 금지>