박경미 한국교원대학교 초빙교수·前 국회의원

수학계에 또 하나의 ‘알파고 모멘트’가 도래했다. 오픈AI가 7대 밀레니엄 문제 중 하나인 나비에-스토크스 방정식에서, 유체의 속도가 유한한 시간 안에 무한대로 발산하는 특이점이 발생할 수 있다는 것을 증명했다고 발표한 것이다. 학계의 검증이 남아 있지만, 인간 지성이 넘지 못한 난제에 AI가 균열을 낸 것만은 분명하다. 물론 수학자들은 난제 풀이를 성능 과시용 지표로 삼아 경쟁하는 AI 기업에 비판적인 입장을 취하고 있다.

이처럼 AI가 고난도 증명까지 눈 깜짝할 사이에 해내는 시대에 우리는 근원적인 물음을 마주하게 된다. 학생들은 왜 여전히 수학을 배워야 하는가? ‘모라벡의 역설’에 따르면 인간에게 어려운 추론은 AI에는 쉽고, 인간에게 쉬운 지각과 상식은 AI에는 오히려 어렵다. 아이러니컬하게도 학생들이 가장 오랜 시간을 들여 훈련하는 수학 문제 풀이는 AI에 손쉬운 일이다. 계산의 정확성과 속도로 학생들을 줄 세우는 교육은, 질주하는 스포츠카를 맨몸으로 따라잡으라는 주문과 다르지 않다.

그러나 빠른 스포츠카가 즐비하다고 해서 인간이 걷고 뛰는 법을 익힐 필요가 사라지지는 않는다. 수학도 마찬가지다. 사칙연산을 하고 함수와 방정식의 기본을 이해하는 능력은, AI에 질문을 던지고 그 답을 비판적으로 검증하는 최소한의 지적 근육이다.

AI 시대, 인간이 설 자리는 어디인가. 그 실마리를 기원전 8세기 호메로스의 <오디세이아>에서 찾아보자. 제12권에는 태양신 헬리오스의 소 떼가 ‘일곱 무리에 각 50마리씩’이라는 대목이 나온다. 단순 계산으로 소는 350마리구나 하며 무심히 지나친 이 구절에서 기원전 3세기 수학자 아르키메데스는 경이로운 질문을 던졌다. 헬리오스의 소는 정확히 몇 마리였을까?

아르키메데스는 원작에 상상력을 더해 새로운 문제를 냈다. 소를 8가지 유형으로 분류해 연립방정식을 세우고, 소 떼를 정사각형과 삼각형의 형태로 배치해야 한다는 조건까지 더하면서 정수론의 난제 ‘펠 방정식’으로 연결했다. 이렇게 되자 20만 자리가 넘는 천문학적인 수가 나왔다. 그 답을 처음 찾은 것은 1965년의 IBM 컴퓨터이고, 오늘의 AI는 순식간에 풀어낸다. 그러나 2000년을 버틴 이 문제의 진정한 가치는 답이 아니라, 지적 한계를 시험한 ‘질문’ 그 자체에 있다.

출처: 한국경제(2026.09.15.)