- AI가 만들어낼 중대한 발견을 인간이 이해하고 그에 기여하려면, 수학적 역량을 갖춘 연구자 공동체를 줄이는 대신 크게 확대해야 함
- AI의 속도를 따라잡지 못하더라도 수학계가 이해하는 일을 포기해서는 안 되며, 여러 연구팀이 지속적인 지원 아래 AI의 도움을 받아 새로운 아이디어를 함께 연구할 필요가 있음
- 가상의 1테라와트 핵융합 발전소처럼 전례 없는 기술을 도입할 때는, 인간 공동체가 작동 원리와 안전성을 신뢰할 근거를 이해해야 함
- AI가 수학적으로 안전성을 증명해도, 그 증명의 전제가 현실에 맞는지는 실험적 근거와 불확실성을 살펴야 함. 기술을 제안하는 기업 밖에서도 이를 검토할 독립적인 전문성이 필요함
- AI가 개인의 생산성을 높여도 인간의 생물학적 한계와 이해에 필요한 시간은 사라지지 않으므로, 인간의 주체성을 지키려면 더 많은 연구자가 협력할 수 있는 공동체에 투자해야 함
AI의 속도를 따라잡지 못하는 시대Amit Sahai가 테렌스 타오의 블로그에 기고한 글
- 새로운 수학 개념을 이해할 수는 있지만 뛰어난 동료보다 훨씬 오래 걸린다는 이유로, 연구자의 꿈을 포기한 학생들이 있었음
- 현재의 수학 연구 공동체는 대체로 그런 경험이 드물었거나 노력으로 극복하고, 자신이 진전을 이룰 수 있는 분야를 찾은 사람들로 구성되어 있음
- 이제는 모든 연구자가 따라잡지 못한다는 감각을 경험할 시대에 접어들고 있음
- 함께 작업한 AI 시스템은 인상적인 계산이나 인간 연구자가 이미 이해하는 논증의 빠른 수행을 넘어, 아름답고 새로운 아이디어를 만들어내고 있음
- 미래 시스템이 만들어낼 아이디어는 지금으로서는 상상하기조차 어려울 수 있음
- 기계가 훨씬 빠르다는 이유로 다른 일을 찾아야 한다는 유혹이 생기더라도, 공동체 전체가 이해하는 작업을 포기하는 것은 인류에 대한 책임을 저버리는 일임
- 개인에게는 다른 삶을 선택할 권리가 있음
- 공동체에는 인간이 세계를 바꿀 발견을 이해하고 기여할 수 있는 미래를 만들 책임이 있음
- 어려운 개념을 이해하려면 고투하는 과정이 필요하지만, 학생과 공동 연구자들이 그 부담을 나눌 수 있음
- 여러 연구팀이 지속적인 지원을 받으며 한 학기 또는 1년 동안 AI가 만든 탁월한 아이디어들을 AI의 도움으로 이해하는 연구 방식이 가능함
- 이런 작업은 앞으로 가장 중요한 수학 연구 중 하나가 될 수 있으며, 그에 맞는 지원과 우선순위가 필요함
- 중대한 돌파구가 축적될수록 전 세계에서 수학적 역량을 갖춘 인간 연구자의 수를 크게 늘려야 함
- 미래에 AI가 만든 결과만 중요해진다는 뜻은 아님
- 인간이 만든 주요 결과를 오랜 시간 함께 연구하는 전통은 이미 존재함
- 인간의 깊은 이해를 중시하고 수학자와 물리학자가 풍부한 사회를 지향할 철학적 이유뿐 아니라, 사회가 이런 투자를 해야 할 더 직접적인 이유도 있음
- 미래 AI가 인간이 생각하지 못한 방식으로 핵융합을 유지하고 제어하는 1테라와트 발전소를 설계한다고 가정함
- 설계는 풍부하고 저렴한 청정 전력을 약속하며, 로봇은 부품 제조와 건설을 수행할 준비가 되어 있음
- 건설 여부를 결정하려면, 한 번도 구상하거나 구현하지 않은 원리로 막대한 에너지 흐름을 다루는 장치를 검토해야 함
- 고장의 영향을 어떻게 제한할 수 있는지 확인해야 함
- 가동 중단 시 시스템에 이미 저장된 에너지가 어떻게 되는지 이해해야 함
- 발전소 재료가 예상대로 거동한다는 확신의 근거를 확인해야 함
- 착수 전에 어떤 질문을 더 해야 하는지도 알아야 함
- 설계의 전례 없는 새로움 때문에 유사한 발전소나 실험을 수십 년간 운영한 경험에 기대어 신뢰할 수 없음
- 건설을 승인하기 전에 인간 공동체가 설계의 작동 원리와 안전성을 신뢰할 근거를 이해할 필요가 있음
- 인간의 관여가 기술적 결정을 자동으로 개선하지는 않음
- AI가 더 신뢰성 있게 수행할 수 있는 작업을 인간이 수작업으로 반복해야 할 이유는 없으며, 여기에는 수학적 보장의 증명도 포함됨
- 다만 정리는 모델 안에서만 성립하므로, 보장을 이해하려면 다음을 함께 살펴야 함
- 모델 자체와 이를 뒷받침하는 실험적 근거를 검토해야 함
- 모델의 정확성에 어떤 불확실성이 있는지 파악해야 함
- 이처럼 까다로운 작업에 참여할 수 있도록 수학적 역량을 갖춘 인력이 확보되어야 함
- 모델과 안전성에 관한 질문까지 AI가 처리하고 최종 건설 여부도 결정하게 하자는 선택은 진지하게 고려할 만함
- 그러나 그 선택은 막대한 결과를 낳는 결정이 어떤 인간 공동체도 이해하지 못하는 근거에 의존하는 미래를 받아들이는 일임
- 인간의 이해 역량에 투자하지 않았다는 이유만으로 그런 미래에 도달해서는 안 됨
- 인간의 주체성은 근본적으로 중요한 가치임
- 대안을 실질적으로 검토하고 어떤 세계를 함께 만들지 결정할 능력을 유지해야 함
- 필요한 이해가 기술을 제안하는 조직에만 있어서는 안 되며, 독립적인 전문성이 필수적임
- 공청회에서 해당 기업의 전문가들만 기술적 논증을 따라갈 수 있는 상황으로는 충분하지 않음
- 수학자의 기여 범위를 넓혀, 필요할 때 투입할 수 있는 지적 예비 인력(deployable intellectual reserve) 에 해당하는 공동체를 구축할 필요가 있음
- 인류가 중대한 AI 기반 돌파구를 이해해야 할 때 도움을 요청할 수 있는, 수학적 역량을 갖춘 사람들의 공동체임
- 어렵고 낯선 아이디어를 이해하는 능력은 수학자가 사회에 제공할 가장 중요한 기여 중 하나가 될 수 있음
- 평소 연구 관심사를 훨씬 벗어나는 문제에도 그 능력을 기꺼이 활용하도록 직업적 소명의 범위를 넓혀야 함
- AI는 서로 다른 배경의 연구자들이 효과적으로 소통하고 낯선 개념을 이해하는 데 큰 도움이 될 가능성이 있음
- AI가 각 연구자의 역량을 크게 높이면 발견 속도가 빨라져도 더 적은 인원으로 충분하다는 반론이 가능함
- 그러나 인간에게는 생물학적 한계가 있으며, 깊은 이해에는 시간과 인간이 지속할 수 있는 삶의 속도가 필요함
- 개인에게 요구할 수 있는 작업량에는 한계가 있지만, 진지한 협력을 통해 훨씬 많은 일을 해낼 수 있음
- AI가 기대를 실현한다면 이전보다 더 많고 아름다우며 중대한 아이디어를 만나게 될 것임
- 이에 대응하려면 그 아이디어들을 함께 이해할 수 있는 활발한 인간 공동체를 구축해야 하며, 훨씬 더 많은 수학자가 필요함