출처: Unsplash, Levart_Photographer

최근 AI를 둘러싼 수많은 논란 가운데 하나는, 오픈AI가 오랫동안 풀리지 않던 수학 문제를 해결하는 과정에서 뉴욕대학교 수학자 트리스탄 벅마스터(Tristan Buckmaster)와 그의 동료 레벤트 알포게(Levent Alpöge)의 연구를 훔쳤다는 주장이다. 알포게는 앤트로픽의 연구원이기도 하다. 나는 이 주장이 얼마나 타당한지 판단할 능력은 없다. 다만 내가 이해한 바로는, 오픈AI가 벅마스터와 알포게의 연구에 접근할 수 있었고, 이를 토대로 빠르게 연구를 진전시켜 해법을 찾아냈다는 것이 논란의 핵심이다. 게다가 이 문제에는 100만 달러의 상금도 걸려 있었다.

오픈AI가 실제로 이런 방식으로 연구를 진행했다면, 이는 어떤 교수가 동료들을 대상으로 세미나에서 자신의 연구를 발표했는데 참석자 가운데 한 명이 거기에 몇 가지를 덧붙인 뒤 그 연구를 자기 것이라고 주장하는 상황과 비슷해 보인다. 보통의 대학 학과라면 이런 행동을 동료다운 처신이라고 보지는 않을 것이다.

이런 상황에서 교수가 동료를 상대로 어떤 권리를 주장할 수 있을지는 잘 모르겠다. 연구를 제대로 인용했다면 표절이라고 주장하기는 어려울 것이다. 내가 알기로 오픈AI의 연구는 벅마스터와 알포게의 연구를 직접 인용하지 않았다. 100만 달러의 상금을 누가 받을 권리가 있는지를 두고는 다툴 근거가 있을지도 모른다. 하지만 문제는 그보다 훨씬 크다.

AI가 사실상 다른 사람의 연구를 훔친 뒤 자기 성과라고 주장할 수 있다면, 수세기 동안 과학의 엄청난 발전을 가능하게 한 개방적 연구 관행이 흔들리게 된다. 이런 관행은 과학자들이 동료의 연구에 정당한 공로를 인정해 주는 규범에 기대어 유지돼 왔다.

앞서 말한 세미나 상황을 생각해 보자. 참석자 가운데 한 명이 발표를 듣다가 문제를 완전히 해결하는 데 한두 단계만 더 필요하다는 사실을 깨달았다면, 그는 발표자에게 그 점을 알려줄 것으로 기대한다. 그 추가 내용이 옳다면 발표자는 논문을 마무리하면서 그 기여를 명시하거나, 그 기여가 충분히 중요하다면 해당 참석자를 공동 저자로 포함할 수도 있다.

하지만 이런 방식은 규범이 지켜진다는 전제 위에서만 작동한다. AI를 소유한 사람이 이런 규범을 공유하지 않고, 어디에서든 과학자들의 연구를 자유롭게 긁어모은 뒤 결과물의 공로까지 가져갈 수 있다면, 오랫동안 유지돼 온 과학의 개방성은 위협받게 된다. 연구자들은 수년간 쌓아온 연구를 아무런 공로도 인정받지 못한 채 빼앗길 위험을 피하기 위해, 완성된 논문이 나올 때까지 연구 내용을 철저히 감추려 할 가능성이 크다. 연구 내용을 공유하더라도 소수의 신뢰하는 동료들에게만 보여줄 것이다. 작업 논문을 공개하거나 누구나 참석할 수 있는 세미나를 여는 일은 자신의 연구에 대한 통제권을 잃을 위험을 키우게 된다.

그러나 이 이야기에서 누가 악역인지 분명히 볼 필요가 있다. 문제의 주체는 AI가 아니라 샘 올트먼과 그의 회사다. 자신들이 만든 AI가 무엇을 하는지에 대한 책임은 올트먼과 회사에 있다. AI가 그들이 원하지 않는 일을 했다면 이를 바로잡을 책임도 그들에게 있다. AI가 아무리 뛰어나진다 해도 스스로 행동하는 주체는 아니다. AI를 작동시킨 개인이나 기업이 주체다.

이 문제는 더 일반적인 상황에도 적용된다. 텍사스주 법무장관이자 공화당 상원의원 후보인 제임스 팩슨(James Paxson)이 AI를 이용해 자신의 상대 후보 제임스 탈라리코(James Talarico)가 실제로는 한 적도 없는 황당한 발언들을 하는 것처럼 꾸몄다는 일을 두고 소셜미디어에서 작은 논란이 일었다. 많은 사람은 팩슨이 탈라리코의 발언을 거짓으로 꾸며냈다는 사실보다 AI를 사용했다는 점에 더 분노하는 듯하다.

하지만 핵심은 팩슨이 탈라리코의 명예를 훼손하고 있다는 사실이다. AI는 부차적인 문제다. 물론 AI를 사용하면 명예훼손의 효과를 더 키울 수 있을 것이다. 하지만 팩슨이 성대모사를 매우 잘하는 사람이었다면, 황당한 주장을 하면서 탈라리코의 목소리를 흉내 내 일부 사람들을 속일 수도 있었을 것이다. 그런 경우에도 AI를 이용한 것만큼이나 나쁜 행동이다.

또 미국군이 전쟁 첫날 파괴해 어린이 120명이 숨진 이란의 여학교를 AI가 공격 목표로 선정했다는 주장도 있었다. 실제로 그랬을 수도 있다. 하지만 더 중요한 문제는 군이 공격 목표를 제대로 검토하는 체계를 갖추지 않았다는 데 있다. AI 시스템이 그곳을 목표로 지정했는지는 중요하지 않다. 문제는 지정된 장소가 정당한 군사 목표인지 확인하는 체계가 없었다는 점이다.

핵심을 놓쳐서는 안 된다. 나쁜 일을 하는 주체는 AI가 아니라 AI를 이용해 나쁜 일을 하는 사람들이다. 술에 취한 남편이 아내를 때리고는 위스키 때문에 그랬다고 말하는 것과 같다. 누구도 그런 변명을 받아들여서는 안 된다. 마찬가지로 수학 연구를 실제로 훔친 일이 있었다면, 그것을 한 사람은 샘 올트먼이다. 정치적 경쟁자의 명예를 훼손한 사람도 제임스 팩슨이다. AI는 본질적인 문제가 아니다.

[출처] AI Didn’t Steal the Mathematician’s Work, Sam Altman Did

[번역] 이꽃맘

덧붙이는 말

딘 베이커(Dean Baker)는 1999년에 경제정책연구센터(CEPR)를 공동 설립했다. 주택 및 거시경제, 지적 재산권, 사회보장, 메디케어, 유럽 노동 시장 등을 연구하고 있으며, '세계화와 현대 경제의 규칙은 어떻게 부자를 더 부자로 만드는가' 등 여러 권의 저서를 집필했다. 참세상은 이 글을 공동 게재한다.