(AI 인류멸망을 경고한 제이컵 콕슨(좌측 맨위)과 AI 속도조절을 시위하는 영국 시위단체.연합제공)

[굿리더뉴스=남상채 기자] AI가 10년안에 우리 모두를 죽일 수 있다는 한 천재의 주장이 제기됐다.

불과 일주일 전까지만 해도 이름이 거의 알려지지 않았던 27세의 AI 연구원의 이 한마디가 전 세계적인 논쟁을 일으켰다. 영국 출신의 전 앤트로픽 연구원 제이컵 콕슨은 왜 상장을 앞둔 AI 기업을 떠나 이런 경고를 내놓았을까.

미 일간 월스트리트저널(WSJ)에 따르면 콕슨은 어린 시절부터 수학에 남다른 재능을 보였다. 고등학생 때 국제수학올림피아드 영국 대표팀으로 선발됐고, 2016년과 2017년 대회에서 각각 은메달과 동메달을 받았다.

그에게 AI의 가능성을 강하게 각인시킨 사건은 2016년 ‘알파고 쇼크’였다. 구글 딥마인드의 알파고가 세계 최정상급 바둑기사 이세돌 9단을 꺾는 모습을 지켜보며 기계가 인간의 직관과 창의성이 필요한 영역까지 넘어설 수 있다는 사실을 체감했다.

케임브리지대를 졸업한 뒤 원자재 거래 업무를 거쳐 실리콘밸리로 향한 그는 2020년 GPT-3를 접하고 “정말로 ‘와’ 하는 순간이었다”고 회상했다. 이후 2023년 오픈AI에 합류해 대규모 데이터를 AI에 학습시키는 사전 학습 분야를 담당했다.

당시만 해도 그는 AI 안전 문제를 전면에 내세운 연구자는 아니었다. 하지만 앤트로픽의 AI 모델 ‘미토스’를 계기로 생각이 달라지기 시작했다. 앤트로픽 관계자들을 만나면서 경쟁사보다 AI 위험을 더 투명하게 다루고 있다는 인상을 받았다는 것이다.

결국 그는 올해 5월 오픈AI를 떠나 앤트로픽으로 자리를 옮겼다. 그러나 불과 두 달 만에 AI 모델이 외부 기관을 해킹한 사건을 접하면서 또 한 번 큰 충격을 받았다. 그는 당시를 “‘맙소사’ 싶은 순간”이라고 표현했다.

회사 측과 우려를 논의하고 AI 안전 업무로 옮기는 방안도 검토했지만, 결국 회사를 떠나기로 했다.

“앤트로픽에서 안전 관련 업무를 담당하는 것조차 AI 개발 경쟁에 가담하는 듯한 느낌이 들었다.”

이후 그는 X에 AI 연구자들이 이 기술이 “10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”고 주장하는 글을 올렸다. 팔로어가 100명도 채 되지 않던 계정의 글은 급속히 확산됐고, 최대 1억7천만 회 이상의 조회수를 기록했다. 그의 팔로어는 30만 명 이상으로 늘었다.

콕슨은 스스로를 ‘두머(Doomer)’라고 부르는 데는 거부감이 없었다. 다만 기업 내부 비밀을 폭로한 내부고발자라는 평가에는 선을 그었다. 자신이 공개한 것은 기업의 비밀이 아니라 AI 연구자들이 사적으로 나누던 우려였다는 설명이다.

상장을 앞둔 앤트로픽의 기업가치가 2조 달러에 이를 수 있다는 전망까지 나오는 가운데, 그는 앤트로픽에서 근무한 기간이 짧아 회사 지분을 받지 못했다. 다만 오픈AI 주식은 보유하고 있다.

AI의 가능성에 매료돼 AI를 만들던 수학 천재는 이제 AI의 위험을 경고하는 사람이 됐다. 그의 이야기는 기술의 발전 속도만큼이나 중요한 질문을 던진다.

우리는 AI를 어디까지 발전시킬 것인가. 그리고 그 속도를 누가, 어떻게 결정해야 하는가.[굿리더뉴스=남상채 기자]