OpenAI 전 직원이 200만 달러를 포기하면서까지 공개한 이야기가 있습니다. AI가 스스로 AI를 연구하고 개선하는 단계에 이르면, 인간이 옮겨갈 새로운 일자리조차 이미 AI가 더 잘하고 있을 것이라는 예측입니다. 저도 요즘 글쓰기, 번역, 자료 정리에 AI를 쓰다 보니 이 말이 더 이상 먼 미래의 이야기처럼 느껴지지 않았습니다.
AI가 일자리를 대체하는 속도, 이번엔 다른 이유가 있습니다
산업혁명 때도, 인터넷 붐 때도 사람들은 새로운 기술이 기존 일자리를 없애는 만큼 새로운 일자리를 만들어낼 것이라고 믿었습니다. 그리고 실제로 그랬습니다. 그렇다면 이번에도 같은 논리가 통할까요.
저는 이번은 구조가 다르다는 생각이 들었습니다. 과거의 기술은 특정 업무만 자동화했습니다. 하지만 지금 논의되는 초지능(superintelligence)은 다릅니다. 여기서 초지능이란 모든 분야에서 최고 수준의 인간보다 더 뛰어나고, 더 빠르고, 더 저렴하게 작동하는 AI를 의미합니다. 단순히 특정 직무를 잘하는 것이 아니라, 인간이 옮겨갈 수 있는 새로운 일자리까지 동시에 대체할 수 있다는 점에서 근본적으로 다릅니다.
AI 기업들이 지금 우선시하는 것도 일반 소비자용 서비스 확대가 아닙니다. 재귀적 자기 개선(recursive self-improvement), 즉 AI가 스스로 AI 연구 과정 전체를 자동화하여 더 나은 AI를 스스로 만들어내는 단계에 먼저 도달하는 것입니다. 이 개념을 쉽게 말하면, AI가 인간 연구원 없이도 스스로 다음 세대 AI를 설계하고 훈련시키는 구조입니다. 이 단계가 오면 발전 속도가 지금과는 비교할 수 없을 만큼 빨라집니다.
Anthropic은 2024년 기준 연 매출이 약 1년 만에 10억 달러에서 600억 달러 수준으로 성장했습니다(출처: Anthropic). 60배 성장입니다. 이 속도가 상당히 둔화된다 해도 2030년경에는 전체 경제 규모에 맞먹는 수준에 도달한다는 추정이 나오는 이유가 여기 있습니다. 저도 이 수치를 처음 접했을 때 과장된 전망이라고 생각했는데, 실제로 제가 쓰는 AI 도구들의 품질이 1년 전과 얼마나 달라졌는지를 떠올리니 쉽게 무시할 수 없었습니다.
- 초지능이 실현되면 인간이 옮겨갈 새로운 직업도 AI가 이미 더 잘하는 상태가 됩니다
- AI 기업들의 1단계 목표는 소비자 서비스 확대가 아닌 자기 자신의 연구 과정 자동화입니다
- 재귀적 자기 개선이 시작되면 발전 속도는 인간이 추적할 수 없을 만큼 빨라질 수 있습니다
기술이 발전할수록 권력은 왜 더 좁게 집중될까요
AI가 가져올 위험에 대해 이야기할 때 많은 사람들이 SF 영화 속 로봇 반란을 떠올립니다. 그런데 제가 이 인터뷰를 통해 더 현실적으로 느낀 위험은 사실 그쪽이 아니었습니다. 오히려 AI 자체가 통제를 벗어나는 문제보다 초지능을 먼저 확보한 소수 기업과 국가가 나머지 모두를 압도하게 되는 권력 집중 문제가 훨씬 가까운 미래의 이야기로 들렸습니다.
OpenAI를 떠난 한 전직 직원의 증언에 따르면, OpenAI 창립 초기 이메일에는 창립 이유로 "구글의 DeepMind가 AGI를 통해 독재자가 될까 봐 두렵다"는 내용이 담겨 있었다고 합니다. 그 두려움이 경쟁의 출발점이었다는 것입니다. 그런데 역설적으로 지금 그 경쟁에 참여한 CEO들 모두가 서로에 대해 똑같은 두려움을 품고 있습니다. 상대방이 먼저 초지능에 도달하면 독재자가 될 것이라 걱정하기 때문에, 각자 자신이 먼저 도달해야 한다고 확신하는 것입니다.
여기서 핵심 문제는 해석 가능성(interpretability)의 부재입니다. 해석 가능성이란 AI가 왜 그런 판단을 내렸는지 인간이 내부를 들여다보고 확인할 수 있는 능력을 말합니다. 현재 대형 언어 모델(LLM)은 수조 개의 매개변수(parameter)로 구성되어 있어, 코드처럼 내부 로직을 확인하는 것이 사실상 불가능합니다. 즉, AI가 실제로 무슨 생각을 하는지 아무도 모르는 상태에서 AI에게 핵심 결정을 점점 더 많이 위임하고 있다는 뜻입니다. 저는 이 대목이 가장 소름 돋았습니다. AI를 믿고 쓰는 게 아니라 확인할 방법이 없어서 믿을 수밖에 없는 구조라는 것이니까요.
인공지능 안전 분야의 권위 있는 연구자인 Geoffrey Hinton은 자연계에서 더 지능이 높은 종이 낮은 종보다 통제권을 적게 가진 사례는 없다고 경고한 바 있습니다(출처: Geoffrey Hinton). 수십억 배 더 큰 인공 두뇌에게 명령을 내릴 수 있다고 가정하는 것 자체가 오만일 수 있다는 지적입니다. 저는 이 말을 듣고 나서 한동안 AI 도구를 쓰면서도 이상하게 불편한 감정이 들었습니다. 편리함과 불안감이 동시에 작동하는 그 묘한 느낌이요.
그래서 우리는 지금 무엇을 생각해야 할까요
이 모든 이야기를 들으면서 가장 많이 받은 질문을 저도 스스로에게 던져봤습니다. "그래서 나는 뭘 준비해야 하지?" 그런데 이 질문이 오히려 문제의 핵심을 비켜갈 수 있다는 생각이 들었습니다.
어떤 직업이 살아남느냐를 고민하기 전에, 지금 일어나고 있는 일의 성격이 무엇인지를 먼저 보는 것이 중요합니다. 일자리는 단순히 돈을 버는 수단만이 아닙니다. 파업을 할 수 있고, 조직을 만들 수 있고, 경제에 기여함으로써 정치적 협상력을 갖게 해주는 기반이기도 합니다. AI가 대부분의 일자리를 대체하면 소득만 잃는 게 아니라 사회 안에서 개인이 가진 교섭력 자체가 사라질 수 있습니다. 이것이 단순한 취업 시장 변화와 다른 이유입니다.
AI 2040 플랜 A 시나리오는 이 문제에 대한 하나의 제안입니다. 핵심은 세 가지입니다. 첫째, 초지능 개발 속도를 늦추어 안전 연구가 뒤처지지 않게 한다. 둘째, 학습 데이터와 모델 구조를 공개하는 완전한 연구 투명성을 확보해 특정 기업의 독점을 막는다. 셋째, AI와 로봇이 창출하는 경제적 이익을 시민에게 배당하는 구조를 만든다. 이 중 어느 것도 지금 자동으로 실현되는 것은 없습니다. 모두 사람들이 요구해야 가능한 일입니다.
저는 AI를 거부해야 한다거나 기술 발전 자체가 나쁘다는 입장은 아닙니다. 실제로 매일 쓰면서 도움도 받고 있습니다. 다만 제가 느끼는 불편함은 이 기술이 가져올 변화의 크기에 비해, 그 변화를 어떻게 설계할지에 대한 논의가 너무 조용하다는 점입니다. 경제적 이익은 몇몇 기업에, 위험 부담은 모두에게 분산되는 구조가 굳어지기 전에 더 많은 사람들이 이 대화에 참여해야 한다고 생각합니다.
자주 묻는 질문
Q. AGI와 초지능은 어떻게 다른가요?
A. AGI(인공 일반 지능)는 특정 분야가 아닌 다양한 일을 처리할 수 있는 AI를 뜻합니다. 반면 초지능은 모든 분야에서 최고 수준의 인간보다 더 빠르고 정확하고 저렴하게 작동하는 단계를 의미합니다. 지금의 Claude나 ChatGPT가 AGI에 근접하다고 볼 수 있다면, 초지능은 그보다 훨씬 높은 기준입니다. 이 차이가 일자리 대체의 규모와 속도를 결정하는 핵심 변수입니다.
Q. AI가 일자리를 대체하는 시기가 정말 2027~2030년 안에 올까요?
A. 구체적인 시점은 전문가마다 2027년에서 2031년까지 넓게 분포합니다. 중요한 것은 시점의 정확도보다 방향입니다. AI 기업들의 1단계 목표가 자기 자신의 연구 자동화이기 때문에, 대규모 실업은 그 이후에 물결처럼 밀려올 가능성이 높습니다. 지금 당장 일자리 통계가 안정적이라는 이유로 안심하기 어려운 이유가 여기 있습니다.
Q. AI 규제를 강화하면 기술 발전이 뒤처지지 않을까요?
A. 이것이 AI 기업들이 주로 내세우는 논리입니다. 하지만 완전한 연구 투명성을 확보하면 오히려 다양한 기업과 국가가 기술을 따라잡기 쉬워져 독점 구조가 완화될 수 있습니다. 속도를 늦추더라도 안전성과 분산된 발전을 담보하는 방향이 장기적으로는 더 많은 사람에게 이익이 될 수 있다는 시각도 있습니다.
Q. 개인이 지금 당장 할 수 있는 것이 있을까요?
A. 가장 현실적인 행동은 이 주제에 대해 더 많이 알고, 주변과 이야기하는 것입니다. AI 규제에 관한 정치인들의 입장을 확인하고 투표에 반영하는 것도 실질적인 영향을 줄 수 있습니다. AI를 아예 거부하거나 반대로 모든 것을 맡기는 양 극단보다, 이 기술이 어떻게 설계되어야 하는지 목소리를 내는 것이 지금 개인이 할 수 있는 가장 구체적인 참여입니다.
결론
저는 이 인터뷰를 보고 나서 AI 도구를 쓰면서도 전과는 다른 감각이 생겼습니다. 편리함은 그대로인데, 이게 어디로 향하고 있는지에 대한 질문이 자꾸 따라붙는 느낌이랄까요. AI 시대를 어떻게 살아남을지보다, 이 기술이 만들어낼 경제적·정치적 구조를 누가 어떻게 설계할지가 훨씬 중요한 질문이라는 생각이 강해졌습니다.
초지능이 언제 오느냐는 확실히 알 수 없습니다. 하지만 방향은 꽤 분명해 보입니다. 그 변화가 오기 전에, 투명성과 분산과 안전망이라는 원칙이 기술 설계 안에 먼저 들어가야 한다고 생각합니다. 혼자 판단이 어렵다면 전문가들의 시나리오 연구를 직접 읽어보는 것도 좋은 출발입니다. ai27.com과 a2040.com에서 관련 자료를 확인할 수 있습니다.