Dario Amodei의 「Policy on the AI Exponential」을 읽고: AI 발전은 모두에게 같은 기회일까?

AI가 빨라질수록, 우리는 모두 같은 속도로 따라갈 수 있을까?

 

요즘 AI를 쓰면서 자주 드는 생각이 있다.
모델 성능은 점점 좋아지고 있고, 실제로 좋은 모델을 쓰면 개발 생산성이나 문서 작성 속도, 학습 효율이 눈에 띄게 달라진다. 그래서 더 좋은 모델이 더 비싼 가격을 받는 것은 어느 정도 자연스러운 일처럼 보인다.

하지만 동시에 조금 불안한 지점도 있다. AI가 개발자와 회사의 기본 생산성 도구가 되어갈수록, 결국 “좋은 AI를 충분히 쓸 수 있는 사람”과 “비용 때문에 제한적으로만 쓸 수 있는 사람” 사이의 격차가 점점 커지는 것 아닐까?

 

예전에는 개발자의 실력 차이가 경험, 학습량, 문제 해결력에서 주로 발생했다면 (구글링을 안하는 신입들을 보고 놀라던 때와 달리 지금은 나도 검색하려면 ChatGPT 를 제일 먼저 키곤한다), 앞으로는 여기에 AI 사용량과 접근성이라는 변수가 추가될 수 있다. 돈이 있는 회사는 더 좋은 모델을 더 많이 쓰고, 더 빠르게 실험하고, 더 빠르게 제품을 만들 수 있다. 반대로 개인 개발자나 작은 팀은 비용 때문에 실험 자체를 줄이게 될 수도 있다.

 

이런 고민을 하던 중 Anthropic CEO인 Dario Amodei가 쓴 「Policy on the AI Exponential」 이라는 글을 읽었다. 이 글은 단순히 AI 기술 전망을 이야기하는 글이 아니라, AI가 너무 빠르게 발전하고 있기 때문에 정책, 경제, 노동, 국가 권력, 국제 질서까지 다시 생각해야 한다는 내용이다. 

글의 핵심: AI는 너무 빠르고, 정책은 너무 느리다

Dario Amodei는 글의 시작에서 AI와 정치·정책 시스템의 속도 차이를 강조한다. AI는 불과 몇 년 사이에 “간단한 코드도 겨우 쓰던 수준”에서 “AI 회사의 주요 코드 상당 부분을 작성하는 수준”까지 발전했지만, 법과 제도는 여전히 매우 느리게 움직인다는 것이다. 

그는 AI 발전을 “exponential”, 즉 지수적 성장으로 바라본다.
AI 성능은 단순히 조금씩 좋아지는 것이 아니라, 컴퓨팅 파워와 스케일링 법칙에 따라 매우 빠르게 상승하고 있으며, 이 흐름이 조금만 더 이어져도 강력한 AI가 등장할 수 있다고 본다. 

여기서 중요한 문제는 기술 자체가 빠르다는 점만이 아니다. 기술은 빠르게 변하는데, 사회가 그 영향을 이해하고 대응하는 속도는 훨씬 느리다. 그래서 그는 지금 필요한 것은 막연한 낙관론이나 공포가 아니라, 실제로 다가오는 변화에 맞는 정책적 대응이라고 말한다.

1. AI 규제: 투명성만으로는 부족하다

첫 번째 주제는 AI 규제와 공공 안전이다.

Amodei는 초기에는 AI의 위험이 아직 구체적으로 드러나지 않았기 때문에, 무리한 규제보다는 투명성 확보가 중요했다고 설명한다. 예를 들어 AI 기업이 어떤 안전 테스트를 하고 있는지, 어떤 사고가 있었는지 공개하게 하는 방식이다. 

하지만 그는 이제는 단순한 투명성을 넘어 더 강한 규제가 필요하다고 본다. 특히 고성능 프론티어 모델은 사이버 보안, 생물학적 위험, 통제 상실, 자동화된 R&D 가속과 같은 영역에서 실제 위험을 만들 수 있기 때문에, 일정 규모 이상의 모델은 제3자 평가와 감사가 필요하다고 주장한다. 

그가 드는 비유는 자동차, 항공기, 의약품이다.
이 기술들은 현대 사회에 꼭 필요하지만, 잘못 설계되거나 운영되면 많은 사람에게 피해를 줄 수 있다. 그래서 AI도 완전히 자유 시장에만 맡기기보다는, 일정 수준 이상의 모델에 대해서는 배포 전 테스트와 책임 구조가 필요하다는 입장이다.

2. AI와 경제: 성장과 불평등이 동시에 올 수 있다

내가 가장 공감한 부분은 두 번째 주제인 거시경제와 노동시장에 대한 내용이었다.

Amodei는 강력한 AI가 등장하면 과학, 기술, 운영 효율이 크게 향상되면서 경제 성장이 매우 빠르게 일어날 수 있다고 본다. 하지만 동시에 AI는 인간의 인지 능력을 광범위하게 대체할 수 있기 때문에, 기존 기술보다 훨씬 큰 노동시장 충격을 줄 수 있다고 말한다. 

그는 우리가 “초고성장과 초고불평등이 동시에 발생하는 세계”에 놓일 위험이 있다고 표현한다. 즉, AI 덕분에 전체 경제는 엄청나게 성장할 수 있지만, 그 이익이 일부 기업, 자본, 기술 접근권을 가진 사람들에게 집중될 수 있다는 것이다. 

이 부분은 개인적으로 AI 사용 비용 문제와도 연결된다고 느꼈다.

AI가 단순한 보조 도구일 때는 “조금 더 편리한 서비스” 정도로 볼 수 있다. 하지만 AI가 개발, 기획, 분석, 디자인, 연구의 핵심 생산성 도구가 된다면 이야기가 달라진다. 좋은 모델에 접근할 수 있는 사람은 더 빠르게 배우고, 더 빠르게 만들고, 더 빠르게 검증한다. 반대로 비용 때문에 AI 사용을 아껴야 하는 사람은 같은 시간 안에 도달할 수 있는 수준이 점점 달라질 수 있다.

결국 AI 격차는 단순한 서비스 구독료 문제가 아니라, 학습 기회와 생산성 격차의 문제가 될 수 있다.

3. “돈 있는 개발자”와 “돈 없는 개발자”의 차이가 커질 수 있다

최근 AI 모델들은 성능이 좋아질수록 비용도 올라가는 구조를 보인다.
토큰 사용량이 많아질수록 비용이 증가하고, 더 긴 컨텍스트나 더 높은 추론 성능을 쓰려면 더 많은 비용을 지불해야 한다.

물론 이것은 어느 정도 당연하다.
좋은 모델을 만들고 운영하려면 막대한 GPU, 데이터센터, 전력, 연구개발 비용이 들어간다. 더 좋은 결과물을 제공하는 모델이 더 비싼 가격을 받는 것은 시장 논리상 자연스럽다.

 

하지만 AI가 보편적 개발 도구가 되었을 때, 이 구조는 새로운 문제를 만들 수 있다.

예를 들어 같은 주니어 개발자 두 명이 있다고 가정해보자.

한 명은 회사에서 최고 성능 모델을 거의 제한 없이 사용할 수 있다.
코드 리뷰, 설계 검토, 테스트 작성, 문서화, 리팩토링, 학습까지 AI를 적극적으로 활용한다.

다른 한 명은 개인 비용으로 제한된 사용량만 쓸 수 있다.
질문을 아껴야 하고, 긴 코드베이스를 넣기 어렵고, 여러 번 실험하기 부담스럽다.

처음에는 작은 차이처럼 보일 수 있다.
하지만 1년, 2년이 지나면 이 차이는 단순한 도구 사용량의 차이가 아니라 경험의 차이, 결과물의 차이, 성장 속도의 차이로 이어질 수 있다.

이런 관점에서 보면 AI 접근성은 앞으로 개발자 개인의 경쟁력에도 직접적인 영향을 줄 가능성이 있다.

4. AI의 혜택을 어떻게 나눌 것인가

Amodei도 이 문제를 단순히 “AI가 일자리를 없앨 것이다”라는 식으로만 보지는 않는다. 그는 AI가 새로운 기회를 만들 수 있다고도 말한다. 작은 팀이나 개인이 AI를 활용해 매우 큰 가치를 만드는 사례가 늘어날 수 있다는 점도 언급한다. 

하지만 동시에 그는 AI로 인한 장기적 일자리 대체 가능성을 진지하게 봐야 한다고 말한다. 그래서 정부가 노동시장 변화를 측정하고, 고용 유지 인센티브를 만들고, 재교육과 임금 보전 정책을 고려해야 한다고 제안한다. 만약 AI가 노동 수요를 장기적으로 낮춘다면, 기본소득이나 자본소득 공유 같은 더 큰 정책도 필요할 수 있다고 본다. 

이 부분에서 핵심은 “AI 발전을 막자”가 아니다.
오히려 AI가 만들어낼 엄청난 생산성 향상을 인정하면서도, 그 혜택이 일부에게만 집중되지 않도록 사회적 장치를 고민해야 한다는 것이다.

 

개인적으로도 이 관점이 중요하다고 생각한다.
AI를 더 잘 쓰는 사람이 더 많은 기회를 얻는 것은 자연스러운 흐름일 수 있다. 하지만 AI를 쓸 기회 자체가 비용 때문에 제한된다면, 그것은 실력 경쟁이라기보다는 접근성 경쟁에 가까워질 수 있다.

5. AI는 과학과 산업도 빠르게 바꿀 수 있다

세 번째 주제는 AI가 과학과 기술 혁신을 가속할 가능성이다.

Amodei는 특히 바이오·의약 분야를 예로 든다. AI가 신약 후보 발굴, 독성 예측, 임상시험 설계, 바이오마커 분석 등을 크게 개선할 수 있고, 기존에는 오래 걸리던 연구와 승인 과정이 훨씬 빠르게 진행될 수 있다는 것이다. 

다만 여기서도 문제는 속도 차이다.
AI가 연구 속도를 높여도, 규제 기관과 승인 절차가 기존 속도에 머물러 있으면 병목이 생긴다. 그는 AI 자체에 대해서는 더 강한 안전 규제가 필요하지만, AI가 가속하는 다른 과학 분야에 대해서는 오히려 규제 시스템이 너무 느려서 혁신을 막을 수 있다고 본다.

이 관점은 개발 분야에도 적용해볼 수 있다.
AI는 제품 개발, 데이터 분석, 문서화, 테스트 자동화 속도를 올린다. 그런데 조직의 의사결정 구조나 규정, 승인 절차가 그대로라면 AI로 빨라진 부분이 실제 성과로 연결되지 못할 수 있다.

즉, AI 시대에는 도구만 바뀌는 것이 아니라 일하는 방식과 조직 구조도 같이 바뀌어야 한다.

6. AI 권력은 정부와 기업 모두에게 집중될 수 있다

네 번째 주제는 국가 권력과 시민 자유다.

Amodei는 강력한 AI가 잘못 사용될 경우 감시, 통제, 자율 무기, 권력 집중의 도구가 될 수 있다고 경고한다. 특히 AI는 대량의 데이터를 분석해 개인의 삶을 매우 정밀하게 추론할 수 있고, 기존 법과 제도가 예상하지 못한 방식으로 시민 자유를 침해할 수 있다고 본다.

흥미로운 점은 그가 정부만 경계하는 것이 아니라 기업 권력도 함께 경계한다는 점이다. AI가 너무 강력해지면 정부든 기업이든 어느 한쪽에 완전히 맡기기 어렵고, 양쪽 모두에 견제와 책임 구조가 필요하다고 말한다. 

이 부분 역시 AI 접근성 문제와 연결된다.
AI 인프라를 가진 소수 기업이 모델, 가격, 사용 조건, API 접근성을 결정하는 구조가 된다면, 개발 생태계 전체가 특정 기업의 정책에 크게 의존하게 된다.

오픈소스 모델, 공공 AI 인프라, 교육용 접근권, 합리적인 가격 정책 같은 논의가 중요한 이유도 여기에 있다.

7. AI는 국제 질서의 문제이기도 하다

마지막으로 Amodei는 AI를 단순한 산업 기술이 아니라 국가 간 힘의 균형을 바꿀 수 있는 전략 기술로 본다. 강력한 AI를 가진 국가는 군사, 정보, 제조, 연구개발, 사이버 방어 등 거의 모든 영역에서 압도적 우위를 가질 수 있다는 것이다. 

그는 민주주의 국가들이 AI 공급망, 반도체, 안전 기준, 기술 확산, AI 기반 방어 체계를 함께 관리하는 연합을 만들어야 한다고 주장한다. 

이 주장은 다소 거시적이고 미국 중심적인 시각으로 읽힐 수 있다. 하지만 AI가 단순히 “더 좋은 챗봇”이 아니라 경제력과 국방력, 연구 능력, 사회 통제력까지 바꿀 수 있는 기술이라는 점은 분명히 생각해볼 만하다.

내가 이 글에 공감한 이유

이 글은 굉장히 큰 차원의 정책 글이다.
AI 규제, 노동시장, 과학 혁신, 시민 자유, 국제 질서까지 다룬다. 그래서 처음 읽으면 조금 멀게 느껴질 수도 있다.

하지만 개인 개발자 입장에서 읽어도 생각할 지점이 많았다.

나는 요즘 AI를 쓰면서 “이 도구를 잘 쓰는 사람과 그렇지 못한 사람의 차이가 생각보다 빠르게 벌어질 수 있겠다”고 느낀다. AI를 잘 쓰면 혼자서도 기획, 개발, 문서화, 테스트, 학습을 훨씬 빠르게 할 수 있다. 반대로 AI 사용량이 제한되면 실험 횟수 자체가 줄어든다.

결국 AI 시대의 격차는 단순히 “AI를 아는 사람과 모르는 사람”의 차이만은 아닐 수 있다.

앞으로는 다음과 같은 차이가 더 중요해질 수 있다.

• 더 좋은 모델에 접근할 수 있는가
• 충분한 토큰과 컨텍스트를 사용할 수 있는가
• 회사나 조직이 AI 사용 비용을 지원하는가
• AI를 실험하고 실패해볼 여유가 있는가
• 오픈소스나 저비용 대안에 접근할 수 있는가

이런 요소들이 쌓이면 개발자의 성장 속도와 결과물의 차이로 이어질 수 있다.

마무리: AI 발전을 막자는 것이 아니라, 접근성을 같이 고민해야 한다

AI 모델이 좋아지고 가격이 올라가는 것은 어느 정도 자연스러운 흐름이다.
좋은 모델은 더 많은 비용을 들여 만들어지고, 실제로 더 높은 생산성을 제공한다.

하지만 AI가 사회 전체의 기본 생산성 도구가 된다면, 가격과 접근성은 단순한 서비스 정책이 아니라 사회적 격차의 문제가 된다.

Dario Amodei의 글은 AI가 너무 빠르게 발전하고 있기 때문에 정책과 사회 시스템도 그 속도에 맞춰 다시 생각해야 한다고 말한다. 나는 이 글을 읽으며, 거대한 정책 논의뿐만 아니라 개인 개발자와 작은 팀의 AI 접근성 문제도 함께 고민해야 한다고 느꼈다.

AI는 분명 많은 사람에게 새로운 기회를 줄 수 있다.
하지만 그 기회가 일부 기업과 자본을 가진 사람들에게만 집중되지 않도록, 지금부터 “누가 AI를 얼마나 쓸 수 있는가”라는 질문도 함께 다뤄야 하지 않을까.

참고자료

• https://darioamodei.com/post/policy-on-the-ai-exponential