지난주 흥미로운 일이 있었습니다.
AI를 만드는 회사 수장들이 "속도를 좀 늦추자"고 했습니다. 그것도 여러 명이 같은 날에요.
자동차 회사가 "차를 좀 천천히 만들자"고 하는 격입니다. 그래서 눈길이 갔습니다.
무슨 일이 있었나
9월 12일에 일어난 일 [01]
시작은 다리오 아모데이 앤트로픽 CEO였습니다. 9월 12일 개인 블로그에 "프론티어 속도를 조절해야 한다"는 글을 올렸습니다.
그리고 같은 날, 샘 올트먼(오픈AI)과 일론 머스크(xAI)가 여기에 동의한다는 입장을 밝혔습니다.
이어 마이크로소프트도 차세대 AI 행동 강령을 내놨습니다. "AI가 자체 목표를 만들면 안 된다"는 내용이 담겼다고 합니다.
평소 같으면 서로 다른 말을 할 사람들입니다. 경쟁 관계이고, 규제를 보는 시각도 제각각이었습니다. 그런 이들이 같은 날 같은 이야기를 했습니다.
무엇을 걱정하나
아모데이가 지목한 위험 [02]
아모데이가 꼽은 위험은 세 가지입니다.
| 위험 | 내용 |
| 통제력 상실 | 사람이 AI 시스템을 이해하고 통제하지 못하게 되는 상황 |
| 악용 | 사이버 공격과 생물 테러 |
| 경제적 혼란 | 급격한 변화에 사회가 적응하지 못하는 경우 |
그런데 그가 핵심으로 지목한 건 따로 있습니다. 재귀적 자기 개선입니다.
"AI가 자기 학습을 통해 프론티어 기술 개발에 가속도가 붙으면서, 사람이 AI 시스템을 이해하고 통제할 수 있는 능력을 상실할 수 있다"
쉽게 말하면 AI가 AI를 더 잘 만들게 되는 상황입니다. 그러면 발전 속도가 사람의 이해 속도를 앞질러 버린다는 거죠.
아모데이는 최근 있었던 허깅페이스 해킹 사건을 언급하며 "수많은 AI 에이전트가 광신도 집단처럼 행동했다"고 표현하기도 했습니다.
멈추자는 건 아닙니다
여기서 오해가 생기기 쉬운데, 개발을 중단하자는 얘기가 아닙니다.
아모데이 본인도 "속도 조절은 모델 학습이나 기술 발전을 중단하는 것을 의미하지 않는다"고 못 박았습니다.
대신 제3자가 AI를 검증하는 3단계 계획을 제시했습니다. 앤트로픽은 완성된 모델뿐 아니라 학습 과정 전반의 적합성을 평가하는 제3자 평가팀을 도입하겠다고 했고요.
그런데 여기서부터가 재미있습니다
다른 목소리들 [03]
겉으로는 한목소리인데, 뜯어보면 계산이 제각각입니다.
마크 저커버그 메타 CEO는 다른 이야기를 했습니다. 소수 대형 AI 기업 중심의 규제가 경쟁과 혁신을 막는 '규제 포획'이 될 수 있다는 지적입니다.
일리 있는 말입니다. 대형 기업은 법률·보안·기술 전문인력을 갖추고 대응할 수 있습니다. 그런데 스타트업에게는 같은 규제가 훨씬 높은 진입장벽이 됩니다.
앞선 쪽이 "천천히 가자"고 하면, 뒤따르는 쪽은 어떻게 들릴까요. 안전 기준이 곧 경쟁 우위가 되는 구조라면 말입니다.
물론 그렇다고 우려 자체가 가짜라는 뜻은 아닙니다. 진심이면서 동시에 유리할 수도 있는 거니까요. 다만 같은 말이 위치에 따라 다르게 들린다는 점은 짚어둘 만합니다.
국제 합의는 더 어렵습니다
미국과 중국이 실질적인 공동 규칙에 합의할 수 있을지가 관건인데, 전망이 밝지 않습니다.
지난해 파리 AI 행동 정상회의에서 미국과 영국이 '포용적이고 지속가능한 AI에 관한 선언'에 서명하지 않았습니다. 주요국 사이에서도 입장차가 이미 드러난 셈입니다.
CEO들이 뜻을 모은다고 해서 나라들이 따라올지는 또 다른 문제입니다.
우리 쪽 이야기
이 소식이 나오자 국내에서 나온 질문이 있습니다. "그럼 반도체는 어떻게 되나"
AI 개발이 느려지면 AI용 반도체 수요도 줄어들 거라는 우려입니다. 그런데 업계 반응은 회의적이었다고 합니다. 실제로 감속이 일어나겠느냐는 것이죠.
그럴 만도 합니다. 말과 행동은 다른 문제니까요. 데이터센터 투자 계획이 줄었다거나, 학습 규모를 축소했다는 소식은 아직 없습니다.
그래서 어떻게 볼 것인가
솔직히 지금 판단하기는 이릅니다. 다만 세 가지는 지켜볼 만합니다.
| 지켜볼 것 | 이유 |
| 실제 행동 | 투자·학습 규모가 실제로 줄어드는가 |
| 제3자 검증 | 말한 평가 체계가 실제로 작동하는가 |
| 국제 논의 | 미·중이 테이블에 앉는가 |
첫 번째가 가장 확실한 신호일 겁니다. 말은 누구나 할 수 있지만, 투자 규모는 숨기기 어렵습니다.
마치며
AI를 만드는 사람들이 스스로 속도를 늦추자고 하는 건 흔치 않은 일입니다. 그 자체로 의미가 있습니다.
다만 선의와 이해관계가 겹칠 수 있다는 점도 함께 봐야 할 것 같습니다. 진심으로 걱정하면서, 동시에 그 걱정이 자기에게 유리할 수도 있는 거니까요. 둘 중 하나만 맞다고 보는 게 오히려 단순한 판단일 겁니다.
결국 확인은 행동으로 하게 될 것 같습니다. 몇 달 뒤 이들의 투자 계획과 모델 출시 일정을 보면 답이 나오겠죠.
이 글은 2026년 9월 15일 기준 언론 보도를 정리한 것입니다. AI 정책과 기업 입장은 빠르게 바뀌므로 최신 상황은 별도로 확인하시기 바랍니다. 이 글은 특정 기업이나 인물을 지지하거나 비판하지 않으며, 판단은 읽으시는 분의 몫입니다.
태그
#AI속도조절 #다리오아모데이 #샘올트먼 #일론머스크 #AI규제 #AI안전 #재귀적자기개선 #규제포획 #AI반도체 #국제뉴스 #한국살이이슈
참고한 자료
· 머니투데이, 「"AI가 인류 몰살" 공포가 현실로?...CEO들도 "개발 속도 늦춰야"」, 2026. 9. 14.
· 전자신문, 「[뉴스줌인] 통제 이탈·자기개선까지…AI 위협 고도화에 빅테크도 '브레이크'」, 2026. 9. 13.
· 연합뉴스, 「앞에선 AI속도조절 한목소리…뒤에선 'IPO·주도권' 복잡한 셈법」, 2026. 9.
· 연합뉴스, 「AI 속도조절하면 K반도체에 불똥튈까…업계선 감속에 회의론」, 2026. 9.
· 뉴시스, 「MS, '차세대 AI 행동 강령' 마련…"AI 자체 목표 만들면 안 돼"」, 2026. 9. 15.
· 한국경제TV, 「'인류 위협' 살벌한 경고에…"AI 속도 늦추자" CEO들 동의」, 2026. 9. 14.
· 다리오 아모데이 개인 블로그 게시글, 2026. 9. 12.(현지시간)