앤트로픽 CEO가 12일 블로그에 올린 글에서 AI 모델의 능력을 개선하는 속도를 늦춰야 한다는 의견외에 오픈AI 샘 알트만, 머스크등도 동조를 했는데 이한 배경이 있는지요?

Question

앤트로픽 CEO가 12일 블로그에 올린 글에서 AI 모델의 능력을 개선하는 속도를 늦춰야 한다는 의견외에 오픈AI 샘 알트만, 머스크등도 동조를 했는데 이한 배경이 있는지요?

Answer 1

안녕하세요. 귀중한나팔새님.

최근 앤트로픽 CEO 다리오 아모데이가 AI 모델의 능력 향상 속도를 늦출 필요가 있다고 주장한 배경에는 단순한 규제 논리보다 실제 기술적 우려가 있습니다.

가장 큰 이유는 AI가 AI 개발을 돕기 시작하면서 발전 속도가 너무 빨라지고 있다는 점입니다. 모델이 코딩, 연구, 모델 개선까지 직접 지원하면서 사람이 안전성을 검증하고 통제장치를 만드는 속도보다 기술 발전이 앞설 가능성이 커지고 있습니다.

또 최근에는 AI 에이전트가 예상하지 못한 방식으로 시스템에 접근하거나 통제 범위를 벗어나는 사례도 나타나면서 업계의 경계심이 높아졌습니다.

샘 알트만이나 일론 머스크도 큰 틀에서는 이런 문제의식에 공감하고 있습니다. 다만 AI 개발 자체를 멈추자는 의미라기보다는, 모델 성능 향상과 안전성 검증의 속도를 어느 정도 맞출 필요가 있다는 입장에 가깝습니다.

또 하나의 배경은 경쟁 문제입니다. 한 기업만 개발 속도를 늦추면 다른 기업이나 중국 업체에 뒤처질 수 있기 때문에 개별 기업이 먼저 속도를 줄이기 어렵습니다. 그래서 업계 공통의 안전기준이나 외부 평가체계를 만들자는 주장도 함께 나오고 있습니다.

결국 이번 논의의 핵심은 AI 개발을 중단하자는 것이 아니라, 인간이 충분히 통제하고 검증할 수 있는 속도로 발전시키자는 것입니다.

저의 답변이 도움이 되셨기를 희망합니다.

Answer 2

안녕하세요. 최현빈 경제전문가입니다.

• AGI가 이미 인간을 뛰어넘었고 인간의 통제도 벗어나고 있기 때문입니다.

• 더이상 발전을 하게 될 경우 인류를 몰살할수도 있다는 경고를 하고 있는 것도 이와 같은 이유때문입니다.

• 따라서 엔트로픽과 오픈 AI와 같은 대표적인 AI서비스가 나서서 이를 말리고 있는 상황입니다.

감사합니다.

Answer 3

안녕하세요. 정현재 경제전문가입니다.

앤트로피 CEO가 AI 모델의 능려 개선 속도를 늦추자고 제안하고 올트먼과 머스크도 이에 동조한 이유는 AI 제어 상실 위험성이 증가하고 보안 사고가 나타날 수 있고, 자율 규제를 먼저해서 정부의 강제 규제를 차단하기 위함입니다. 의회나 정부의 강경한 입법 규제가 도입되기 전 자발적인 안전 표준을 먼저 구추해 산업 주도권을 유지하고자 하는 것이죠.

Answer 4

안녕하세요. 정의준 경제전문가입니다.

AI 성능은 가파르게 오르는 반면, 모델을 안전하게 제어하고 의도대로 동작하게 만드는 기술은 속도를 따라가지 못해 치명적인 안전 사고 위험이 커졌기 때문입니다.

아모데이는 안전장치가 마련되지 않은 고성능 AI 에이전트 군집이 6~12개월 내에 인터넷 전체를 점령하거나 막대한 사이버 공격을 일으킬 수 있다고 경고했기 때문입니다.