생활
세심한향고래249
ai가 인간의 통제를 벗어날수 있어서 계발을 늦춰야한다는 이야기가 있다는데요. 이게 무슨 이야기죠?
ai가 인간의 통제를 벗어날수 있어서 계발을 늦춰야한다는 이야기가 있다는데요. 이게 무슨 이야기죠. 인류에 위협이되고 내년에는 통제를 벗어날수도 있다는 이야기도 있다는데 이게 무슨일이죠? 소설이 아니라 진짜 그렇다는건가요??
5개의 답변이 있어요!
인고지능의 발전속도가 워낙 빠르고 개발을 할때 인간의 통제를 벗어날 우려가 높아지기 때문입니다, 미국 중국등의 대립이 심화되면서 인공지능에 대한 사람들의 통제권을 읽ㅇ버릴 가능성이 높아져서 더욱 그런거 같아요
채택 보상으로 40베리 받았어요.
채택된 답변가장 큰 이유는 AI가 인간의 통제를 벗어나거나 오용될 경우나 사이버 공격, 무기화, 지능적 통제 불능 등 돌이킬 수 없는 치명적 결과를 초래할 수 있기 때문이죠 그리고 급격한 기술 발전으로 인한 대규모 일자리 상실, 딥페이크 등 가짜 뉴스 범람, 개인정보 침해와 같은 사회적 충격을 연착륙시킬 시간이 필요하다는 측면도 있습니다.
소설 같은 얘기가 뉴스에 나오니 진짜인지 헷갈리시죠. 결론부터 말하면 그런 주장을 하는 전문가들이 실제로 있고 근거도 나름 있지만, 내년에 통제를 벗어난다는 건 예측이 아니라 경고용 시나리오라고 보시면 정확해요.
이야기의 뿌리는 두 갈래예요. 하나는 이천이십삼년에 유명한 연구자와 기업인 수천 명이 서명한 개발 잠시 멈추자는 공개서한이에요. 인공지능이 너무 빨리 강해지는데 안전장치와 규제가 못 따라가니 반년만 속도를 늦추자는 내용이었고, 실제로 멈춘 회사는 없었지만 이 논쟁이 대중에게 알려진 계기가 됐습니다. 또 하나는 인공지능 회사 출신 연구자들이 쓴 미래 시나리오 보고서들인데, 계산 능력이 지금 속도로 늘면 몇 년 안에 사람 연구자 수준을 넘는 인공지능이 나오고, 그 인공지능이 스스로 다음 세대를 개발하기 시작하면 사람이 무엇을 하는지 검토할 시간이 없어진다는 논리예요. 여기서 내년이라는 숫자가 나왔습니다.
그런데 이걸 반박하는 전문가도 그만큼 많아요. 지금 인공지능은 목표를 스스로 세우거나 컴퓨터 밖으로 나가 행동하는 능력이 없고, 전기와 데이터센터를 사람이 쥐고 있는 한 물리적으로 통제를 벗어날 길이 없다는 거죠. 지금 실제로 일어나는 문제는 통제 불능보다 가짜 정보, 일자리 변화, 해킹 도구로 쓰이는 것처럼 훨씬 현실적인 것들이라는 지적이에요.
그래서 정부들은 개발을 멈추게 하는 대신 큰 모델을 내놓기 전에 안전 시험을 받게 하고, 위험한 능력이 있으면 보고하게 하는 쪽으로 규제를 만들고 있어요. 유럽과 미국, 한국 모두 그 방향입니다.
정리하면 진지한 전문가들의 경고이긴 하지만 내년에 통제를 잃는다는 건 최악의 경우를 가정한 이야기이고, 다수 의견은 속도를 늦추는 것보다 안전장치를 같이 키우는 게 답이라는 쪽이에요. 무섭게 들리는 기사 제목보다는 어떤 안전 규칙이 실제로 만들어지는지를 지켜보시는 게 현실적인 관전법입니다.
"내년(2027년) 통제 불능" 주장의 배경
오픈AI(OpenAI)의 전 연구원이었던 레오폴드 아셴브레너(Leopold Aschenbrenner) 등의 전문가들이 발표한 보고서에서 비롯되었습니다. 이들은 현재의 AI 발전 속도(연산량, 모델 규모 증가)가 유지된다면 2026~2027년경에는 인간 전문가 수준을 뛰어넘는 AGI가 등장할 것이며, 이때 적절한 안전장치가 없다면 통제권을 잃을 수 있다고 경고했습니다.
저는 AI가 인간의 통제를 벗어나 마음대로 행동할 가능성에 대한 이야기는 너무 걱정할 필요는 없다고 생각합니다. 물론 AI가 빠르게 발전하면서 예상하지 못한 문제가 생길 가능성은 있지만, 현재 이야기되는 내용 중에는 과장되거나 가상의 상황을 바탕으로 한 경우도 많습니다. 중요한 것은 AI를 무조건 두려워하기보다 안전장치와 관리 기준을 잘 마련하는 것이라고 생각합니다.