아하

학문

전기·전자

사탕수수

사탕수수

여러 개의 클라우드 서버로 AI 구축 가능할까?

세상에는 공짜가 없습니다.

하지만 이용자를 위해 일부분 무료로 제공되는 것들이 있죠.

현대에 사용하는 AI 가 그러한데요.

보통 개인용으로 맞춰서 구축하려면 최소 사양이 꽤나 높더라구요.

그 사양을 맞추려면 비용이 만만치 않아서 무료로 제공되는 클라우드 서버들을 터널링해서 Ai 구축을 해보면 어떨까 실험 중인데 이게 이론적으로는 맞는데 실무적으로는 어떨지 궁금합니다.

5개의 답변이 있어요!

  • 박재화 전문가

    박재화 전문가

    AMES Micron

    ∙

    안녕하세요. 박재화 전문가입니다.

    이론적으로는 여러 클라우드 서버를 묶어서 하나의 AI 시스템처럼 사용할 수도 있습니다만, 단순히 터널링만 한다고 성능이 합쳐지는 것은 아닙니다. AI 연산은 서버끼리 계속 데이터를 주고받아야 하기 때문에 인터넷 지연시간이 크다면 오히려 한 대의 서버보다 느려질 수도 있어요.

    특히 모델 학습은 GPU 사이에 매우 빠른 통신이 필요하기 때문에 서로 다른 무료 클라우드를 묶는 방식은 실무적으로 상당히 어려운 점이 많습니다. 대신 한 서버는 AI 모델 실행, 다른 서버는 데이터 저장이나 웹서비스처럼 역할을 나눠 사용하는 방식은 충분히 가능할 수 있습니다.

    말씀하신 무료 서버들은 사용시간이나 GPU 제공시간, 메모리, 네트워크 사용량 같은 것들이 제한이 있고 서비스 약관상에도 장시간 연결이나 우회 사용이 제한될 수도 있습니다. 그렇기 때문에 작은 AI를 여러 서버에 역할별로 나누는 실험은 가능할 수 있곘지만, 여러 무료 서버의 성능을 합쳐 고성능 AI 한 대처럼 만드는 것은 글쎄요... 효율이 좋지 않을 수도 있을 것 같습니다.

    채택 보상으로 466베리 받았어요.

    채택된 답변
  • 최정훈 전문가

    최정훈 전문가

    연세대학교

    ∙

    안녕하세요. 최정훈 전문가입니다.

    무료 클라우드 서버들을 터널링으로 묶어서 AI를 돌리는 아이디어는 이론상으로는 근사해 보입니다. 하지만 실무적으로는 네트워크 지연 시간이랑 분산 컴퓨터의 오버헤드 때문에 속도가 답답할 수 있죠. 여러 대의 인스턴스가 테타를 주고받을 때 대역폭 제안에 걸리기 쉽습니다. 그래서 실제 모델 추론이나 학습 효율이 떨어져요. 하지만 단순한 테스트나 토이 프로젝트용으로 소형 모델을 나누어 실습해 보는 목적으로는 충분히 재밌고 도전해 볼 만한 실험이라고 보이네요. 단일 고성능 GPU 인스턴스를 단기 임대에서 쓰시거나 프라이빗 AI 단말을 구축하는 게 결과적으로는 시간을 아끼는 길이라는 것도 느낄 수 있으실 겁니다.

  • 강세훈 전문가

    강세훈 전문가

    한국폴리텍1대학 전기

    ∙

    안녕하세요. 강세훈 전문가입니다.

    여러 클라우드 서버를 묶어 AI를 구축하는 것이 가능하지만 실무적으로는 네트워크 지연,대역폭,서버 제한 때문에 효율이 크게 떨어집니다. 소규모 실험이나 역할 분담에는 가능하지만 고성능 AI 한대처럼 만드는 것은 어렵습니다.

  • 이희애 전문가

    이희애 전문가

    한양대학교

    ∙

    안녕하세요.

    여러 클라우드 서버를 묶어서 AI를 구축하는 것 자체는 이론적으로는 가능할 수도 있을 것 같긴한데, 무료 서버들을 단순하게 여러 개 연결한다고 하나의 고성능 GPU처럼 사용할 수 있는 것은 아닐 것 같아요.

    AI 모델을 나눠서 여러 서버에서 처리하려면 또 서버 간 통신이 계속 필요할 수 있을 것이고 네트워크 속도와 지연시간 또한 큰 문제로 작용할 것으로 생각돼요.

    특히 모델 학습은 GPU끼리 데이터를 자주 주고받아야 해서 무료 클라우드 여러 개를 묶는 방식은 효율이 크게 떨어지지 않을까... 생각됩니다.

    감사합니다.

  • 김재훈 전문가

    김재훈 전문가

    SFTL

    ∙

    안녕하세요. 김재훈 전문가입니다.

    이론적으로는 여러 클라우드 서버의 자원을 묶어 하나의 ai 시스템처럼 구성하는 것이 가능하지만 단순히 서버들을 터널링한다고 해서 여러 서버의 그래픽처리장치나 메모리가 하나로 합쳐지는 것은 아닙니다 대규모 ai 모델을 여러 서버에서 처리하려면 모델 병렬화나 분산 학습 같은 기술이 필요하며 서버 사이의 통신 속도와 지연시간이 매우 중요합니다 특히 무료 클라우드는 성능이 제한적이로 서버가 중단되거나 접속 주소가 바뀔수 있으며 네트워크 지연 때문에 오히려 한 대의 성능 좋은 서버보다 느려질 수도 있습니다 그래서 실험이나 소규모 작업에는 가능하지만 안정적인 ai 구축이라면 여러 무료서버를 억지로 묶기보다는 한 대의 적절한 그래픽처리장치 서버나 안정적인 유료 클라우드의 분산 환경을 사용하는 것이 현실적입니다