개인비서형식의 AI컴퓨터 쓰시는분 계신가요?

Question

미니PC형태의 개인 포켓용 Ai모듈이 있다고 들었습니다. 별도의 인터넷 접속이 필요없다고 들었는데 혹시 써보신분있다면 어떤지, 추천해주실 제품이 있을지 가격까지 알려주시면 고맙겠습니다.

Answer 1

nvidia dgx spark 이 제품 말하는것 같네요

가격은 대략 900~960만원정도 합니다.

제가 느끼기에, 성능은 지피티 5 nano 정도 나옵니다.

속도는 절반정도 나온다고 보면 되구요.

소비전력이 240w 정도되서 한달내내 켜두고 사용하면 월 전기세가 4~6만원정도 나옵니다.

보안이 중요하다면 쓸만하지만

그게 아니라면 구독해서 쓰는게 성능도 좋고 가격도 쌉니다.

오픈코드가 좀 싼편인데 위 기기로 돌릴수 있는 모델보다 성능 좋은 딥시크v4플래시 모델쓰면, 거의 기본료 16000원정도에 한달내내 씁니다.

Answer 2

로컬ai를 쓸만한 속도로 돌리려면 적어도 일반인이 구매가능한 물건 중 하이엔드급인 5070ti 80 90번대급 그래픽카드정도는 있어야합니다.

미니타워 조립pc를 부품조합을 극한까지 땡기면 비슷한 물건이 나오긴 하겠지만

안그래도 비싼 cpu그래픽카드를 써야하는 pc에 타부품 가성비마저 크게 떨어뜨리기 떄문에 추천드리지 않습니다.

Answer 3

아직 그런 PC들은 별로 없습니다.

이제 막 도입이 되려고 하는 단계인데 이게 하드웨어 뿐만 아니라 소프트웨어도 다 받쳐둬야 하는 것이라 현재까지 우리가 상상하는 그런 컴퓨터는 없습니다. 아직까지 우리가 상상하는 그런 개인비서 ai가 도입되려면 한참 멀었따고 봐도 됩니다.

Answer 4

최근 AI 모델을 로컬에서 돌릴 수 있는 mini pc형태의 제품들이 몇개 출시가 되고 있는데

크기가 개인용일뿐 가격은 전혀 개인용이 아닙니다

국내에 출시가 되는지도 알수 없지만 보통 5~600만원정도에 해당하는 가격이 형성되어 있고요

그렇다고 거기에서 최신 AI모델을 돌릴 수 있는것도 물론 아닙니다

아마 GPT4 같은 구형 모델 성능 정도를 로컬에서 돌릴수 있지 않을까 싶네요

AI 서비스를 수년간 구독하는 비용에 비해서 훨씬 비쌀 수 밖에 없고 전기료도 직접 내야하고요

보안이 중요한 사업장에서는 써볼수 있을법 합니다만...