Q. 메모리칩안에 메모리셀과 메모리뱅크가 무엇이며 역할이 무엇인가요?
안녕하세요김철승 과학 전문가입니다.메모리 반도체 안에 들어있는 메모리 셀은 전하를 저장하고 있는 공간입니다.디지털 데이터는 각 셀마다 0과 1로 저장됩니다.전원이 들어와있는 동안에는 각 셀마다 전기가 공급이 되고, 메모리 컨트롤러가 특정 셀에게 기억시키고자 하는 값으로 고정된채로 유지시켜줍니다.이때 전하의 극성에 따라서 양극이면 1로 기록되고 음극성을 띄면 0으로 저장하는 부품이 메모리 셀입니다.메모리 뱅크는 메모리 셀들을 한줄로 묶어서 한번에 전기 신호를 줄 수 있는 반도체 구조를 의미합니다.즉, 메모리 셀 1개에 저장할 수 있는 데이터는 0 또는 1개 뿐이지만메모리 셀을 줄을 지어서 연결해두고서, 한번에 여러개의 셀의 값을 각각 0과 1로 다양하게 저장하면한번에 저장할 수 있는 데이터의 양이 늘어나게 됩니다.즉, 메모리 뱅크는 메모리셀들을 줄지어서 연결하여 데이터를 많이 저장하는 부품이라고 할 수 있습니다.답변이 마음에 드신다면 좋아요와 추천을 부탁드립니다.
Q. 챗GPT 운영에 사용되고 있는 그래픽처리장치(GPU)에 대해서 알고 싶습니다.
안녕하세요김철승 과학 전문가 입니다.챗GPT를 비롯하여 사람들이 입력한 질문이나 음성질문이나 이미지 파일을 입력받아서벡터로 해석한 후에 해당 질문에 대한 답을 거대 언어모델에서 찾아서 답변을 하는 모델을 생성형 ai라고 부릅니다.LLAMA3도 있고 Chatgpt도 있고 클로바X도 있습니다.이때, 인공지능 기술을 사용하려면 먼저 데이터를 학습하는 과정을 거쳐서 모델을 만들고요.만들어진 모델을 이용해서 사용자가 질문한 텍스트의 정답을 추론해서 찾는 추론과정이 있어요.GPU는 데이터를 다차원 벡터로 매핑하는 과정에 해당하는 연산을 할때 많이 사용되고요.또, 학습해서 만들어둔 모델을 이용해서, 사용자가 질문한 텍스트 또는 그림의 유사도를계산해서, 어떤 텍스트인지를 해석하는 추론 동작에도 GPU 연산이 사용됩니다.정확하게는 GPU에서 다차원의 배열의 연산을 수행하는 것입니다.답변이 마음에 드셨다면 좋아요와 추천을 부탁드립니다.