한 줄 요약 Agent를 온프레미스에서 운영하려면, 메모리가 큰 GPU를 구매하세요. 들어가며 Agent를 직접 운영하려는 기업들과 이야기하다 보면 GPU에 대한 질문을 많이 받습니다. 클라우드 API를 쓰자니 비용이 걱정되고, 데이터를 외부로 보내기도 꺼려지는 곳들입니다. 그래서 직접 서버를 두고 운영해보자는 방향입니다. 가장 먼저 묻는 질문이 있습니다. "최신 NVIDIA GPU 사면 되지 않나요?