eGPU(2)
-
미니PC에 gpu 연결해서 LLM 운영하기
안녕하세요. 쿠루가이입니다.지난영상에서 미니PC에 egpu를 연결하여 게임하는것을 보여드렸는데요. 이번에는 AI 모델 구동하는 모습을 보여드리겠습니다. 지난번에는 RTX 3070을 연결했었는데 AI모델을 구동하기엔 VRAM이 너무 적어서 48GB VRAM을 가진 RTX 8000 모델로 교체해서 LLM을 구동하는것을 보여드리겠습니다. AI 공부하실 때 이렇게도 구성할 수 있구나 하는 정도로만 보시면 될것 같습니다.미니PC와 EGPU 설치 및 구동에 대해서 궁금하시면 오른쪽 상단의 토스 메시지를 클릭해주세요. 도커(Docker) 설치하기1. 도커를 설치하기 위해서 구글에 접속합니다. 그리고 'docker desktop'라고 검색합니다. 그럼 첫번째로 뜨는 링크를 클릭합니다.2. 운영체제에 맞게 설치 프로그램..
2024.09.03 -
미니PC(7840HS)에 egpu(레이저 코어 X)를 연결해 고사양 게임을 해보자
안녕하세요. 쿠루가이입니다.오늘은 미니PC와 eGPU간 연결해서 사용하는 방법에 대해서 이야기해볼까 합니다. 미니PC의 문제점그래픽 카드 자체가 내 뿜어내는 열은 상상을 초월하는데요. PC 같은 경우 미니PC에 비해 내부 공간도 넓고 열을 식힐 수 있는 성능좋은 장치들이 많이 있는데 반해 미니PC는 작은 공간에 때려박은 형태라 열 컨트롤에 한계가 있습니다. 그래서 태생적으로 미니PC는 데스크탑에 비해서 낮은 그래픽 카드 성능을 가질 수 밖에 없습니다.제가 이번에 구입한 7840HS는 그래픽 성능이 1050ti 급이라고는 하나 열로 인한 쓰로슬링과 한계치를 넘어가면 블루스크린이 떠버려서 뭘 할 수 없는 상태에 이르게 됩니다. 그래픽 카드 성능은 괜찮지만 열 컨트롤이 되지 않아 제성능을 발휘 할수도 없습니다..
2024.06.09