안녕하세요. 쿠루가이입니다. `llama.cpp`를 OPENAI와 비슷하게 사용할 수 있는 `llama-cpp-python` 라고 있습니다. 최근에 gguf 파일도 추가되고 정말 좋은데요. 한가지 lora를 적용할 수 없어서 사용이 좀 꺼려지더군요. LLM을 사용하는 이유는 거의 커스터마이즈된 나만의 LLM을 갖기 위해서인데 lora가 없어서 너무 불편했습니다. 그래서 github에 아래와 같이 의뢰를 했었습니다. 그 후에 다른 유저들이 제 말을 못 알아 들었는지 llama_cpp.server가 아니라 자꾸 파이썬 코드에서 불러오는걸 사용해봐라. 모델을 병합하여 gguf만들어 그냥 사용하라라는 답변을 주더군요. 저는 llama.cpp에 lora 메뉴가 있으니까 그걸 llama_cpp.server에 적용해..

안녕하세요. 쿠루가이입니다. 오늘은 투자 실패에 대한 경험을 전해드리고자.ㅠㅠ 다름이 아니라 저는 연에 400만원씩 퇴직연금을 넣고 있습니다. 처음에는 미국펀드, 아시아 펀드, 그리고 채권 이렇게 분산투자한다고 3개 영역으로 나눠서 투자를 했는데요. 결과적으로는 미국펀드를 제외하고는 모두 마이너스 였습니다. 특히 미래에셋 요 펀드는 정말 욕이 나올정도로 펀드 운영을 못하는거 같아요. 제가 3년 정도 투자했는데 처음에는 +20%까지 올라서 기분이 좋았는데 그 후로 쭈욱 내리막을 타더니 이제는 거의 회생 불가능할 정도로 나락으로 갔습니다. 우리GPIMCO 채권펀드도...금리가 이렇게 올라가는데 맥을 못 추더라고요. 투자기간은 동일합니다. 이것도 가능성이 없고 계속 수수료만 나가는터라 그냥 접자라고 생각하고 ..

줄거리한 부부(남편은 배우, 여자는 회사원)가 사는데 남편이 어느순간부터 몽유병에 시달린다. 단순히 걷는것이면 문제가 없겠지만 냉장고에서 생고기를 먹는다거나 반려동물을 죽여서 냉동고에 넣어 놓는다거나 이상한 행동을 한다. 병원에 찾아가서 의사 처방대로 약과 생활수칙을 지켰는데도 불구하고 도무지 나아질 기미가 보이지 않는다. 아이가 태어났다. 여자는 남편의 몽유병으로 우리 아이가 죽을까봐 불안해한다. 그러다가 엄마 소개로 용한 무당을 집에 들여온다. 무당이 이곳 저곳을 살피더니 "남자 둘을 끼고 사네?" 라고 말을 했다. 귀신이 붙었단 말이다. 그래서 과거 남친, 썸이 있었던 사람들을 조사해보았는데 모두 살아있었다. 그러다 생각해보니 아랫집 할아버지가 예전에 나를 좋아했었던것 같다는 느낌이 들었다. 그래서..

1. 고잔신도시에 오복당이라고 중화요리..정확히 말하자면 대만요리를 파는곳이 있습니다. 2. 프리베이트 룸이 여러개 있는데 운이 좋아서 들어갈 수 있었습니다. 둘이 먹기에 좋은거 같아요. 인테리어는 좋다고는 말 못하지만 현지 식당 느낌은 듭니다. 노래도 대만노래가 계속 나와요. 소품들도 아기자기 합니다. 3. 2인 세트와 해물탕면을 주문했습니다. 저는 금주 6개월차라 요즘엔 제로콜라를 주로 먹습니다. 태블릿으로 쉽게 주문 할 수 있어서 편했어요. 4. 먼저 샤오롱바오와 탄탄면이 나왔어요. 샤오롱바오는 만두인데 안에 육즙? 물이 가득차있어서 숟가락에 올려놓고 만두피를 찢어서 먹어야합니자. 안 그럼 입천장 다 화상입습니다. 조심! 또 조심! 5. 샤오롱바오 즐기는 법이라고 해서 테이블마다 자세히 적혀 있습니..

WSL 설치하기시작 → 실행 → 제어판(config 입력) → 프로그램 → Windows 기능 켜기/끄기 → Linux용 Windows 하위 시스템 체크 → 확인 Ubuntu 다운로드도스프롬프트에서 wsl 라고 입력하면, 배포판이 설치되어 있지 않다고 메시지가 나옵니다.Microsoft Windows [Version 10.0.19044.2006] (c) Microsoft Corporation. All rights reserved. C:\Users\Hyungwon>wsl Linux용 Windows 하위 시스템에 배포가 설치되어 있지 않습니다. 아래의 Microsoft Store에서 배포를 설치할 수 있습니다. https://aka.ms/wslstore 윈도우 스토어에 들어가서 ubuntu 라고 검색하고 제..

안녕하세요. 쿠루가이입니다. 오늘은 학습을 할 때 자주 나오는 용어인 Epoch, Loss, Accuracy에 대해서 간단히 정리해보겠습니다. Epoch 에폭이라고 읽고, 전체 데이터가 모두 학습한 단위를 말합니다. 즉, 1에폭은 dataset의 전체 레코드를 한번씩 학습했다는 의미입니다. 아래와 같이 `num_train_epochs = 5`와 같은 경우, 전체 dataset의 전체 레코드를 5번씩 학습했다는 의미입니다. # import transformers # # needed for gpt-neo-x tokenizer tokenizer.pad_token = tokenizer.eos_token trainer = maskTrainer( model=model, train_dataset=data["train..