전체 글(833)
-
우바부가가 OPENAI 형식으로 통신이 가능하네요.
안녕하세요. 쿠루가이입니다. 최근에 RTX8000이라는 그래픽카드를 사서 이것저것 돌리는 맛으로 하루하루를 살고 있는데요. 우바부가를 최신버전으로 설치했더니 extensions에 openai 가 있더라고요. 오늘은 python 코드로 우바부가와 통신해서 마치 openai가 대답하는것처럼 코드를 짜는걸 소개해볼까합니다. Boolean command-line flags에 api를 체크하고 위의 openai를 체크한 다음 [Apply flags/extensions and restart]를 누르면 활성화 됩니다. 웹브라우저 주소창에서 'http://127.0.0.1:5000/v1' 를 입력하고 아래와 같이 출력되면 설정 성공입니다. 그리고 아래는 OPENAI 스타일 파이썬 코드인데 api_base를 'http:..
2024.02.06 -
[주식투자] 24년 1월 점검
안녕하세요. 쿠루가이입니다. 24년 1월 투자 점검입니다. 그런데 오늘은 2월 4일입니다. 회사 일이 바쁘다는 핑계(?)로 한달에 한번씩 수익률 점검 글을 쓰지 못했습니다. ㅠㅠ 숙제는 미루면 안되는데 말이죠...^^;; 그래서 늦게나마 한번 점검해볼려고합니다. 투자 원칙을 다시 한번 상기해보겠습니다. 1. 한달에 25만원만 투자할 수 있음. - 배당주 위주로 투자 - 투자한 종목 중 마이너스가 난 것 부터 추가 매수함. - 현재 저평가로 되어 있는것 위주로 매수 2. 배당 받은것은 빼지말고 무조건. 재투자. 3. 장기투자이므로 절대 매도 금지. 4. 한달에 한번 수익율 상황 점검. 블로그에 투자일기 형태로 쓰여져야함. 먼저 4번 항목! 수익율 상황 점검을 해보죠.■ 지난 점검과 비교해보면 눈에 띄는 종..
2024.02.04 -
RTX 8000를 사용해 LLM을 찍먹해보았습니다.
안녕하세요. 쿠루가이입니다. 오늘은 RTX 8000 언박싱 및 설치기...그리고 간단히 성능 테스트를 해보도록 하겠습니다. 구입 동기LLM이라는것을 안지 거의 1년이 다 되어 갑니다. 3년전에 나름 고사양PC로 샀었는데 LLM을 알고 나서는 완전 저사양 취급을 당합니다.ㅠㅠ 그것은 바로 그래픽 카드때문인데요. LLM을 구동하기 위해서는 VRAM이라는 메모리가 매우~~~ 커야합니다. 구동할 수 있는 LLM은 파라미터수에 따라 다른데요. 제가 가진 카드는 VRAM이 8GB이므로 기껏해봐야 6B 정도 LLM 구동하는게 전부입니다. 이것도 4비트 양자화 해야 겨우 돌릴수 있습니다.13B, 30B, 65B 같은 파라미터가 훨씬 많은 모델들은 도대체 어떤 성능을 가지고 있는지 궁금해하고 있었습니다. 아마 이런것들을..
2024.01.27 -
안산맛집 - 시마스시(중앙동)
1. 안산 중앙동 롯데백화점 지하1층에 위치한 시마스시에 가보았습니다. 주말 점신시간대라 그런지 사람이 많이 있었습니다.2. 초밥세트도 있고 회전초밥도 있는데 저희는 그냥 회전초밥으로 ㄱㄱ 3. 자리에 앉고 마치 회전초밥을 집어서 먹으면 되는 시스템!!! 초밥 접시 컬러별로 가격이 다릅니다. 일단 가격 생각하지 않고 그냥 맛있어 보이는거 낚아채듯이 집었습니다. 4. 일단 4접시 깔아주고 된장국과 함께 하나하나 음미하면서 먹었습니다. 새우초밥도 있었는데 이전 이자카야에서 새우회 먹고 식중독 걸린적이 있어서 무서워서 손이 가진 않거군요 ㅠㅠ 5. 회가 윤기도 좔좔 흐르고 너무 신선하고 맛있었어요. 맥주랑 같이 먹어야 하는데 차를 가지고 와서 참았습니다 ㅠㅠ6. 연어에 게맛살 얻은거 같은데 부드럽고 어린이들이..
2024.01.22 -
송산맛집 - 육담(새솔동)
1. 새솔동에 육담이라고 한우, 한돈 전문점이 있습니다. 오픈한지는 꽤 되었는데 이제서야가보네요. 블랙톤으로 인테리어가 되어 있어서 고급 고깃집 같습니다.2. 불판 덮개가 메뉴판입니다. 한우는 너무 비싸서 만만한 한돈 오겹살을 주문했습니다. 그리고 김치찌개(공깃밥 1개 포함)랑 공깃밥 1개를 추가했습니다.3. 저녁에 와서 서비스로 육회를 주었습니다. 양도 꽤 많이 주는군요 ㅎㅎ 와이프는 육회를 먹질 못해서 제가 다 먹었습니다. 반찬이랑 상추는 더 달라면 더 주십니다. 4. 오겹살 500g 나왔습니다. 엄청 두껍게 썰린 3덩이!! 고기는 두꺼워야 육즙이 잘 잡하는데 이게 딱 그렇네요 ㅎㅎ 고기는 종업원이 다 구워주십니다. 5. 공깃밥은 꾹꾹 꽉꽉 담겨져 있습니다. 밥이 생각보다 많이 맛있더라고요. 좋은 쌀..
2024.01.09 -
오사카 여행 기록
1일차 - 출국 및 숙소 도착인천공항으로 출발 및 장기주차장에 주차드디어 오서카 여행을 떠나는 날이 되었습니다. 충전소에 들러서 가스를 만땅 채우고 인천공항으로 출발했는데 갑자기 오늘 아침부터 눈이 많이 내려서 운전하는데 시야확보가 어렵다라고요. ㅎㅎ 천천히 안전운행하면서 목적지인 장기주차장으로 왔습니다. 2박 이상 주차는 장기 주차장에 주차를 하고 무료 셔틀 버스를 타고 터미널로 이동해야합니다. 돌아왔을 때 까먹을 수 있으니 어디에 주차했는지 사진을 찍어둡니다. 2터미널에 도착하면 진에어는 3층 F쪽에 위치하고 있습니다. 저는 셀프 체크인은 하지 않고 승무원에게 가서 접수했어요. 어차피 일찍와서 기다리지도 않고 해서 좋았습니다. 짐은 눕혀서 올리고 짐 검사하는데 15분 정도 걸립니다. 대기장소에서 15..
2024.01.09