LM Studio 사용해보기

LM Studio는 로컬 환경, 즉 내 컴퓨터에서 LLM을 쉽게 사용할 수 있도록 도와주는 툴입니다.

로컬 서버로 쓸 수도 있고, 모델을 다운로드 받고 LM Studio 내에서 채팅을 할 수도 있어서 매력적이었습니다.

사용 방법은 어렵지 않습니다. https://lmstudio.ai/에서 LM Studio를 다운받은 후 실행하면 튜토리얼처럼 되어있어서 천천히 따라가면 됩니다.

모델을 메모리에 적재해서 사용하기 때문에 성능이 좋다고 하여 무턱대고 용량이 큰 모델을 실행하면 PC가 얼어붙을 수도 있으니 각자 컴퓨터 사양에 따라서 작은 것부터 시도하면서 적정선을 찾아보시길 바랍니다.

16GB의 메모리를 가진 맥북에서는 3, 4기가 정도의 모델이 빠듯하게 타협점인 것 같네요...!