메타-로고
메타

페이스북에서 chatgpt에 대응하는 라마(llama) 모델을 출시했습니다. chatgpt와 다르게 오픈소스로 공개했는데요. 모델 크기도 적고 공개된 모델이라 활용하기가 더 좋을 것으로 예상되는데요. 페이스북 라마(llama) 모델 사용방법을 알아보았습니다.

 

 

1. 라마 사용 신청하기

라마(llama)는 페이스북 블로그를 통해서 공개 사실이 알려졌는데요. chatgpt처럼 온라인에 접속해서 사용해 볼 수 있는 것은 아닙니다. 모델을 다운로드 받아서 테스트 해 볼 수 있는데요. 이 또한 신청을 통해서 승인이 되면 모델을 다운로드 할 수 있습니다. 필자도 신청을 했지만 언제 승인될지는 아직 모르겠습니다.


페이스북 블로그에서 라마 포스팅을 찾기가 어려운데요. 아래 링크를 참조하시면 라마 공개 내용과 모델 다운로드 신청을 하실 수 있습니다.

- 페이스북 라마 블로그 포스팅 바로가기

 

 

2. 알파카 사용해보기

그러는 중에 스탠포드 대학에서 라마를 튜닝해 chatgpt 수준의 성능이 나오는 모델을 만들었다고 하는데요. 이름이 알파카입니다. 비용 500달러 밖에 들지 않는다고 해서 관심이 가는데요. 이를 이용해서 한국어에 특화된 모델이 나왔습니다.

 

3. 코알파카 사용해보기

알파카를 베이스로 학습해 한국어에 특화된 모델이 나왔는데요. ko-alphaca라고 부릅니다. beomi라는 id를 쓰는 분이 개발하셨는데요. 필자도 어떤 분인지는 모릅니다. 하지만 알파카가 나오자마자 빠르게 학습시켜 배포되다니 속도가 허덜덜합니다. 이 분은 직접 사용해볼 수 있게 카카오톡과 텔레그램에 연결을 해 놓으셨는데요. 아래 링크를 참조해서 사용해 보실 수 있습니다.

- 카카오톡, 텔레그램 바로가기

 

코알파카는 모델을 다운로드해서 파이썬에서 돌려볼 수 있는데요. 허깅 페이스에 있는 모델을 다운로드 받아 실행하면 됩니다. 코드는 공개돼 있지만 처음 하시는 분은 조금 헷갈릴 수 있는데요. 코알파카를 코드로 사용해 본 후기도 정리해서 올리겠습니다.

 

chatgpt가 이슈가 되면서 AI와 관련된 각종 기술과 소스가 봇물 터지듯이 나오고 있는데요. 하나하나 해 보고 지금 하는 일이나 업무에 어떻게 적용할 지 고민해 보는 것도 좋은 시간이 되겠습니다.

 

Recommendation 포스팅

 

  • 네이버 블러그 공유하기
  • 네이버 밴드에 공유하기
  • 페이스북 공유하기
  • 카카오스토리 공유하기