최신 경량 LLM Gemma 3 테스트

Recommanded Free YOUTUBE Lecture: <% selectedImage[1] %>

yundream
2025-03-16
2025-03-16
87

i![](https://docs.google.com/drawings/d/e/2PACX-1vRwlG2gttDqNb0g4-ASCpXlGdog_E5unYjlI5wWtfZA-v4QreJgYc2kde3IpObEVrks9291RP3oxfdi/pub?w=1198&h=676)

## Gemma 3
Google Gemma 3는 Google에서 2025년 3월에 공개한 오픈소스 언어 모델이다. Gemini를 비롯한 구글의 LLM 들은 특히 한글 처리에서 인상적인 능력을 보여줬기 때문에, 한글 이해 능력을 테스트해보기로 했다.

아래는 Gemman3의 특징이다.

* 멀티모달: 텍스트 뿐만 아니라 **이미지** 와 무려 **비디오** 도 분석 할 수 있다고 한다. 멀티모달 능력도 함께 테스트해봐야 겠다. 
* 모델크기: 1B, 4B, 12B, 27B 와 같은 다양한 파라미터 크기의 모델을 제공한다. 가장 큰 모델인 27B의 경우 "고작 27B의 크기로" **DeepSeek R1 671B**에 근접하는 성능을 보여주고 있다. (이런 점수가 반드시 눈에 띄는 성능으로 나타나지 않기는 하지만) 이 정도 성능이라면 sLLM 등에서 사용할 수 있을 것이다.
* 다국어지원: Gemma 3는 35개 이상의 언어를 지원하며 여기에는 "한글"도 포함된다. LLama 나 Qwen 등의 경우 한글을 지원한다고는 하지만 한자와 일본어 같은 2바이트 문자가 출력된다. 이들 모델보다 더 뛰어난 한글 출력 능력을 보여줄지 기대된다.
* 컨텍스트 윈도우: 큰 문서들을 처리하기에 충분한 크기인 128k의 토큰 컨텍스트 윈도우를 지원한다. 
* 함수호출(Function Calling)을 지원하여 AI 기반의 워크플로를 만들 수 있다.

아래 이미지는 Gemma 3의 성능을 보여주고 있다. 고작 27B의 크기에도 불구하고 무려 671B 크기의 Deepseek v3 보다 더 나은 성능을 보여주고 있다.
![Gemma 3 성능](https://docs.google.com/drawings/d/e/2PACX-1vQ3rOD4vx6OwH3PH4e-4yEzKs5pV3uvchYqR6LZp8l-m9rdu7Wn_4vOJK32QSejak75-Yd9yJuzZ1kH/pub?w=1318&h=852)

## 테스트
오늘 테스트할 내용은 아래와 같다.
1. Ollama 환경 구축
2. gemma 3 로컬 다운로드
3. 프롬프트를 이용해서 gemma 3 성능 테스트
4. gemma3 멀티모달 테스트
#### 테스트 환경
* 우분투 리눅스 24.10
* NVIDIA GeForce RTX 4060 Ti VRAM 16G
* ollama: 0.6.0 version 
* LLM: gemma3 12b. 27B 모델을 테스트해보고 싶지만, 16G VRAM으로는 12b가 한계다.

![](https://docs.google.com/drawings/d/e/2PACX-1vQhj5edjyS921mvlnwDPe7HSlQFi-vyaWUp_H2DICJIJirfaN2YUyxtVYYJAi5wseIiGyaa2cu30a2S/pub?w=759&h=484)
ollama에서는 12b 모델을 4비트 양자화해서 제공한다. 8G 정도의 크기를 가지므로, 4060 Ti 에서 충분히 실행 할 수 있다.

#### ollama 설치
ollama를 이용하면 데스크탑 환경에서 다양한 LLM을 간단하게 실행할 수 있다. 리눅스에서는 아래와 같이 설치 할 수 있다.
```
curl -fsSL https://ollama.com/install.sh | sh
```

ollama 설치 방법은 [https://ollama.com/download](https://ollama.com/download/windows) 문서를 참고하자.

##### gemma3 다운로드(pull) 및 테스트
ollama를 설치하고나면 아래와 같이 실행 할 수 있다.
```
$ ollama run gemma3:12b
>>> 하늘은 왜 파란가요 ?
하늘이 파란 이유는 **레일리 산란(Rayleigh scattering)**이라는 현상 때문입니다. 좀 더 자세히 설명해 드릴게요.

**1. 햇빛과 파장:**

* 햇빛은 여러 가지 색깔의 빛(빨강, 주황, 노랑, 초록, 파랑, 남색, 보라)이 섞여 있습니다.
* 각 색깔의 빛은 서로 다른 파장을 가지고 있습니다. 파장이 짧을수록 파란색 계열(파랑, 남색, 보라)이고, 파장이 길수록 빨간색 계열입니
다.

**2. 레일리 산란:**

* 햇빛이 지구 대기에 들어오면 공기 중의 작은 분자들(질소, 산소 등)과 부딪히게 됩니다.
* 이때, 파장이 짧은 빛(파랑, 남색, 보라)은 파장이 긴 빛보다 더 잘 산란됩니다. 마치 작은 장애물에 부딪혀 흩어지는 것처럼요.
* 이처럼 빛이 작은 입자에 의해 흩어지는 현상을 레일리 산란이라고 합니다.

**3. 하늘이 파랗게 보이는 이유:**
```

#### Python 테스트 코드

```python
import ollama

response = ollama.chat(
  model='gemma3:12b', # 모델 이름과 태그를 지정합니다.
  messages=[
    { 'role': 'user', 'content': '한국의 수도는 어디인가요?' }, # 질문을 입력합니다.
  ],
)

print(response['message']['content']) # 모델의 응답을 출력합니다.
```
#### 정확성 및 사실성
💬 세종대왕은 언제 한글을 창제했나요 ?

🤖 세종대왕은 1443년(세종 25년)에 한글을 창제했습니다. 
좀 더 자세한 내용은 다음과 같습니다:
* **창제 과정:** 세종대왕은 1420년부터 20여 년에 걸쳐 한글 창제를 추진했으며, 집현전 학자들과 함께 연구하고 수정하는 과정을 거쳤습니다.
* **반포:** 1446년(세종 28년)에 '훈민정음(訓民正音)'이라는 이름으로 한글을
 세상에 널리 알렸습니다. 훈민정음은 백성들이 쉽게 익혀 글을 쓰고 읽을 수 있도록 만든 글자라는 뜻입니다.
* **창제 이유:** 당시에는 한자를 사용했지만, 한자를 모르는 백성들이 많아 
의사소통에 어려움이 있었습니다. 세종대왕은 백성들이 쉽게 사용할 수 있는 고유
의 문자를 창제하여 지식 교육의 기회를 확대하고, 백성들의 삶의 질을 향상시키고자 했습니다.

----
💬 미국 남북전쟁은 언제 발발했나요 ?

🤖 미국 남북전쟁은 1861년 4월 12일에 시작되었습니다.
좀 더 자세한 내용은 다음과 같습니다:
* **발발 원인:** 노예제 문제, 경제적 차이, 주권 문제 등 여러 요인이 복합적 으로 작용했습니다.
* **첫 전투:** 사우스캐롤라이나주 찰스턴항에 있는 섬요새 요새(Fort  Sumter)를 남부 연합군이 공격하면서 전쟁이 시작되었습니다.
* **전쟁 기간:** 1861년 4월 12일부터 1865년 4월 9일까지 약 4년 동안 지속되 었습니다.
* **결과:** 북부(Union)의 승리로 끝났으며, 노예제가 폐지되고 미국이 통일되었습니다.

----
💬  지구 온난화가 해수면 상승에 미치는 영향을 설명하고, 현재 추세가 유지될 경우 2100년까지 예상되는 해수면 상승폭을 과학적 근거와 함께 제시하세요. 또한, 해수면 상승이 특정 해안 도시(예: 몰디브, 베니스)에 미치는 사회적, 경제적 영향을 분석하세요.

🤖 **지구 온난화와 해수면 상승: 심각한 위협과 미래 전망**

지구 온난화는 해수면 상승의 주요 원인 중 하나이며, 이는 전 세계 해안 지역 사회에 심각한 위협을 가하고 있습니다.

**1. 지구 온난화가 해수면 상승에 미치는 영향**
지구 온난화로 인해 해수면이 상승하는 주요 원인은 다음과 같습니다.
*   **열팽창:** 해수 온도가 상승하면 물 분자가 팽창하여 해수 부피가 증가합니다. 이는 해수면 상승의 가장 큰 원인 중 하나입니다.
*   **빙하 및 빙상 융해:** 그린란드 빙상, 남극 빙상, 산악 빙하 등이 녹아내리면서 바다로 흘러들어 해수면을 상승시킵니다. 특히 그린란드 빙상의 융해 속도가 빨라지고 있으며, 이는 해수면 상승에 큰 영향을 미치고 있습니다.

**2. 2100년까지 예상되는 해수면 상승폭 (과학적 근거)**
IPCC(기후 변화에 관한 정부 간 협의체)의 보고서에 따르면, 2100년까지 예상되는 해수면 상승폭은 시나리오에 따라 다릅니다.
*   **가장 낮은 시나리오 (SSP1-1.9):** 0.43m ~ 0.84m 상승
*   **중간 시나리오 (SSP2-4.5):** 0.63m ~ 1.01m 상승
*   **가장 높은 시나리오 (SSP5-8.5):** 0.98m ~ 1.37m 상승
이러한 예측은 현재의 온실가스 배출량과 미래의 기후 변화 시나리오를 기반으로 한 것입니다. 하지만, 빙하 융해 속도나 해양 시스템의 변화 등 불확실성이 존재하므로 실제 해수면 상승폭은 더 커질 수도 있습니다.

**3. 특정 해안 도시의 사회적, 경제적 영향**
* **몰디브:** 몰디브는 해발고도가 매우 낮아(평균 1.5m) 해수면 상승에 극도로 취약합니다.
    * **사회적 영향:** 섬나라 전체가 잠길 위기에 처하며, 주민 이주 문제가 발생하고 문화 유산이 파괴될 수 있습니다.
    * **경제적 영향:** 관광 산업이 붕괴되고, 농업 및 어업 생산량이 감소하며, 기반 시설이 파괴되어 경제 전체가 마비될 수 있습니다
* **베니스:** 베니스는 건설 당시 해수면보다 지반이 가라앉아 해수면 상승에 더욱 취약합니다.
    * **사회적 영향:** 빈번한 홍수로 인해 주민들의 삶의 질이 저하되고, 역사적 건축물과 예술 작품이 손상될 수 있습니다.
    * **경제적 영향:** 관광 산업에 타격을 입고, 부동산 가치가 하락하며, 홍수 방지 시설 유지 보수에 막대한 비용이 소요됩니다.

**4. 추가적인 고려 사항**
* **극단적인 기상 현상:** 해수면 상승은 폭풍 해일, 태풍 등 극단적인 기상 현상의 영향을 더욱 심화시켜 해안 지역의 피해를 증폭시킬 수 있습니다.
* **염수 침투:** 해수면 상승으로 인해 지하수 및 토양으로 염수가 침투하여 농업 생산성을 저하시키고 식수 부족 문제를 야기할 수 있습 니다.
* **사회적 불평등:** 해수면 상승의 영향은 사회 경제적으로 취약한 계층에게 더욱 불리하게 작용할 수 있습니다.

**결론**
지구 온난화로 인한 해수면 상승은 전 세계 해안 지역 사회에 심각한 위협을 가하고 있습니다. 미래의 해수면 상승폭을 줄이기 위해서는 온실 가스 배출량을 감축하고, 해안 지역의 적응력을 높이는 노력이 필요합니다. 또한, 취약 계층에 대한 지원을 강화하고, 해수면 상승으로 인한 피해를 최소화하기 위한 국제적인 협력이 중요합니다.

#### 논리적 추론 능력
💬 모든 새는 날 수 있습니다. 펭귄은 새입니다. 펭귄은 날 수 있습니까?

🤖 이것은 논리 퍼즐의 예시입니다.

주어진 정보에 따르면:
* 모든 새는 날 수 있습니다.
* 펭귄은 새입니다.

따라서 논리적으로 펭귄은 날 수 있어야 합니다. 하지만 실제로는 펭귄은 날 수 없습니다.

이 퍼즐은 **"모든"** 이라는 단어의 의미와 실제 세계의 예외를 생각하게 합니다. 모든 새가 날 수 있다는 일반적인 믿음은 펭귄과 같은 예외로 인해 틀렸다는 것을 보여줍니다.

---

#### 언어 이해 및 생성 능력
💬 다음 문장을 능동태로 바꾸세요: '그 책은 학생들에 의해 읽혔다.

🤖 능동태로 바꾸면 다음과 같습니다:
**학생들이 그 책을 읽었다.**

---
💬 다음 단어들의 동의어를 나열하세요: '기쁨, 슬픔, 분노'.

🤖 다음은 각 단어의 동의어 목록입니다:

* **기쁨:**
    * 즐거움
    * 환희
    * 경희
    * 만족
    * 흥분
    * 기쁨
    * 희열
*   **슬픔:**
    * 비탄
    * 애통
    * 비애
    * 근심
    * 애석
    * 절망
    * 고통
*   **분노:**
    * 격노
    * 분개
    * 노여움
    * 흥분
    * 좌절
 
💬 다음 이야기를 읽고, 등장인물의 심리와 숨겨진 의미를 분석하여 5문장으로 요약하세요:

옛날 어느 마을에 마음씨 착한 농부가 살았습니다. 그는 매일 새벽부터 밤늦게까지 밭을 갈고 씨앗을 뿌리며 열심히 일했지만, 늘 가난했습니다. 어느 날, 농부는 밭에서 반짝이는 돌을 발견했습니다. 신기하게도 그 돌은 소원을 들어주는 능력이 있었습니다. 농부는 부자가 되기를 소원했고, 순식간에 그의 집은 황금으로 가득 찼습니다. 하지만 농부는 행복하지 않았습니다. 그는 끊임없이 더 많은 황금을 원했고, 결국 욕심 때문에 모든 것을 잃었습니다.

🤖 다음은 이야기 분석 요약입니다.
1.  이야기는 노력해도 가난을 벗어나지 못하는 농부의 고독과 좌절을 보여주며, 물질적 풍요만이 행복의 조건이 아님을 암시합니다.
2.  소원을 들어주는 돌은 농부의 내면에 잠재된 욕망과 집착을 드러내는 상징이며, 물질적 욕심의 위험성을 경고합니다.
3.  농부가 부를 얻었음에도 행복하지 못했던 것은, 진정한 행복이 물질적인 것 이상에 있다는 것을 보여주는 중요한 전환점입니다.
4.  농부가 모든 것을 잃은 것은, 과도한 욕심이 결국 파멸을 초래한다는 보편적인 진리를 보여주는 비극적인 결말입니다.
5.  전체적으로 이 이야기는 물질적인 풍요에 대한 맹목적인 추구가 아닌, 내면의 평화와 만족을 추구하는 삶의 가치를 강조하는 교훈적인 우화입니다.

----
#### 번역 능력

💬 아래 문장을 영어로 번역해 주세요.
옛날 어느 마을에 마음씨 착한 농부가 살았습니다. 그는 매일 새벽부터 밤늦게까지 밭을 갈고 씨앗을 뿌리며 열심히 일했지만, 늘 가난했습니다. 어느 날, 농부는 밭에서 반짝이는 돌을 발견했습니다. 신기하게도 그 돌은 소원을 들어주는 능력이 있었습니다. 농부는 부자가 되기를 소원했고, 순식간에 그의 집은 황금으로 가득 찼습니다. 하지만 농부는 행복하지 않았습니다. 그는 끊임없이 더 많은 황금을 원했고, 결국 욕심 때문에 모든 것을 잃었습니다.

🤖 Once upon a time, in a small village, lived a kindhearted farmer. He worked diligently from early morning until late at night,  tilling the fields and sowing seeds, but he was always poor. One day, the farmer found a shimmering stone in his field. Amazingly,  the stone had the power to grant wishes. The farmer wished to be rich, and instantly his house was filled with gold. However, the farmer was not happy. He constantly wanted more gold, and eventually lost everything due to his greed.

💬 아래 문장을 한글로 번역해주세요. 
Once upon a time, in a small village, lived a kindhearted farmer. He worked diligently from early morning until late at night,  tilling the fields and sowing seeds, but he was always poor. One day, the farmer found a shimmering stone in his field. Amazingly,  the stone had the power to grant wishes. The farmer wished to be rich, and instantly his house was filled with gold. However, the farmer was not happy. He constantly wanted more gold, and eventually lost everything due to his greed.

🤖 옛날 옛날 아주 작은 마을에 마음씨 착한 농부가 살았습니다. 그는 새벽부터 밤늦게까지 밭을 갈고 씨앗을 뿌리며 부지런히 일했지만, 늘 가
난했습니다. 어느 날, 농부는 밭에서 반짝이는 돌을 발견했습니다. 놀랍게도 그 돌은 소원을 들어주는 힘이 있었습니다. 농부는 부자가 되기
를 소원했고, 순식간에 그의 집은 금으로 가득 찼습니다. 하지만 농부는 행복하지 않았습니다. 그는 끊임없이 더 많은 금을 원했고, 결국 욕
심 때문에 모든 것을 잃었습니다.

💬 아래 문장을 일본어로 번역해주세요. 
옛날 어느 마을에 마음씨 착한 농부가 살았습니다. 그는 매일 새벽부터 밤늦게까지 밭을 갈고 씨앗을 뿌리며 열심히 일했지만, 늘 가난했습니다. 어느 날, 농부는 밭에서 반짝이는 돌을 발견했습니다. 신기하게도 그 돌은 소원을 들어주는 능력이 있었습니다. 농부는 부자가 되기를 소원했고, 순식간에 그의 집은 황금으로 가득 찼습니다. 하지만 농부는 행복하지 않았습니다. 그는 끊임없이 더 많은 황금을 원했고, 결국 욕심 때문에 모든 것을 잃었습니다.

昔々、ある村に心優しい農夫が住んでいました。彼は毎日、夜遅くまで畑を耕し、種をまき、一生懸命働いていましたが、いつも貧しい暮らしでし た。ある日、農夫は畑でキラキラと輝く石を見つけました。不思議なことに、その石は願いを叶える力を持っていました。農夫は金持ちになりたい と願い、たちまち彼の家は金でいっぱになりました。しかし、農夫は幸せではありませんでした。彼は常にさらに多くの金が欲しく、結局、欲張り さゆえにすべてを失ってしまいました。

#### 수학 능력 
어떤 농부가 닭과 돼지를 합쳐서 20마리를 키우고 있습니다. 닭과 돼지의 다리 수를 합치면 56개입니다. 닭과 돼지는 각각 몇 마리입니까?

* **변수 설정:**
    * 닭의 수를 x 마리
    * 돼지의 수를 y 마리
* **방정식 세우기:**
    * **총 마릿수:** x + y = 20
    * **다리 수:** 2x + 4y = 56 (닭은 다리가 2개, 돼지는 4개)
* **방정식 풀기:**
    1. 첫 번째 방정식에서 x = 20 - y 를 얻습니다.
    2. 이 값을 두 번째 방정식에 대입합니다: 2(20 - y) + 4y = 56
    3. 식을 정리합니다: 40 - 2y + 4y = 56
    4. 2y = 16
    5. y = 8 (돼지 수)
    6. x = 20 - y = 20 - 8 = 12 (닭 수)
따라서 **닭은 12마리, 돼지는 8마리**입니다.

## Multi-Modal 테스트
Gemma3의 멀티모달 성능을 테스트 하기 위해서 아래와 같은 코드를 작성했다.
```python
import ollama

response = ollama.chat(
  model='gemma3:12b', # 모델 이름과 태그를 지정합니다.
  messages=[
    { 'role': 'user', 'content': '이미지를 분석해주세요', 'images': ["./test-image.png"] }, # 질문을 입력합니다.
  ],
)

print(response['message']['content']) # 모델의 응답을 출력합니다.
```

**Input**
![](https://docs.google.com/drawings/d/e/2PACX-1vRWBjQdTfICHcscGvuv8_0uCv5BPTrSS0FRGDNn2g4Lk-ycrOICbEs_2WgiSSYHesAiolDWqe-_JaIn/pub?w=1000&h=560)

**Output**
분석해 드리겠습니다.

**전반적인 내용:**
이 이미지는 디즈니 애니메이션 "백설공주와 일곱 난쟁이"의 백설공주가 화면 중앙에 등장하는 장면입니다. 백설공주는 손을 뻗어 작은 파란새를 바라보고 있습니다. 배경은 숲 속으로 보이며, 나무와 덩굴이 얽혀 있습니다.

**세부 분석:**
* **백설공주:**
    * 피부는 매우 하얗고, 뚜렷한 눈매와 붉은 입술이 특징적입니다.
    * 검은 머리에 빨간 리본으로 장식하고 있습니다.
    * 파란색과 흰색의 드레스를 입고 있습니다.
    * 표정은 부드럽고, 새를 향해 따뜻한 시선을 보내고 있습니다.
* **새:**
    * 작고 파란색의 새가 백설공주의 손 위에 앉아 있습니다.
    * 새는 백설공주에게 호감을 보이는 듯한 표정을 짓고 있습니다.
* **배경:**
    * 배경은 숲 속으로, 나무와 덩굴이 얽혀 있습니다.
    * 배경은 백설공주와 새를 부각시키기 위해 어둡게 처리되었습니다.
* **분위기:**
    * 전체적으로 따뜻하고 평화로운 분위기를 자아냅니다.
    * 백설공주와 새의 모습은 순수하고 아름다운 느낌을 줍니다.

**추가 정보:**
* 이 이미지는 "백설공주와 일곱 난쟁이"의 대표적인 장면 중 하나입니다.
* 백설공주와 동물을 교감하는 모습은 그녀의 순수하고 착한 심성을 보여줍니다.
* 이 이미지는 디즈니 애니메이션의 황금기를 대표하는 작품 중 하나입니다.

**Input**
![Avatar](https://docs.google.com/drawings/d/e/2PACX-1vTCg7oH8I9IXOJFnuiGvfJ5P-YNTpzgV25nG1T5OsrhusTzoUavZ8DfZTZY-KCmGSgIfMgBQIkqfdvD/pub?w=1280&h=674)

**Output**
분석해 드리겠습니다.

**전반적인 인상:**
이 이미지는 영화 "아바타"의 한 장면으로 보입니다. 숲 속 배경과 푸른 피부를 가진 아바타 종족의 인물들이 등장하여 영화의 특징적인 분위기를 잘 나타내고 있습니다.

**세부 분석:**
* **인물:** 두 명의 아바타 종족 인물이 등장합니다. 한 명은 활을 쏘는 자세를 취하고 있으며, 다른 한 명은 그를 지켜보고 있습니다. 두 인물 모두 푸른 피부와 독특한 외모를 가지고 있습니다.
* **배경:** 배경은 울창한 숲으로, 다양한 식물들이 무성하게 자라 있습니다. 숲은 빛과 그림자가 어우러져 신비로운 분위기를 자아냅니다.
* **색감:** 이미지 전체적으로 푸른색과 녹색이 주를 이루고 있습니다. 이는 숲의 색감과 아바타 종족의 피부색을 반영하여 영화의 특징적인 색감을 보여줍니다.
* **구도:** 활을 쏘는 인물을 중심으로 구도가 잡혀 있으며, 배경의 숲이 인물들을 감싸는 듯한 느낌을 줍니다.
* **분위기:** 이미지 전체적으로 신비롭고 몽환적인 분위기를 자아냅니다.

**추가 정보:**
* 이 이미지는 영화 "아바타"의 세계관을 보여주는 중요한 요소입니다.
* 아바타 종족의 외모와 숲의 풍경은 영화의 독특한 매력을 더합니다.
* 이 이미지는 영화 팬들에게 큰 인기를 얻고 있습니다.

궁금한 점이 있다면 언제든지 질문해주세요.

**Input**
혈액샘플입니다. 말라리아가 의심되는지 알려주세요.

![](https://docs.google.com/drawings/d/e/2PACX-1vQyRiHqgNplVUxjoWmipDrjcrY51opx6IT4-xyaqtPGNLHStVxK82HcoYQISxuZdBoJGKmKbaGBYZwP/pub?w=526&h=460)

**Output**
네, 이 혈액샘플에서 말라리아 감염이 의심됩니다.

**관찰된 특징:**
* **말라리아 기생충:** 적혈구 내에 말라리아 기생충이 보입니다. 특히, 적혈구 내에 보이는 링 형태의 기생충은 말라리아 감염을 시사합니다.
* **적혈구 변화:** 일부 적혈구는 기생충 감염으로 인해 형태가 변형되었을 수 있습니다.

**주의사항:**
* 이것은 단지 초기 관찰 결과이며, 확진을 위해서는 추가적인 검사가 필요합니다.
* 말라리아 감염의 종류와 심각도를 파악하기 위해 추가적인 검사(예: 말라리아 항원 검사, PCR 검사)를 수행해야 합니다.
* 환자의 증상, 여행력, 거주 지역 등의 정보를 함께 고려하여 진단을 내려야 합니다.

**다음 단계를 권장합니다:**
1.  **의사에게 진료:** 환자를 즉시 의사에게 데려가 진료를 받도록 합니다.
2.  **추가 검사:** 의사의 지시에 따라 추가적인 검사를 받습니다.
3.  **적절한 치료:** 의사의 처방에 따라 적절한 치료를 받습니다.

**Input**
당신은 관광지의 숙소를 추천해주는 가이드 입니다. 이미지의 호텔을 추천하기 위한 중요 특징들을 요약해주세요
![Hotel 예제](https://docs.google.com/drawings/d/e/2PACX-1vSO7_Z1I_FdmBOpA_igOSmv2cwGSaZBcEkB4VqTPa3DvOpKrKT8S-_vPun9SiTjv_qNbw5s5P94GBFi/pub?w=1202&h=634)

**Output**
**호텔 특징 요약:**
* **독립된 섬 위치:** 호텔은 아름다운 해변과 푸른 바다로 둘러싸인 독립된 섬에 위치해 있어, 프라이빗하고 고립된 휴가를 즐기기에 완벽합니다.
* **럭셔리 빌라:** 호텔은 개별적인 럭셔리 빌라로 구성되어 있으며, 각 빌라는 개인 풀과 멋진 전망을 제공합니다.
* **자연과의 조화:** 호텔은 자연 지형을 최대한 활용하여 지어졌으며, 주변 환경과 조화를 이루는 디자인이 특징입니다.
* **프라이빗 해변:** 호텔 전용 해변이 있어 조용하고 한적한 시간을 보낼 수 있습니다.
* **다양한 액티비티:** 스노클링, 다이빙, 카약 등 다양한 해양 액티비티를 즐길 수 있습니다.
* **최고급 서비스:** 개인 버틀러 서비스, 스파, 고급 레스토랑 등 최고급 서비스를 제공합니다.

**추천 대상:**
* **프라이빗하고 조용한 휴가를 원하는 커플이나 가족**
* **럭셔리한 경험을 추구하는 여행객**
* **자연 속에서 특별한 시간을 보내고 싶은 여행객**

이러한 특징들을 바탕으로 이미지 속 호텔을 다음과 같이 추천할 수 있습니다.

"**[호텔 이름]**은 아름다운 섬에 위치한 럭셔리 리조트로, 프라이빗하고 조용한 휴가를 원하는 분들에게 완벽한 선택입니다. 개별 빌라에서 멋진 전망을 감상하고, 개인 풀에서 휴식을 취하며, 다양한 해양 액티비티를 즐겨보세요. 최고의 서비스와 잊지 못할 경험을 선사합니다."

---
**Input**
![](https://docs.google.com/drawings/d/e/2PACX-1vSbIAZaSAzy8CjERVtT8dIcTVJiFw93A_Xpxo4aP7hYcG6m-EtEr_AL6zXBebscm7LUXcjqBcoyXC1L/pub?w=1200&h=676)

**Output**
이미지를 분석해 보겠습니다. 아래는 이미지에서 보여주는 내용과 우리가 배울 수 있는 점에 대한 분석입니다.

**전체적인 인상**

이 이미지는 2023년 3월 기준으로 다양한 대형 언어 모델(LLM)의 크기(매개변수 수로 측정)를 시각화한 "버블 차트"입니다. 각 버블의 크기는 매개변수의 수와 일치하며, 큰 버블은 더 큰 모델을 나타냅니다. 각 버블은 그것을 만든 조직이나 회사에 따라 색상 코드가 지정되어 있습니다.

**주요 관찰 사항 및 세부사항**

1. **크기와 규모의 지배:**
    - **Jurassic-1**과 **GPT-3**는 모두 175B 매개변수를 가진 가장 큰 모델로 나타나며, **GPT-4**는 크기가 "공개되지 않음"으로 표시되어 정확한 크기는 알 수 없습니다.
    - 약 13B 매개변수 이후로 크기가 급격히 증가합니다.
    - 많은 모델들이 1B에서 10B 매개변수 범위에 속합니다.
2. **색상 코드 및 조직:**
    - **Google:** 여러 대형 모델(예: PaLM, LaMDA 등)을 보유하며, 이들 모델은 파랑/초록색 계열로 색칠됩니다. 구글은 이 분야에서 큰 입지를 자랑합니다.
    - **Meta:** LLaMA 및 관련 모델들이 연한 파랑/보라색 계열로 나타납니다.
    - **AI2 (Allen Institute for AI):** Jurassic-1 모델을 보유한 주체로, 오렌지색으로 표시됩니다.
    - **Anthropic:** Claude 모델이 분홍색으로 나타납니다.
    - **Cohere:** 노란색으로 표시된 모델이 있습니다.
    - **기타 조직들:** 다른 여러 조직들도 다양한 색상 코드로 구분된 모델을 보유하고 있습니다.
3. **모델 계열:**
    - **PaLM 계열:** 구글은 여러 가지 크기와 변형을 가진 PaLM 모델들을 만들어 "가족"을 이루고 있음을 알 수 있습니다 (예: PaLM-Coder, Med-PaLM 등).
    - **LLaMA 계열:** Meta도 LLaMA 모델들을 기반으로 한 모델 가족을 보유하고 있습니다.
4. **"공개되지 않음" 데이터:** 매개변수 수가 명시되지 않은 "GPT-4"의 존재는 기업들이 모델 크기에 대해 덜 투명해지는 경향을 보여줍니다.
    
5. **시각적 경향:**
    - LLM의 빠른 성장과 확산을 보여줍니다.
    - 시각적 표현 덕분에 모델들을 한눈에 비교하기 쉬워졌습니다.

**우리가 해석할 수 있는 점들**
- **규모 확장 경쟁:** 기업들은 더 크고 더 강력한 LLM을 만들기 위한 경쟁을 벌이고 있습니다.
- **구글의 리더십:** 구글은 다양한 대형 모델들을 보유하며 LLM 개발에서 주요한 역할을 하는 것 같습니다.
- **정보의 불투명성 증가:** "공개되지 않음" 매개변수 수는 모델 크기에 대한 공개 정보가 줄어드는 경향을 보여주며, 이는 경쟁적인 이유일 수 있습니다.
- **모델의 전문화:** PaLM과 LLaMA의 다양한 변형(예: PaLM-Coder, Med-PaLM)은 특정 작업이나 도메인에 맞춰 LLM을 세분화하고 있다는 점을 시사합니다.

이미지의 특정 부분에 대해 더 깊이 분석하고 싶으시면 알려주세요!

---

🚧 문서에서 텍스트를 추출하는 능력을 테스트 해봤으나 모델의 크기 때문인지 품질은 별로 좋지 않았다. OCR 목적보다는 이미지의 분위기, 맥락의 추출/분석/요약에 더 적당한 것으로 보인다.

## 정리
* 멀티모달 처리 능력: 한글 텍스트 추출 능력은 다소 떨어졌지만 의미 기반의 이미지 분석능력은 매우 좋았다.
* 광범위한 언어지원: 140개 이상의 언어를 지원하며, 35개 언어에 대한 최적화된 성능을 제공한다. 또한 Gemini 2.0과 동일한 토크나이저를 사용하는데, 덕분에 한국어 처리 능력의 크게 개선되었다. 32B 이하 모델에서는 최고 수준인 것 같다.
* 효율적인 리소스: 모델의 크기 대비 해서 뛰어난 성능을 보여주고 있다. 기존 모델에 비고해서 GPU 자원을 최대 10배까지 절감 할 수 있다.

최근 경량화된 LLM이 등장하면서 LLM 서비스 구축에 비용 효율성이 높아지고 있다. 모델 압축, 양자화, 지식 증류, 효율적인 알고리즘 개발 등을 통해서 하드웨어 비용, 운영 비용을 크게 절약할 수 있는 가능성이 보이고 있다.

이러한 경량화 모델을 sLLM 혹은 sLM 이라고 하며, 파라미터의 수와 메모리 및 연산 요구량등으로 분류 할 수 있다.

**파리미터 수**
* LLM(Large Language Model): 일반적으로 100억 개 이상의 파리미터를 가진 모델. 
* sLLM(Small Large Language Model): 수억 개 이상의 파리미터를 가진 모델이다. 성능과 자원 사용의 균형을 추구하며, 특정 도메인에 특화된 작업에 적합하다.
* sLM(Small Language Model): 상대적으로 적은 수의 파라미터를 가진 소형 언어 모델이다. 제한된 자원 환경에서 작동하며, 간단한 언어 처리 작업에 주료 사용한다.

다음 블로그 포스트에서는 sLLM과 sLM의 구현 방식과 미래 전망에 대해서 정리해볼 생각이다.

Search For:

BY TAGS

Recent Posts

Archive Posts

Tags

About

Get in Touch

Categories