시사바로타임즈= 장훈녕기자

Open AI, Google 등 미국 기업이 주도하는 AI(Artificial Intelligence: AI) 시장에 중국 헤지펀드 High-Flyer(모기업)에서 설립한 연구소 DeepSeek에서 개발한 오픈소스(open source, 학습에 사용된 데이터는 공개했지만 학습 자료는 미공개) 기반 Deepseek- R1( 2025.1월 발표)의 성공으로 AI 개발 경쟁 구조 지형이 바뀌고 있을까. DeepSeek- R1의 높은 가격대비 성능은 그동안 가파른 증가세를 보인 개발비용 추세에 얼마나 영향을 미치고 있을까.

Deepseek은 High -Flyer에서 확보한 GPU 자원을 적극적으로 활용하여 적은 자원으로도 우수한 성능을 구현할 수 있음을 보여주었다. DeepSeek- R1은 대형언어 모형(Large Language Model:LLM)인 DeepSeeK-V3를 바탕으로 논리적 사고 능력을 강화한 추론모형(reasoning model)이다. 기술적 혁신 요소는 크게 △ 생각사슬(Chain of Thought, 추론과정 명시, 답변의 질적인 개선), △강화학습(Reinforcement Learning, 비교적 적은 데이터로 학습 효율성 제고), △지식증류(distillation, 성능을 유지하면서 소형화하여 효율성 제고)으로 나누어 볼 수 있다.

생각사슬(Chain of Thought) 방식은 AI 시장 선두 기업인 OPen AI 의 o1 모형에서 효과가 입증되었다. DeepSeek가 도입한 Group Relative Policy Optimization(GRPO)기법이 기존 OPen AI의 추론 모형의 한계(학습량,시간과 비용)를 극복하였을까. DeepSeep-R1은 GRPO 기법을 도입해 동일한 과제를 반복적으로 수행하고 높은 빈도로 나온 답변을 스스로 학습하여 추론 능력을 향상시키는 방법을 사용했다. DeePSeek AI는 초거대 모형의 학습된 지식을 작은 모형으로 전이하는 지식증류(distillation) 방법(Llama-3,Qwen등의 경량화 모형구축)을 통해 대형화된 생성형 AI 모형의 비용 제약요인을 극복하였다.

장훈녕기자 hnjang@sisabarotimes.com