【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]딥시크, 美 절반 비용으로 수준은 버금가…“국산 LLM에 방법론 접목하자”

온카뱅크관리자

2025-02-21 17:29:10

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="urTrEcDxZ9">
 김정호 한국과학기술원(KAIST) 교수팀(테라렙)이 최근 세계적으로 돌풍을 일으키는 '딥시크'를 분석했다.
 아직 부족한 부분이 있지만, 적은 비용으로 챗GPT 등 미국 거대언어모델(LLM)에 버금가는 성과를 냈으며, 그 방법론을 우리 K-LLM에 적용할 수 있을 것으로 내다봤다.
 테라렙은 지난 20일 '딥시크 경쟁력 비밀을 정밀하게 뜯어본다' 기술분석 워크숍을 진행했다. 
 <figure class="figure_frm origin_fig" contents-hash="8954bfe7d9c9283f2d0af22bfefd3bcb296d3b1ae4cdbc237593b514cfd52284" dmcf-pid="BPLP4V8tYq" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/21/etimesi/20250221172704743pfkx.jpg" data-org-width="700" dmcf-mid="0GrcNgj4Yf" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/21/etimesi/20250221172704743pfkx.jpg" width="658">
 </figure>
 첫 발표를 진행한 서해석 학생은 지난해 11월 공개된 딥시크 V3 모델을 분석했다.
 그러면서, 딥시크 V3가 하위 모델중 일부만 활성화라고 특정작업을 처리해 필요 메모리와 계산량을 줄이는 '믹스처 오브 엑스퍼츠(MoE)' 등 방법론을 활용했다고 설명했다.
 더욱이 딥시크 V3는 전문가의 중복지식을 방지해 연산량을 줄이는 등 방법론으로 발전을 이뤘다고 분석했다.
 김근우 학생은 절대적 평가보다 여러 행동을 상대적으로 비교해 최적화하는 강화학습 일종인 '그룹 상대 정책 최적화(GRPO)'에 주목했다.
 그는 “'딥시크 R1 제로'가 피드백 없이 순수한 강화학습만으로 고급 추론 능력을 갖췄다는 것이 중요하다”고 강조했다. 다만 가독성이 부족하고 언어 혼용 등 문제점이 있다는 점은 개선점으로 꼽았다. 
 <figure class="figure_frm origin_fig" contents-hash="263f933caafaffe607dbad9490f0118daf5ea8fb3cd7567fd8c6239b4856361c" dmcf-pid="fdAdMQRu10" dmcf-ptype="figure">
 <img alt="이번 워크숍에서 소개된 딥시크 R1의 학습과정" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/21/etimesi/20250221172706106jizm.png" data-org-width="700" dmcf-mid="piOjgLaV5V" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/21/etimesi/20250221172706106jizm.png" width="658">
 <figcaption class="txt_caption default_figure">
 이번 워크숍에서 소개된 딥시크 R1의 학습과정
 </figcaption>
 </figure>
 엄현서 학생은 특히 주목받은 '증류(Distillation) 기술'을 소개했다. 증류 기술은 큰 인공지능(AI) 모델의 지식·능력을 작고 효율적인 모델로 전달하는 방법을 뜻한다.
 그는 “모델 성능은 유지하면서 모바일 등 소형기기에서 사용할 수 있도록 하는 것이 증류 기술의 가장 큰 의의”라고 밝혔다.
 딥시크의 실사용 측면 성능을 살펴보는 시간도 있었다. 서은지 학생은 “수능 수학 같은 고난도 문제는 딥시크가 맞추지 못했고, 추리 부분 문제도 딥시크는 어려워했다”며 “다만 코딩부 분은 두가지 오류를 딥시크가 모두 찾아낸 반면, GPT는 하나만 찾아냈다”고 밝혔다.
 그러면서 “딥시크 성능이 완벽하지않고, 발전시켜야 할 부분이 많지만 출시 한두달 정도에 챗GPT와 겨룰 정도라는 것은 주목해야할 부분”이라고 강조했다.
 김지훈 학생도 “딥시크 R1은 오픈AI·메타 최신 모델들과 경쟁할 수 있는 수준으로 발전했으며, 특히 추론 중심 테스크에서 강력한 성능을 입증했다”고 덧붙였다 
 <figure class="s_img figure_frm origin_fig" contents-hash="11222d444e9cfe6d2dbea5152e14ecd74865eda589d816aa48f0da399c77e7a2" dmcf-pid="xBPB7UzT5Z" dmcf-ptype="figure">
 <img alt="김정호 KAIST 교수" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/21/etimesi/20250221172707586qgex.jpg" data-org-width="199" dmcf-mid="UNz5HYXDZ2" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/21/etimesi/20250221172707586qgex.jpg" width="199">
 <figcaption class="txt_caption default_figure">
 김정호 KAIST 교수
 </figcaption>
 </figure>
 김정호 교수는 총평에서 “딥시크는 중국의 창의력과 수학, 소프트웨어(SW) 역량을 입증한 것”이라며 “이로써 비용은 미국의 절반 수준으로 성과를 낸 것으로 생각 된다”고 말했다.
 이어 “우리나라에서 이런 LLM이 나와 분석했으면 더 좋았겠지만, 원리를 알았으니 우리 K-LLM 연구에도 접목할 수 있을 것”이라고 피력했다.
 이번 워크숍 영상은 테라렙 홈페이지에서 찾아볼 수 있다.
 김영준 기자 kyj85@etnews.com
 </section> 
 </div> 
 Copyright © 전자신문. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기