'독파모' 추가 정예팀 주인공 '모티프테크놀로지스'···기술력 살펴보니

국산 AI모델 개발, 해외 오픈소스 대신 자체 기술 활용그룹별 차등 어텐션 등 독자 아키텍처 기술력 주목

과학기술정보통신부가 '독자 AI 파운데이션 모델'(독파모) 프로젝트 추가 공모 결과 모티프테크놀로지스 컨소시엄을 정예팀으로 선정했다. 네이버클라우드, NC AI, 카카오, KT 등 주요 대기업이 불참을 선언한 가운데 1차 평가에서 탈락했던 모티프테크놀로지스가 합격한 배경을 두고 관심이 확대되고 있다.

과기정통부는 모티프테크놀로지스 정예팀이 해외 오픈소스를 차용하지 않고 독자 아키텍처를 채택해 AI모델을 설계한 경험 등을 높게 평가했다. 정예팀은 3000억(300B) 파라미터급 추론형 대규모언어모델(LLM)을 시작으로 310B급 비전언어모델(VLM), 320B급 비전언어행동모델(VLA)까지 단계적으로 고도화해 글로벌 최고 수준의 독자 AI 모델을 구축한다는 목표를 제시했다. 개발 모델은 상업용 오픈소스로 공개하고 가중치와 코드, 최적화 라이브러리 등 전 영역을 개방할 계획이다.

컨소시엄의 중심에는 모티프테크놀로지스가 있다. 이 회사가 지난해 11월 공개한 거대 언어 모델(LLM) 'Motif 12.7B'는 모델 구축부터 데이터 학습까지 전 과정을 직접 수행한 결과물이다. 특히 기존 트랜스포머 구조를 그대로 쓰지 않고, '그룹별 차등 어텐션(GDA)' 기술을 자체적으로 개발해 적용했다. 이는 단순히 모델을 바닥부터 학습시키는 '프롬 스크래치(From Scratch)'를 넘어, 지능 핵심인 어텐션 함수와 모델 아키텍처 자체를 새롭게 설계했다는 게 회사 측 설명이다.

과기정통부는 전날 독파모 공모 결과를 발표하며 모티프테크놀로지스 정예팀에 대해 "글로벌 수준의 확장적 AI 모델 개발을 지향하는 등 목표와 의지를 구체적으로 확인했다"며 "다수의 핵심 모듈을 자체적으로 제안하고 구현한 경험을 보유했고 텍스트와 이미지, 비디오 영역에서도 독자적인 파운데이션 모델을 개발해온 점에서 기술적 내재화 수준이 높은 것으로 평가했다"고 설명했다.

독파모 최초 공모 당시 모티프테크놀로지스는 서면 평가를 통과했지만 심층 평가에서 탈락을 겪기도 했다. 재도전에서는 지난해보다 대폭 확대된 17개의 참여기관, 12개의 수요기관으로 컨소시엄을 구성해 기존 모델을 고도화하는 데 집중했다. 정예팀에는 모티프테크놀로지스를 비롯해 모레, 크라우드웍스, 엔닷라이트, 서울대학교 산학협력단, 한국과학기술원, 한양대학교 산학협력단, 삼일회계법인, 국가유산진흥원, 에이치디씨랩스, 매스프레소, 에누마코리아, 경향신문사, 전북테크노파크, 모비루스, 엑스와이지, 파두가 참여한다.

모티프테크놀로지스의 합류로 국가대표 AI 진영은 대기업 2곳, 스타트업 2곳이 됐다. LG AI연구원, 업스테이지, SK텔레콤 등 기존 3개 정예팀은 오는 6월 말까지, 모티프테크놀로지스는 오는 7월 말까지 개발하는 등 동일한 AI 모델 개발 기간 속에서 경쟁을 벌일 예정이다. 이후 오는 8월 초 단계평가를 통해 성과 점검에 나선다. 평가는 기존 틀을 유지하면서 글로벌 리더보드 기준을 반영해 '독자성' 항목을 세분화할 계획이다.