AI 과학자 2시간 돌리니 500만원···국산 반도체·모델로 비용 낮춘다

바이오넥서스, 리벨리온·업스테이지 등과 소버린 AI 연구 플랫폼 실증

기초과학지원연 등 30건 공동연구···비만·지방간 기전 가설 실험 검증

가설 정확도 아직 10% 수준···자율실험실 통한 '실패 데이터' 확보가 관건

김태형 바이오넥서스 대표가 11일 서울 중구 웨스틴 조선 호텔에서 열린 '2026 바이오 미래 포럼'에서 발언하고 있다. 사진=이병현 기자

인공지능(AI)이 신약 개발을 위한 연구 가설을 스스로 세우고 실험 결과를 분석하는 'AI 과학자' 기술이 국내에서도 실증 단계에 진입했다.

김태형 바이오넥서스 대표는 11일 서울 중구 웨스틴조선호텔에서 과학기술정보통신부 주최로 열린 '2026 바이오미래포럼' 기조강연에서 이 같은 개발 현황과 실증 성과를 공개했다. '소버린 바이오: K-문샷으로 여는 AI바이오 혁신의 미래'를 주제로 열린 이날 강연에서 김 대표는 AI 에이전트가 바이오 연구개발(R&D) 패러다임을 바꾸는 현장을 소개했다.

국내 AI 바이오 기업 바이오넥서스는 국산 AI 반도체 및 독자 파운데이션 모델을 결합해 연구 비용을 대폭 낮추는 한국형 '소버린(자립형) AI 과학자' 구축에 나섰다.

가장 시급한 현실적 장벽은 연산 비용이다. 김 대표는 방대한 문헌을 처리하는 과정에서 발생하는 막대한 연산 비용과 아직 낮은 가설 정확도는 상용화를 위해 넘어야 할 핵심 과제로 꼽았다. 김 대표는 올해 초 과기정통부 차관 등 정부 관계자가 바이오넥서스를 방문해 AI 과학자 시스템인 '넥서스 코-사이언티스트(Nexus Co-Scientist)'를 시연했던 사례를 들었다. 당시 새로운 연구 가설을 도출하기 위해 시스템을 약 2시간 가동했는데, 외부 프론티어 AI 모델을 호출하는 API(응용프로그램 인터페이스) 비용만 500만원이 청구됐다.

김 대표는 "당시 2시간 정도 시스템을 운영했는데 API 비용만 500만원이 나와 과기정통부에 세금계산서를 발행해야 하나 고민했을 정도였다"며 "실제 글로벌 연구 현장에서도 상위권 연구자들은 하루 평균 600달러(약 80만원), 선도 연구소들은 하루 1000만원에 달하는 토큰 비용을 지출하고 있어 이 비용을 대폭 줄여야만 대중적인 연구 활용이 가능하다고 판단했다"고 말했다.

AI 과학자는 인간 연구자가 수개월에 걸쳐 수행하던 논문 검토와 오믹스(유전체·단백질체 등) 데이터 분석, 가설 수립을 멀티 에이전트 체제로 대신하는 기술이다. 바이오넥서스의 시스템은 최대 70개의 과학 분야 전문가 페르소나를 바탕으로 생성·검토·랭킹·탐색 등 6개 역할을 맡은 AI 에이전트들이 10만~100만편의 논문을 읽고 토너먼트 방식으로 토론하며 최적의 가설을 추려낸다. 이처럼 수십만 편의 문헌을 교차 검증하는 구조 탓에 외부 모델을 쓰면 거액의 API 요금이 발생하고, 자체 인프라로 구동하려 해도 최소 16장의 고성능 그래픽처리장치(GPU)가 요구된다.

이에 바이오넥서스는 국산 AI 반도체(NPU) 기업 리벨리온을 비롯해 정부 '독자 AI 파운데이션 모델(독파모)' 프로젝트에 참여 중인 업스테이지 등 국내 AI 기업 3곳과 협력해 비용 절감형 플랫폼을 개발하고 있다. 업스테이지의 거대언어모델 '솔라 오픈' 등 국산 모델에 전공 서적 3만 권과 바이오 논문 4000만 건을 학습시켜 과학 추론 성능을 높이고, 이를 국산 반도체 인프라 위에서 최적화하는 방식이다.

김 대표는 "더 저렴하고 효율적인 소버린 AI 과학자를 구현하기 위해 국내 기업들과 협력하고 있다"며 "현재 국가과학기술연구회(NST) 산하 국가과학AI연구센터(NAIS)에 개념검증(PoC) 시스템을 올려 테스트를 진행 중이며, 내년부터는 일선 연구자들이 직접 활용할 수 있을 것으로 예상한다"고 밝혔다.

연구 현장에서 도출된 초기 실증 성과도 구체화하고 있다. 바이오넥서스는 현재 국내외 연구기관과 약 30건의 공동연구를 맞춤형으로 진행 중이다. 대표적으로 한국기초과학지원연구원(KBSI) 김건화 박사 연구팀과의 공동연구에서는 비만 및 지방간 관련 유전자의 작용 기전을 규명하는 데 AI 과학자를 투입했다. 간에서 발현되는 특정 유전자가 동물실험에서 지방간과 비만을 개선하는 현상은 확인됐으나 구체적인 작동 원리를 알지 못했던 상황에서, 연구진과 AI가 수십 차례의 검증을 거쳐 새로운 기전 가설을 도출해냈다.

김 대표는 "AI와 협업해 도출한 가설을 실제 인비트로(in vitro·시험관 내)와 인비보(in vivo·생체 내) 실험으로 검증하는 데 성공했다"며 "지방간·간섬유화 연구에서도 약 1000만원의 토큰 비용을 들여 100개의 가설을 생성하고 10차례 반복 루프를 돌린 끝에 생체 실험에서 유효한 결과를 확인해 현재 논문 발표와 특허 출원을 준비하고 있다"고 설명했다.

다만 AI 과학자가 인간 연구자의 온전한 파트너로 자리 잡기까지는 극복해야 할 기술적 과제도 뚜렷하다. 김 대표는 현재 시스템을 실제 연구에 적용해 본 결과, 전문가가 유효하다고 판정하는 가설의 정확도가 아직 10% 수준에 머물러 있다고 진단했다. 또한 자연어로 도출된 가설을 실제 실험실의 정밀한 실험 프로토콜로 전환하는 과정이 완벽하지 않고, AI가 24시간 만에 논문 초안과 데이터 표를 작성하더라도 인간 연구자가 환각(할루시네이션) 여부를 검증하는 데 약 2주가 소요되는 점도 한계로 꼽았다.

특히 가설 정확도가 10%에 그치는 핵심 원인은 학습 데이터의 편향성이다. 기존 학술지에 출판된 논문들은 대부분 '성공한 실험 결과'만 담고 있어, AI가 연구 과정에서 필연적으로 발생하는 시행착오 데이터를 학습하지 못했기 때문이다.

김 대표는 "인간 과학자는 수많은 실험 실패를 겪으며 배우지만 AI는 성공한 논문 데이터만 읽었기 때문에 아직 실패 데이터를 학습하지 못했다"며 "AI가 가설을 세우면 자동화 장비가 실험을 수행하고, 거기서 나오는 실패 데이터까지 다시 AI로 환류시켜 학습하는 폐쇄루프(Closed-loop)형 '자율실험실'이 결합되면 정확도 한계도 해결될 것"이라고 내다봤다.

글로벌 빅테크와 주요국 정부가 AI 바이오 패권 경쟁에 천문학적인 자금을 쏟아붓는 가운데 우리 정부의 속도전도 한층 빨라질 전망이다.

미국이 연방 연구소 중심의 '제네시스 미션'을 가동하고 오픈AI·앤스로픽·구글 딥마인드 등이 자체 신약 개발 및 자율실험실 확보에 수조 원에서 수십조 원을 투입하자, 과기정통부도 'K-문샷 프로젝트'를 통해 대응에 나섰다. 오는 2030년까지 과학기술 연구 생산성을 2배로 끌어올리고, 2035년까지 첨단바이오와 AI 과학자 등 8대 분야 12대 국가 미션을 완수한다는 구상이다.

김 대표는 "내년부터는 신약 개발 기업뿐 아니라 일반 연구소에서도 연구자 한 명이 100명, 1000명, 나아가 1만 명의 AI 에이전트 연구원을 거느리고 연구하는 시대로 전환될 것"이라며 "한국도 가설 수립부터 데이터 분석, 자율화 실험실까지 하나로 연결해 데이터가 환류되는 체계를 구축함으로써 미국·중국과 경쟁하는 세계 선도국가에 도전해야 한다"고 강조했다.