일본산업뉴스요약

몰큐어, 독자적인 LLM으로 프로틴 AI에 도전
폐기되던 데이터도 사실은 중요

일본의 프로틴 AI(의료나 신약개발 분야에서 생명의 근간인 단백질 구조의 예측이나 설계, 개변에 AI(인공지능)를 활용하는 최첨단 기술) 시장은 2개의 스타트업이 이끌고 있다. 그 중 하나인 몰큐어(MOLCURE)는 생물학의 상식에 얽매이지 않고 프로틴 AI를 개발하고 있다. 그 가장 큰 특징은 기존의 실험에서는 쓸모 없어 폐기되던 데이터를 활용하고 있다는 점이다.

몰큐어는 야마가타(山形)현 쓰루오카(鶴岡)시에 있는 게이오기주쿠(慶応義塾)대학 첨단생명과학연구소(IAB) 발 스타트업이다. 본사는 가나가와(神奈川)현 가와사키(川崎)시에 있지만, IAB의 거점이 있는 쓰루오카 메타볼롬 캠퍼스에 실험 시설을 갖추고 있다.

몰큐어가 노리는 것은 신규 항체 의약품 후보의 설계이다. 이를 위해 항체에 특화된 독자적인 LLM(대규모 언어 모델)을 개발했다.

몰큐어는 실험을 통해 데이터를 수집하여 항체를 중심으로 한 10억 건 이상의 데이터셋을 구축. 이것을 독자적인 항체 LLM 개발에 활용했다.

특정 항원에 결합하는 항체 선별에 '파지 디스플레이(Phage Display)'라는 생물학적 기법을 사용하고 있다. 세균에 감염되어 증식하는 바이러스인 '파지'의 표면에 항체 후보를 표시하는 기술이다. 동일한 파지에 항체 후보 유전자도 들어있기 때문에 특정 항원에 결합된 파지를 회수하면 원하는 항체 유전자를 가진 DNA를 얻을 수 있다. 이 DNA의 배열을 NGS(차세대 염기서열 분석)로 판독한다.

이렇게 얻은 수많은 배열 데이터를 몰큐어는 LLM에 처음부터 학습시키고 있다. 그 뿐만 아니라, 학습 사이클을 회전시킴으로써 성능 개선도 도모하고 있다. 학습 사이클이란 LLM이 출력한 항체 후보의 타당성을 실험이나 시뮬레이션으로 검증하고, 그 결과를 LLM에 학습시키는 사이클이다.

이 항체 LLM을 활용한 결과, 기존 항체 후보에 비해 결합력이 100배 높은 항체 후보를 3주 만에 설계할 수 있었다고 한다. 몰큐어의 다마키(玉木) CEO 겸 CSO(최고과학책임자)는 "매우 직관적인 성과이다"라며 자신감을 드러냈다.

다마키 CEO에 따르면, 항체를 다루는 LLM을 개발하는 경우, 기존의 단백질 언어 모델(pLM)을 베이스로 항체 데이터를 통해 파인튜닝하는 케이스가 많다. 하지만 이러한 pLM에는 항체 이외의 단백질 정보도 포함되어 있다. 그러한 정보는 “필요 없을 것으로 생각한다. 항체에만 특화하는 편이 성능을 내기 쉽다는 판단 하에 항체의 배열 데이터만을 학습한 LLM을 개발했다”(다마키 CEO)라고 한다.

몰큐어의 항체 LLM 개발에는 또 하나의 독특한 특징이 있다. 항원에 결합되지 않은, 말하자면, '실패한 항체'의 배열 데이터도 LLM 학습에 활용하고 있다는 점이다.

기존의 파지 디스플레이를 통한 항체 선별에서는 항원에 결합된 파지의 유전자 배열을 취득해 유전자를 재조합한 세포 배양 등의 방식으로 원하는 항체를 만들어냈다. 항원에 결합되지 못한 파지는 쓸모가 없어져 그대로 폐기되어왔다.

하지만 AI에게는 '항원에 결합되지 않았다'라는 부정적 데이터도 중요한 의미를 가진다. 원하는 항체를 설계하기 위한 힌트가 되기 때문이다. 그래서 몰큐어는 항원에 결합되지 못한 파지로부터도 항체 유전자 배열을 NGS로 판독해 LLM에 학습시키고 있다.

올큐어는 2026년 5월 중순 시점에서 제약 회사를 중심으로 한 19개 파트너 기업들과 28개의 프로젝트를 진행 중이다. 예를 들어, 오노약품공업(小野薬品工業), 테이진파마, 독일의 베링거인겔하임(Boehringer Ingelheim) 등의 제약 회사들과 항체 의약품을 개발하고 있다. 또한 항체뿐만 아니라, 후지필름과는 펩타이드 탐색을 위한 공동 연구도 진행하고 있다. 다마키 CEO에 따르면, 프로젝트 중에는 이미 전(前)임상 단계까지 진입한 건도 있다고 한다.

-- 생물학 전문가와 AI 전문가 사이의 가교 역할 --
몰큐어는 인재 구성 방식도 독특하다. 분야별로 복수의 전문가들을 채용했다. 전체 직원 20여 명 중 AI 분야 박사가 4명, 바이오인포매틱스 분야 박사가 4명, 생물학 분야 박사가 4명 있다고 한다.

다마키 CEO는 바이오인포매틱스 분야의 박사로, "생물학 전문가는 AI에 대해 몰라도 된다"라고 말한다. 마찬가지로 AI 전문가에게도 생물학 지식이 필요 없다고 한다. 이 두 전문가 간의 소통을 위해 바이오인포매틱스 전문가가 가교 역할을 하고 있다고 한다.

바이오인포매틱스 전문가는 생물학 지식과 AI 지식을 어느 정도 가지고 있다. 다마키 CEO는 "양쪽 모두에서 100점은 아니지만, 60점 정도는 받을 수 있는 사람이 가교 역할을 하고, 그 사람이 제품을 디자인한다. 이것이 최신 트렌드를 따라잡으면서 우리의 힘으로 데이터를 확보해 제품을 만드는 데 가장 최적화된 팀 구성이다"라고 설명한다.

이러한 팀 구성은 앞서 언급한 '부정적 데이터도 LLM 학습에 활용한다'라는 방침을 결정하는 데도 기여를 했다고 한다.

"생물학 전문가들은 보통 파지 디스플레이에서 항원에 결합되지 않은 것에는 관심이 없다. 그들에게 “부정적 데이터도 (AI에) 필요하니 그 배열을 제대로 판독해보자”라고 제안할 수 있는 것은 생물학과 AI에 대한 지식을 모두 가진 사람이다. 그러한 사람이 실험을 디자인하지 않으면 좀처럼 기존의 사고방식을 바꾸기 어렵다. 아무리 AI에 대해 잘 아는 전문가라도 이러한 제안은 하기 힘들 것이다”라고 다마키 CEO는 말한다.

다마키 CEO는 독자적인 데이터의 중요성도 강조했다. "(항체 배열과 같은) 데이터는 인터넷에는 없기 때문에 직접 실험을 하지 않으면 안 된다. 실험을 하려면 생물학 지식도 필요하기 때문에 우리와 같은 소규모 스타트업도 방대한 독자적 데이터를 가진 글로벌 빅테크 기업들과 승부할 수 있는 것이다"(다마키 CEO).

"데이터가 부족한 영역에서 데이터의 독자성(Originality)으로 승부하는 것은 생성 AI 시대의 필승 전략 중 하나이다. 바이오 분야뿐만 아니라, 니치 데이터를 많이 보유하고 있을 경우에도 그 데이터를 확충해 언어 모델을 만들면 매우 좋을 것"(다마키 CEO)이라고 한다. 이것이 일본이 AI 시장에서 살아남을 수 있는 길이기도 하다고 말한다.

필요한 모든 작업을 자체적으로 처리한다는 점도 몰큐어의 강점이다. 몰큐어는 실험을 통한 데이터 취득, LLM 개발, AI가 출력한 결과를 실험으로 검증하는 과정을 자체적으로 실시하고 있다. 다마키 CEO는 "대기업과 같은 규모를 추구하지 않지만, 우리의 분야만큼은 제대로 수직적 통합으로 추진하지 않으면 안 된다는 것이 당사의 방침이다"라고 말한다.

-- 끝 --

Copyright © 2026 [Nikkei XTECH] / Nikkei Business Publications, Inc. All rights reserved.