AI 신약 탐색, 도구를 넘어 후보물질 생산의 일부가 되다
약을 찾는 방식이 바뀌면 제약산업의 시간표도 바뀐다. AI는 이제 논문을...



  • AI 신약 탐색, 도구를 넘어 후보물질 생산의 일부가 되다


    약을 찾는 방식이 바뀌면 제약산업의 시간표도 바뀐다. AI는 이제 논문을 정리하고 데이터를 분석하는 보조도구에 머물지 않는다. 질병 표적을 찾고, 분자를 설계하고, 후보물질을 반복적으로 개선하는 파이프라인 안으로 들어오고 있다.

    [Key Message]
    * AI 신약 탐색은 이제 보조도구가 아니라 후보물질 생산 파이프라인의 일부가 되고 있다.

    * 생성형 AI는 기존 화합물을 고르는 단계를 넘어, 원하는 성질을 가진 새로운 분자 구조를 직접 제안하는 단계로 이동하고 있다.

    * 신약개발의 핵심 경쟁력은 더 많은 실험이 아니라, AI·데이터·자동화 실험·임상 판단을 연결하는 순환형 시스템에서 나온다.

    * AI는 신약개발의 실패를 없애는 기술이 아니라, 실패할 후보를 더 빨리 걸러내고 개발 비용을 낮추는 기술이다.

    * 앞으로 제약산업의 경쟁은 누가 AI를 쓰느냐가 아니라, 누가 AI를 후보물질 생산 파이프라인에 깊이 통합하느냐에 따라 갈릴 것이다.

    ***

    신약개발은 인류가 가장 오랫동안 붙잡아온 고비용·고위험 산업 가운데 하나다. 하나의 약이 환자에게 도달하기까지는 질병의 원인을 이해하고, 치료 표적을 찾고, 수많은 화합물을 시험하고, 동물실험과 임상시험을 거쳐야 한다. 이 과정에서 대부분의 후보는 사라진다. 처음에는 가능성이 있어 보였던 물질도 독성, 흡수율, 대사 안정성, 약효 부족, 예기치 못한 부작용 때문에 중도 탈락한다. 신약개발은 성공한 하나의 약보다 실패한 수많은 후보를 먹고 자라는 산업이라고 해도 지나치지 않다.

    그래서 제약산업의 핵심 질문은 늘 같았다. 어떻게 하면 더 빨리 찾을 수 있는가. 어떻게 하면 실패할 후보를 더 일찍 알아볼 수 있는가. 어떻게 하면 실험실과 임상 단계에서 낭비되는 시간과 비용을 줄일 수 있는가. 이 질문에 대한 답으로 등장한 것이 AI 신약 탐색이다. 처음의 AI는 연구자의 눈과 손을 보조하는 도구에 가까웠다. 방대한 논문을 읽고, 유전자와 단백질 데이터를 정리하고, 기존 화합물 데이터베이스에서 질병 표적과 맞을 가능성이 있는 물질을 골라냈다. 복잡한 생물학 정보를 빠르게 정리하고, 사람이 놓칠 수 있는 패턴을 찾아주는 역할이었다.

    하지만 최근의 변화는 그보다 한 단계 더 깊다. AI는 이제 단순히 데이터를 분석하는 도구를 넘어 후보물질을 만들어내는 과정 자체에 들어서고 있다. 이미 존재하는 화합물 중에서 가능성이 높은 것을 고르는 수준을 넘어, 원하는 성질을 가진 새로운 분자 구조를 제안하고, 그 구조가 표적 단백질과 어떻게 결합할지 예측하며, 약효와 독성, 안정성, 합성 가능성을 동시에 고려해 다시 설계한다. 신약개발의 초입에서 연구자가 수행하던 탐색과 설계의 일부가 AI 모델과 자동화 실험 시스템 안으로 옮겨가고 있는 셈이다.

    이 변화는 단순한 기술 유행이 아니다. 제약산업의 생산 방식 자체가 바뀌고 있다는 신호다. 신약개발은 오랫동안 실험실 중심 산업이었다. 경험 많은 연구자가 질병 기전을 해석하고, 후보물질을 떠올리고, 실험을 설계하고, 결과를 다시 읽어냈다. 물론 계산화학과 생물정보학은 이전부터 활용돼왔다. 하지만 최근의 AI는 보조 계산의 범위를 넘어선다. 생성형 모델, 단백질 구조 예측, 멀티모달 생물학 데이터 분석, 자동화 합성, 로봇 실험실이 결합하면서 후보물질 탐색의 속도와 방식이 달라지고 있다.

    후보를 고르는 기술에서 후보를 만드는 기술로
    과거의 신약 탐색은 넓은 창고에서 쓸 만한 물건을 찾는 일에 가까웠다. 연구자들은 이미 존재하는 화합물 라이브러리에서 특정 질병 표적과 결합할 가능성이 있는 물질을 골랐다. 그중 일부를 실험으로 검증하고, 가능성이 보이는 물질을 조금씩 변형해 약효를 높였다. AI는 이 과정에서 검색 범위를 줄여주는 역할을 했다. 수백만 개의 후보 중 우선 시험해볼 만한 물질을 추려내고, 실패 가능성이 높은 물질을 먼저 제외했다.

    이제는 질문 자체가 달라지고 있다. “어떤 물질이 있는가”에서 “어떤 물질을 만들면 좋은가”로 이동하고 있다. 생성형 AI는 목표 조건을 입력받아 새로운 분자 구조를 제안한다. 특정 단백질에 강하게 결합해야 하고, 다른 단백질에는 덜 결합해야 하며, 체내에서 너무 빨리 분해되지 않아야 하고, 독성이 낮아야 하며, 실제로 합성 가능한 구조여야 한다. 신약 후보물질은 하나의 조건만 만족한다고 되는 것이 아니다. 약효가 좋아도 독성이 높으면 탈락한다. 표적에는 잘 붙어도 몸 안에서 흡수되지 않으면 의미가 없다. 안정성이 좋아도 합성이 어렵거나 비용이 지나치게 높으면 개발 가능성이 낮아진다.

    AI 신약 설계의 어려움은 바로 이 다중 조건을 동시에 다뤄야 한다는 데 있다. 좋은 약은 단순히 강한 분자가 아니라 균형 잡힌 분자다. 목표 단백질과의 결합력, 선택성, 용해도, 세포 투과성, 대사 안정성, 독성 위험, 제조 가능성이 함께 고려돼야 한다. AI 모델은 이 복잡한 조건들을 동시에 계산하며 후보를 제안한다. 사람이 하나하나 상상하기 어려운 화학 공간을 빠르게 탐색하고, 그중 가능성 있는 구조를 제시한다.

    여기서 중요한 것은 AI가 연구자를 대체한다는 의미가 아니라는 점이다. AI가 제안한 분자는 여전히 검증돼야 한다. 실제로 합성할 수 있는지, 세포와 동물 모델에서 작동하는지, 독성은 없는지, 임상시험에서 사람에게 의미 있는 효과를 내는지 확인해야 한다. 다만 AI가 바꾸는 것은 출발점이다. 예전에는 연구자가 제한된 경험과 데이터 안에서 후보를 떠올렸다면, 이제는 AI가 훨씬 넓은 가능성의 공간을 먼저 열어준다. 연구자는 그중 과학적으로 타당하고 개발 가능성이 높은 방향을 판단하는 역할을 맡는다.

    이 변화는 신약개발을 선형 공정에서 순환 공정으로 바꾼다. 과거에는 표적 발굴, 후보 탐색, 합성, 실험, 최적화가 비교적 단계별로 진행됐다. 한 단계가 끝나야 다음 단계로 넘어갔다. 하지만 AI와 자동화 실험이 결합하면 과정은 더 빠른 순환 구조를 갖는다. AI가 후보를 설계하고, 자동화 실험실이 합성하고, 실험 결과가 다시 모델에 입력되고, 모델은 더 나은 후보를 다시 제안한다. 설계와 실험, 실패와 수정이 짧은 주기로 반복된다.

    이러한 폐쇄 루프가 중요한 이유는 신약개발의 본질이 결국 반복 학습이기 때문이다. 첫 번째 후보가 곧바로 약이 되는 경우는 드물다. 대개는 약효가 부족하거나, 독성이 보이거나, 체내에서 너무 빨리 사라지거나, 특정 조건에서만 작동한다. 중요한 것은 실패를 얼마나 빨리 읽고 다음 설계에 반영하느냐다. AI가 파이프라인에 들어간다는 말은 바로 이 학습 속도가 빨라진다는 뜻이다. 실험실의 결과가 데이터가 되고, 데이터가 모델의 판단을 바꾸며, 모델의 판단이 다음 실험을 이끈다.

    제약사의 협력 방식이 달라진다
    AI 신약 탐색의 파이프라인 편입은 글로벌 제약사와 AI 바이오기업의 협력 방식에서도 나타난다. 대형 제약사는 질병 이해, 임상개발, 규제 대응, 제조, 판매 역량을 갖고 있다. 반면 AI 바이오기업은 생성 모델, 단백질 구조 예측, 대규모 생물학 데이터 분석, 자동화 실험 플랫폼을 강점으로 내세운다. 양쪽의 결합은 단순한 기술 도입이 아니라 역할 분담의 재편에 가깝다.

    과거 제약사가 외부 기술을 도입할 때는 특정 후보물질이나 플랫폼을 사들이는 경우가 많았다. 이제는 AI 기업과 장기 협력 관계를 맺고 특정 질환 영역의 후보물질을 함께 발굴하는 방식이 늘고 있다. 항암, 면역질환, 염증질환, 희귀질환처럼 생물학적 복잡성이 크고 미충족 수요가 큰 영역에서 AI의 역할이 커지는 이유도 여기에 있다. 기존 방식으로는 표적을 찾기 어렵거나, 후보물질 최적화가 오래 걸리거나, 환자군이 복잡하게 나뉘는 영역일수록 AI의 분석 능력과 설계 능력이 더 큰 가치를 가질 수 있다.

    AI 기업 입장에서도 변화가 생긴다. 단순히 소프트웨어를 판매하는 회사로 머물면 신약개발의 핵심 가치에 깊이 들어가기 어렵다. 실제 후보물질을 만들고 임상 파이프라인에 올려야 기술의 가치가 증명된다. 그래서 AI 신약개발 기업들은 모델 성능을 홍보하는 데서 그치지 않고 자체 후보물질 파이프라인을 구축하거나 대형 제약사와 공동 개발을 추진한다. AI가 만든 후보가 임상시험에 들어가고, 사람을 대상으로 효능과 안전성을 입증해야 비로소 산업적 신뢰가 만들어진다.

    이 지점에서 “AI가 약을 만든다”는 표현은 아직 조심스럽게 다뤄야 한다. AI는 후보물질을 제안하고 최적화할 수 있지만, 약의 성공은 여전히 생물학과 임상에서 증명된다. 사람의 몸은 단백질 구조 하나로 설명되지 않는다. 질병은 유전자, 면역, 대사, 환경, 생활습관, 환자군의 차이가 얽힌 복잡한 현상이다. 세포 실험에서 효과가 있었던 후보가 동물실험에서 실패할 수 있고, 동물실험을 통과한 후보가 임상시험에서 효능을 보이지 못할 수 있다. AI가 발견한 후보라고 해서 이 과정을 건너뛸 수는 없다.

    그럼에도 AI의 의미는 분명하다. AI는 실패를 없애는 기술이 아니라 실패의 비용을 줄이는 기술이다. 나쁜 후보를 너무 늦게 알아보는 것이 신약개발의 큰 손실이라면, AI는 그 후보를 더 빨리 걸러내는 데 도움을 줄 수 있다. 독성이 의심되는 구조를 초기에 제외하고, 약물성이 떨어지는 후보를 조정하며, 더 가능성 높은 방향으로 실험을 유도한다. 실패를 완전히 제거하지는 못해도 실패의 위치를 앞당길 수 있다. 이것만으로도 산업적 가치는 크다.

    신약개발에서 시간은 곧 비용이고, 비용은 곧 접근성의 문제로 이어진다. 개발비가 너무 높아지면 약값은 비싸지고, 희귀질환이나 시장 규모가 작은 질병은 연구 우선순위에서 밀릴 수 있다. AI가 초기 탐색과 후보 최적화의 비용을 낮춘다면, 지금까지 경제성이 낮다는 이유로 충분히 연구되지 못한 영역에도 새로운 가능성이 열릴 수 있다. 물론 이것이 자동으로 공공성을 보장하지는 않는다. 하지만 신약개발의 진입 비용이 낮아질수록 더 다양한 질병과 표적을 실험해볼 여지는 커진다.

    데이터가 곧 실험 능력이 된다
    AI 신약개발의 핵심 자산은 모델만이 아니다. 더 중요한 것은 데이터다. AI는 좋은 데이터를 먹고 자란다. 단백질 구조, 유전자 발현, 질병 표적, 화합물 반응, 독성, 임상 결과, 환자군 정보가 충분히 연결돼야 예측이 정교해진다. 데이터가 부정확하거나 편향돼 있으면 AI는 그럴듯하지만 쓸모없는 후보를 만들어낼 수 있다. 신약개발에서 그럴듯함은 위험하다. 분자 구조가 아름답고 예측 점수가 높아도 실제 생물학에서 작동하지 않으면 의미가 없다.

    그래서 앞으로의 경쟁은 AI 모델 경쟁이면서 동시에 데이터 품질 경쟁이 된다. 누가 더 많은 데이터를 갖고 있는가보다 누가 더 신뢰할 수 있는 데이터를 갖고 있는가가 중요해진다. 같은 실험이라도 조건이 다르면 결과 해석이 달라진다. 같은 질병명 아래에도 환자군은 여러 갈래로 나뉜다. 표적 단백질 하나가 질병의 원인인지, 결과인지, 단순한 동반 현상인지도 구분해야 한다. AI가 아무리 빠르게 계산해도 생물학적 의미를 잘못 이해하면 후보물질의 방향은 틀어질 수 있다.

    이 때문에 AI 신약개발은 단순한 IT 기술이 아니라 실험과 계산이 결합된 생명과학 인프라가 된다. 모델을 잘 만드는 것만으로는 충분하지 않다. 실험을 잘 설계해야 하고, 실험 결과를 표준화해야 하며, 실패한 데이터도 축적해야 한다. 성공한 후보의 데이터만 남기면 AI는 실패의 패턴을 배우기 어렵다. 신약개발에서 실패 데이터는 매우 귀중하다. 어떤 구조가 왜 독성을 보였는지, 어떤 조건에서 효과가 사라졌는지, 어떤 표적이 실제 질병 개선으로 이어지지 않았는지를 알아야 다음 후보를 더 정확하게 설계할 수 있다.

    자동화 실험실의 역할도 커진다. AI가 하루에 수많은 후보 구조를 제안해도 실제 실험이 느리면 병목은 그대로 남는다. 반대로 합성, 분석, 세포 실험, 결과 기록이 자동화되면 AI의 설계 속도와 실험 검증 속도가 맞물린다. 결국 AI 신약개발의 경쟁력은 모델 하나가 아니라 모델, 데이터, 로봇 실험, 연구자의 판단이 연결된 시스템에서 나온다. 이 시스템을 얼마나 촘촘하게 만들 수 있는지가 새로운 제약 경쟁력의 기준이 된다.

    규제와 신뢰의 문제도 중요하다. 약은 사람의 생명과 직접 연결된다. AI가 설계했다는 이유로 검증 기준이 낮아질 수는 없다. 오히려 더 명확한 설명이 필요하다. 어떤 데이터로 학습했는지, 어떤 기준으로 후보를 선택했는지, 예측 결과가 실험에서 어떻게 확인됐는지, 실패 가능성은 어떻게 평가했는지 설명할 수 있어야 한다. 신약개발에서 설명 가능성은 단순한 기술적 장식이 아니라 규제와 신뢰를 통과하기 위한 조건이다.

    AI가 제안한 후보물질의 특허 문제도 복잡해질 수 있다. 기존 화합물과 얼마나 다른지, AI가 만든 구조의 창작성은 어떻게 평가할지, 모델 학습에 사용된 데이터가 권리 문제를 일으키지 않는지 따져봐야 한다. 신약개발은 과학이면서 동시에 지식재산 산업이다. 후보물질 하나의 가치가 수십억 달러로 평가될 수 있는 영역에서, AI가 만든 분자의 권리와 책임 문제는 앞으로 더 중요해질 수밖에 없다.

    한국 제약·바이오 산업에도 새로운 숙제가 생긴다
    AI 신약 탐색의 파이프라인 편입은 한국 제약·바이오 산업에도 중요한 질문을 던진다. 한국은 임상시험 역량, 병원 데이터, 바이오 생산, 일부 플랫폼 기술에서 강점을 갖고 있다. 그러나 글로벌 빅파마처럼 방대한 자체 파이프라인과 대규모 연구개발 자금을 갖춘 기업은 제한적이다. 이런 환경에서 AI 신약개발은 기회이면서 동시에 압박이다. 초기 탐색과 후보물질 설계의 장벽이 낮아지면 작은 기업도 더 빠르게 가능성을 제시할 수 있다. 반대로 데이터와 플랫폼을 충분히 확보하지 못하면 글로벌 경쟁에서 더 빨리 뒤처질 수 있다.

    한국 기업에 필요한 것은 단순한 AI 도입 선언이 아니다. 어떤 질환 영역에서 강점을 가질지, 어떤 데이터를 확보할지, 어떤 병원·연구기관·제약사와 연결할지, AI가 만든 후보를 실제 임상으로 끌고 갈 역량을 어떻게 갖출지에 대한 구체적 전략이 필요하다. AI 신약개발은 모델만으로 완성되지 않는다. 후보물질을 합성하고, 검증하고, 특허를 확보하고, 임상시험을 설계하고, 규제기관과 소통하는 전 과정이 연결돼야 한다.

    특히 중요한 것은 질병 영역의 선택이다. 모든 질병에 AI를 적용하겠다는 전략은 힘이 약하다. 한국이 강점을 가진 암, 면역질환, 대사질환, 희귀질환, 디지털 병원 데이터 기반 질환군 등에서 선택과 집중이 필요하다. 또한 환자 데이터와 생물학 데이터의 품질을 높이는 일이 중요하다. AI 시대의 바이오 경쟁력은 병원과 실험실, 기업과 데이터 인프라가 얼마나 잘 연결돼 있는지에 달려 있다.

    신약개발의 글로벌 협력 구도도 바뀔 가능성이 크다. 과거에는 유망한 후보물질을 만든 뒤 대형 제약사에 기술수출하는 방식이 주요 경로였다. 앞으로는 AI 플랫폼, 질환 데이터, 후보물질 설계 능력, 임상개발 역량이 묶인 협력이 늘어날 수 있다. 단일 후보 하나를 파는 방식에서 특정 질환 영역의 후보를 지속적으로 만들어내는 공동 파이프라인 방식으로 이동할 수 있다. 이 경우 기업의 가치는 후보물질 하나가 아니라 후보를 계속 생산할 수 있는 시스템에서 나온다.

    AI 신약개발은 제약산업의 언어도 바꾸고 있다. 과거에는 발견이라는 표현이 더 익숙했다. 자연 속에서, 화합물 라이브러리 속에서, 실험 결과 속에서 우연히 가능성을 발견하는 이미지가 강했다. 이제는 설계와 생산의 언어가 더 중요해지고 있다. 질병 표적을 정하고, 원하는 분자 조건을 설정하고, 모델이 후보를 만들고, 실험이 검증하고, 다시 모델이 수정하는 방식이다. 신약 후보물질은 발견되는 것이면서 동시에 만들어지는 것이 되고 있다.

    과장보다 중요한 것은 방향이다
    AI 신약개발을 둘러싼 기대는 크지만 과장도 적지 않다. AI가 곧바로 신약개발의 모든 문제를 해결할 것처럼 말하는 것은 위험하다. 임상시험의 실패율은 여전히 높고, 생물학은 복잡하며, 환자의 몸은 예측을 자주 배반한다. AI가 만든 후보가 실제 의약품으로 승인되기까지는 아직 더 많은 검증 사례가 필요하다. 시장은 빠른 성공 사례를 원하지만, 의학은 속도보다 안전성과 재현성을 요구한다.

    그러나 과장이 있다고 해서 변화 자체를 가볍게 볼 수는 없다. 중요한 것은 AI가 신약개발의 어디까지 들어왔는가다. 이제 AI는 주변에서 자료를 정리하는 보조자가 아니다. 후보물질 발굴 전략에 참여하고, 분자 설계에 관여하고, 실험 우선순위를 정하고, 파이프라인의 중단과 지속 판단에 영향을 미친다. 신약개발의 가장 앞단에서 방향을 정하는 기술이 되고 있다.

    이 변화가 의미하는 바는 분명하다. 제약산업의 경쟁은 더 이상 실험실 규모만으로 결정되지 않는다. 데이터의 질, 모델의 정확도, 자동화 실험의 속도, 임상개발의 판단력, 규제 대응 능력이 하나의 파이프라인으로 묶여야 한다. AI는 그 연결부에서 후보물질 생산의 일부가 된다. 도구로 쓰는 기업과 파이프라인으로 통합하는 기업 사이의 격차는 시간이 갈수록 커질 수 있다.

    신약개발의 미래는 인간 연구자와 AI의 대립 구도가 아니다. 더 적절한 그림은 협업이다. AI는 인간이 보지 못한 가능성을 넓히고, 인간은 AI가 제안한 가능성의 의미를 해석한다. AI는 후보를 빠르게 만들고, 실험은 그 후보를 현실에서 검증한다. AI는 실패 가능성을 계산하고, 연구자는 그 실패가 과학적으로 무엇을 뜻하는지 판단한다. 결국 약은 모델 안에서 완성되는 것이 아니라 사람의 몸 안에서 증명된다.

    그렇기 때문에 AI 신약 탐색의 진짜 의미는 “AI가 약을 대신 만든다”는 문장에 있지 않다. 더 정확한 표현은 이렇다. AI가 신약 후보물질을 생산하는 파이프라인의 일부가 되고 있다. 이것은 신약개발의 시작점을 바꾸는 변화다. 더 많은 후보를 더 빠르게 만들고, 더 나쁜 후보를 더 일찍 버리며, 더 가능성 있는 방향으로 실험을 반복하게 만드는 변화다.

    오랫동안 신약개발은 느리고 비싸고 실패가 많은 산업이었다. 앞으로도 약을 만드는 일은 쉽지 않을 것이다. 그러나 AI가 탐색과 설계, 실험과 학습의 흐름 안으로 들어오면서 신약개발의 시간표는 달라지고 있다. 이제 중요한 질문은 AI를 쓰느냐 마느냐가 아니다. AI를 연구실 바깥의 편리한 도구로 둘 것인가, 아니면 후보물질을 계속 만들어내는 파이프라인의 핵심 구성 요소로 통합할 것인가다. 그 답에 따라 미래 제약산업의 속도와 경쟁력은 크게 달라질 것이다.

    Reference
    Reuters, May 2026, Google-backed Isomorphic raises $2.1 billion to scale AI-driven drug discovery
    Isomorphic Labs, May 2026, Isomorphic Labs announces Series B investment round
    Isomorphic Labs, February 2026, The Isomorphic Labs Drug Design Engine unlocks a new frontier
    Iambic Therapeutics, February 2026, Iambic announces collaboration with Takeda to advance AI-driven design of small molecules
    Nature Biotechnology, July 2025, Clinical trials gain intelligence
    Insilico Medicine, July 2023, First generative AI drug begins Phase II trials with patients
    arXiv, April 2025, AI-guided antibiotic discovery pipeline from target selection to compound identification
    arXiv, July 2025, Accelerating drug discovery through agentic AI: a multi-agent approach to laboratory automation in the DMTA cycle