인공지능의 성장 조건, 성능에서 신뢰로
인공지능이 고객의 취향과 행동을 정교하게 읽어낼수록 서비스는 편리해지지만...



  • 인공지능의 성장 조건, 성능에서 신뢰로
    - 책임 있는 운영이 고객의 선택과 기업의 경쟁력을 바꾸는 방식

    인공지능이 고객의 취향과 행동을 정교하게 읽어낼수록 서비스는 편리해지지만, 그만큼 기업이 들여다보는 고객의 삶도 넓어진다. 이 편리함이 감시나 불공정한 판단으로 돌아오지 않으려면, 기업은 기술의 성능과 함께 데이터 사용의 경계와 오류에 대한 책임을 설계해야 한다. 고객이 안심하고 다시 선택할 수 있는 운영 능력이 인공지능을 지속적인 성장으로 연결하는 기반이 된다.

    [Key Message]
    * 책임 있는 인공지능은 고객이 서비스를 안심하고 이용할 수 있게 만드는 사업 기반이다. 기술의 성능과 함께 데이터 사용 방식, 오류 대응, 이용자의 선택권을 설계해야 한다.

    * 고객에게 유리한 서비스와 기업에 유리한 자동화가 언제나 일치하지는 않는다. 단기적인 전환율과 비용 절감 뒤에 고객의 불이익이 숨지 않는지 살펴야 한다.

    * 관리 체계의 출발점은 사내에서 어떤 인공지능을 사용하는지 파악하는 일이다. 시스템마다 담당자와 사용 목적, 데이터의 흐름, 사고 대응 책임을 연결해야 한다.

    * 신뢰는 윤리 원칙을 발표하는 것만으로 생기지 않는다. 고객이 설명을 요청하고 잘못된 판단을 바로잡을 수 있을 때 책임 있는 운영이 구체적인 경험이 된다.

    * 책임 있는 운영이 성장으로 이어지는지는 실제 성과로 확인해야 한다. 도입 속도와 생산성뿐 아니라 고객 유지, 문제 해결, 재발 방지까지 함께 평가할 필요가 있다.

    ***

    편리함은 언제 불편함으로 바뀌는가
    고객이 온라인 쇼핑몰에서 운동화를 살펴본다. 다음 접속 때 취향에 맞는 제품이 첫 화면에 등장한다. 검색 시간이 줄어들고 선택도 쉬워진다. 여기까지는 반가운 개인화다. 그런데 다른 서비스에서 나눈 대화나 예상하지 못한 생활 정보까지 추천에 반영된다면 느낌이 달라진다. 자신을 이해하는 서비스가 어느 순간 자신을 지나치게 들여다보는 서비스로 바뀐다.

    이 가상 장면에서 인공지능의 성능은 떨어지지 않는다. 오히려 추천은 더 정확해질 수 있다. 문제는 정확성을 얻는 과정과 고객이 받아들일 수 있는 범위 사이의 간격이다. 기업은 구매 가능성을 높였다고 평가하지만, 고객은 허락하지 않은 영역까지 자신의 정보가 넘어갔다고 느낄 수 있다. 같은 결과를 두고 기업과 고객이 서로 다른 장부를 쓰는 셈이다.

    2026년 7월 21일 하버드 비즈니스 리뷰에 실린 경영 분석은 이 간격을 기업의 디지털 책임이라는 관점에서 다룬다. 핵심 과제는 법규 준수 중심의 활동을 사업 성과와 고객의 안녕을 함께 고려하는 전략 역량으로 발전시키는 것이다. 실행 과정으로는 사용 중인 인공지능의 파악, 설계 단계의 관리와 감독, 책임 있는 운영 방식의 공개를 제시한다.

    이 관점에서 중요한 것은 책임을 기술 바깥에 붙이는 장식으로 취급하지 않는 일이다. 서비스가 이미 완성된 뒤 이용약관을 길게 쓰는 것으로는 고객이 경험하는 문제를 충분히 바꾸기 어렵다. 어떤 정보를 수집할지, 어떤 판단을 자동화할지, 사람이 개입할 통로를 어디에 둘지는 제품의 기능과 함께 결정해야 한다. 책임은 출시 직전 확인하는 항목이 아니라 서비스를 구성하는 선택이다.

    기업이 인공지능으로 얻으려는 가치 역시 이 선택에 영향을 받는다. 광고 반응을 높이는 것인지, 고객의 탐색 시간을 줄이는 것인지, 상담의 정확도를 높이는 것인지에 따라 필요한 데이터와 허용할 수 있는 오류가 달라진다. 목적이 모호하면 더 많은 데이터를 모으고 더 많은 판단을 자동화하는 행위 자체가 성과처럼 보이기 쉽다. 좋은 출발점은 기술의 범위를 넓히는 일보다 고객에게 제공할 편익을 구체적으로 정하는 일이다.

    매출의 장부에 고객의 비용을 적어라
    인공지능의 경제성을 검토할 때 기업이 먼저 보는 숫자는 대체로 분명하다. 처리 시간이 얼마나 줄었는지, 인건비를 얼마나 절약했는지, 구매 전환율이 얼마나 높아졌는지다. 이 숫자들은 필요하다. 다만 기업 내부의 효율을 보여주는 지표만으로 서비스의 전체 가치를 설명하기는 어렵다. 기업이 절약한 시간이 고객에게 추가 업무로 돌아갈 수도 있기 때문이다.

    가령 한 기업이 상담을 자동화해 평균 응답 시간을 크게 줄였다고 가정해보자. 간단한 배송 조회는 빨라지지만 복잡한 환불 문제를 가진 고객은 비슷한 질문을 여러 차례 반복한다. 상담원에게 연결되는 경로는 찾기 어렵고, 대화가 넘어갈 때마다 처음부터 사정을 설명해야 한다. 기업의 장부에는 처리 비용 감소가 기록된다. 고객의 장부에는 반복 설명과 대기, 해결 지연이라는 비용이 쌓인다.

    이때 자동화의 성과를 다시 평가하려면 응답과 해결을 구분해야 한다. 첫 답변이 빨라졌다는 사실과 문제가 제대로 해결됐다는 사실은 다르다. 상담 건수가 줄어도 고객이 포기해서 문의를 멈춘 것이라면 해석이 달라진다. 처리량에 해결률을 더하고, 평균값에 복잡한 문제를 가진 고객의 경험을 보태야 개선의 방향이 보인다.

    추천과 판매에서도 비슷한 문제가 생긴다. 고객이 오래 머물수록 좋은 서비스인지, 필요한 정보를 빨리 찾고 떠날수록 좋은 서비스인지부터 따져야 한다. 구매 건수를 늘리는 추천과 구매 뒤 후회를 줄이는 추천은 서로 다른 목표를 가질 수 있다. 고객의 취약한 순간을 이용한 제안은 당장의 반응을 높이더라도 장기적인 관계에는 부담이 된다.

    책임 있는 운영을 성장 전략으로 검토한다는 것은 이러한 비용을 의사결정 안으로 가져오는 일이다. 모든 불편을 없애겠다는 약속보다 어떤 편익을 위해 어떤 부담이 발생하는지 살펴보는 태도가 중요하다. 고객의 부담을 줄인 변화가 실제로 재이용과 관계 유지에 도움이 되는지는 이후의 행동과 피드백으로 확인해야 한다. 신뢰의 가치를 주장하는 것과 그 효과를 입증하는 일은 구분할 필요가 있다.

    보이지 않는 인공지능부터 찾아라
    책임을 논의하려면 먼저 책임의 대상을 알아야 한다. 경영진이 승인한 대형 프로젝트만 살펴봐서는 조직 전체의 사용 모습을 파악하기 어렵다. 문서 작성 도구, 채용 서비스, 고객관리 프로그램, 외부 상담 솔루션에 인공지능 기능이 포함될 수 있다. 직원이 업무 편의를 위해 개별적으로 사용하는 서비스도 있다. 도입 경로가 여러 갈래이면 관리의 시야 역시 쉽게 끊어진다.

    이때 필요한 것은 도구 이름을 모은 목록을 넘어선 업무 지도다. 어떤 부서가 어떤 목적으로 사용하는지, 입력 정보는 무엇인지, 결과가 누구에게 영향을 주는지, 최종 결정은 누가 내리는지를 연결해야 한다. 같은 문장 생성 기능이라도 내부 회의록을 정리할 때와 고객에게 계약 조건을 안내할 때는 검토해야 할 문제가 달라진다.

    지도는 질문을 구체적으로 만든다. 고객의 정보가 외부 서비스로 전달되는가. 생성된 답변이 검토 없이 발송되는가. 추천 결과가 사실상 사람의 선택을 제한하는가. 오류를 발견했을 때 해당 기능만 멈출 수 있는가. 질문에 답할 담당자가 없다면 기술의 문제가 발생하기 전부터 운영의 빈틈이 존재하는 것이다.

    외부 공급업체가 제공하는 기능도 이 지도 안에 들어가야 한다. 고객은 문제가 서비스 내부에서 생겼는지 외부 도구에서 생겼는지 알기 어렵다. 자신이 거래한 기업에 설명과 해결을 요구하게 된다. 따라서 도입을 검토할 때 성능 시연과 가격 비교에 더해 데이터 처리 방식, 변경 통지, 오류 조사에 필요한 정보, 지원 범위를 확인할 필요가 있다.

    모든 도구에 같은 수준의 통제를 적용하면 운영 부담이 커질 수 있다. 사람에게 미치는 영향과 오류의 되돌림 가능성을 기준으로 검토의 깊이를 달리하는 편이 합리적이다. 내부 초안 작성과 채용 탈락 판단을 같은 절차로 다루기보다, 결정의 중요도에 맞게 승인과 검증을 설계해야 한다. 사용 현황을 파악하는 일의 목적은 일괄적인 제한보다 필요한 곳에 책임을 배치하는 데 있다.

    원칙은 고객의 선택지로 번역된다
    기업의 윤리 원칙에는 공정성, 투명성, 안전성처럼 필요한 가치가 담긴다. 그러나 고객은 대개 선언문을 읽으며 서비스를 평가하지 않는다. 자신에게 불리한 결과가 나왔을 때 설명을 받을 수 있는지, 개인정보 사용을 거절해도 기본적인 이용이 가능한지, 자동화된 답변에 문제가 있을 때 사람에게 도달할 수 있는지를 통해 원칙을 경험한다.

    예를 들어 자동 심사를 거친 신청이 거절되는 가상 상황을 생각해보자. 고객에게 거절 사실만 통보하면 내부 절차가 아무리 정교해도 고객은 판단을 이해하기 어렵다. 반면 확인할 정보가 무엇인지, 정정이 가능한지, 재검토를 어떻게 요청하는지 안내하면 대응할 길이 열린다. 설명은 결과를 받아들이도록 설득하는 문구를 넘어 고객이 다음 행동을 결정할 수 있게 해야 한다.

    사람의 검토를 둔다는 원칙도 운영 방식에 따라 의미가 달라진다. 담당자가 판단 근거를 살펴볼 정보와 시간을 갖지 못하면 자동화된 결과를 그대로 승인하기 쉽다. 잘못된 결과를 수정할 권한이 없거나 수정에 불이익이 따른다면 검토 절차는 제 기능을 하기 어렵다. 사람을 배치하는 것과 사람이 실질적으로 판단할 수 있게 만드는 것은 별개의 설계 과제다.

    투명성 역시 정보의 양만으로 평가하기 어렵다. 기술적인 설명을 길게 제공해도 고객이 자신에게 미치는 영향을 이해하지 못하면 활용하기 힘들다. 어느 단계에서 인공지능이 사용되는지, 중요한 제한은 무엇인지, 도움이 필요할 때 어디로 가야 하는지를 상황에 맞게 보여주는 편이 유용하다. 고객이 필요한 순간에 필요한 설명을 찾을 수 있어야 한다.

    이러한 선택지는 개발과 운영의 협업을 요구한다. 이의 제기 기능을 만들려면 접수 화면만 있어서는 부족하다. 누가 검토하고 어떤 기준으로 답하며, 수정된 내용이 다른 시스템에도 반영되는지 정해야 한다. 책임을 제품에 반영한다는 말은 이처럼 화면, 업무 절차, 권한, 기록을 함께 연결하는 작업을 뜻한다.

    책임의 이름으로 만든 병목을 풀어라
    관리 체계를 강화하면 혁신이 느려질 것이라는 우려는 현실적인 문제다. 작은 수정까지 여러 조직의 승인을 받아야 하거나 검토 기준이 매번 달라지면 현장은 도입을 피로하게 느낀다. 책임 있는 운영을 사업 역량으로 만들려면 위험을 살피는 기능과 업무를 진행할 수 있게 돕는 기능이 함께 작동해야 한다.

    가상으로 두 팀이 비슷한 고객 안내 기능을 개발한다고 해보자. 한 팀은 출시 직전에 데이터 사용 문제를 발견해 화면과 계약을 다시 수정한다. 다른 팀은 기획 단계에서 허용되는 데이터와 필수 안내 사항을 확인하고 개발한다. 두 번째 팀의 초기 검토에는 시간이 들지만 뒤늦은 변경의 범위를 줄일 가능성이 있다. 관리 체계의 효과는 승인에 걸린 시간뿐 아니라 재작업과 불확실성까지 살펴야 평가할 수 있다.

    이를 위해서는 현장에서 사용할 수 있는 기준이 필요하다. 입력해도 되는 정보, 검토가 필요한 용도, 반드시 사람이 확인할 결과, 문제가 생겼을 때 연락할 담당자가 분명해야 한다. 원칙을 해석하는 부담을 직원 개인에게 넘기면 같은 조직 안에서도 판단이 제각각 달라진다. 반복되는 업무에는 공통 기준을 제공하고 새로운 위험에는 별도의 검토를 붙이는 방식이 도움이 된다.

    성과 보상도 기준과 연결해야 한다. 상담 조직이 처리 건수만으로 평가받으면 복잡한 문의를 빠르게 종료할 유인이 생긴다. 판매 조직이 전환율만으로 평가받으면 고객이 충분히 이해했는지에 대한 관심이 약해질 수 있다. 책임 있는 행동을 요구하면서 다른 방향의 행동에 보상한다면 선언보다 평가 지표가 더 강하게 작동한다.

    경영진이 살펴야 할 것은 위원회의 존재 자체보다 판단이 실제로 이뤄지는 방식이다. 위험을 이유로 보류한 기능이 무엇인지, 어떤 조건을 바꿔 다시 추진했는지, 고객의 문제 제기가 어떤 개선으로 연결됐는지를 확인해야 한다. 이러한 기록은 관리가 업무를 막는지, 더 나은 선택을 돕는지를 보여준다. 조직이 배워야 할 대상도 개별 담당자의 실수를 넘어 판단을 만들어낸 구조로 넓어진다.

    한국 기업의 다음 경쟁은 운영에서 시작된다
    한국 기업에 적용할 때는 디지털 이용 경험의 편리함과 문제 해결 경험을 함께 살펴볼 필요가 있다. 가입과 결제는 몇 번의 선택으로 끝나지만 해지와 정정, 이의 제기는 여러 단계를 거친다면 고객은 서비스의 우선순위를 읽어낸다. 인공지능을 추가하는 과정에서도 이러한 비대칭이 커지지 않는지 검토해야 한다. 편리함은 거래를 시작하는 순간뿐 아니라 관계를 조정하거나 끝내는 순간에도 필요하다.

    조직 내부에서는 기술 부서에만 책임을 모으기 어렵다. 데이터의 이용 목적은 사업 부서가 정하고, 고객 안내는 운영 부서가 만들며, 외부 도구의 조건은 구매와 계약 과정에서 결정된다. 각 부서가 자기 업무만 완료해도 전체 흐름에는 빈틈이 남을 수 있다. 중요한 판단마다 책임자를 분명히 하고, 서로 다른 부서의 결정이 만나는 지점을 확인하는 운영이 필요하다.

    앞으로의 변화를 전망하면 첫째, 기업 간 거래에서 책임 있는 운영을 설명하는 능력의 중요성이 커질 수 있다. 구매 기업이 도입 이후의 부담까지 검토한다면 공급업체는 기능과 가격에 더해 데이터 관리와 문제 대응 방식을 제시해야 한다. 책임에 관한 설명이 제안서의 부록에서 구매 판단의 한 요소로 이동하는 상황을 예상할 수 있다.

    둘째, 품질 관리의 범위가 평균 성능에서 오류의 분포로 넓어질 수 있다. 전체적으로 높은 정확도를 보이더라도 특정 고객이나 복잡한 상황에서 문제가 반복되면 운영상 부담이 집중된다. 셋째, 출시 이후의 변경 관리가 더 중요해질 수 있다. 사용 목적과 연결 데이터가 달라졌는데도 최초 검토만 유지하면 현재의 위험을 놓칠 수 있기 때문이다. 두 변화 모두 한 번의 승인보다 지속적인 관찰을 요구한다.

    넷째, 고객이 조정할 수 있는 선택권이 서비스 차별화의 요소가 될 가능성이 있다. 개인화 수준을 바꾸고, 정보 사용 범위를 확인하고, 중요한 판단의 재검토를 요청할 수 있다면 고객은 서비스를 이용하면서 통제감을 가질 수 있다. 다만 선택지를 늘리는 것만으로 충분하지는 않다. 이해하기 쉬운 구성과 실제로 작동하는 후속 절차가 함께 있어야 한다.

    다섯째, 책임 있는 운영의 성과를 측정하려는 요구가 커질 수 있다. 고객 유지와 재이용, 이의 제기 처리, 오류 재발, 직원의 검토 부담 등을 함께 보면 비용과 편익을 더 구체적으로 논의할 수 있다. 관리 활동이 있다는 사실보다 무엇이 개선됐는지를 보여주는 기업이 자신의 선택을 설득하기 쉬워진다.

    이 전망들은 성장의 보장이라기보다 기업이 검증해야 할 경영 가설에 가깝다. 고객이 어떤 위험을 중요하게 생각하는지, 어떤 설명을 유용하게 받아들이는지, 어떤 선택권을 실제로 사용하는지는 서비스마다 다르다. 책임 있는 운영도 고객 경험과 사업 성과를 관찰하며 조정해야 한다.

    인공지능을 활용하는 기업이 고객에게 건네는 약속은 점점 넓어진다. 더 빠르고 편리하게 돕겠다는 약속에는 정보를 적절하게 다루고, 잘못된 판단을 고치며, 문제가 생겼을 때 응답하겠다는 책임이 따른다. 기술이 만들어낸 편익을 오래 유지하려면 이 약속을 일상의 운영으로 지켜야 한다. 고객이 안심하고 다시 선택할 이유는 그 과정에서 쌓인다.

    Reference
    Wade, Michael, and Jochen Wirtz. "Responsible AI Is Becoming a Growth Strategy." Harvard Business Review, July 21, 2026. Official article summary and HBR Store description.