기업 AI 프로젝트가 데이터 외 다른 문제들로 실패하는 이유 4가지

기업 AI 프로젝트 실패 사례

지난 몇 년 동안, 기업들은 AI 기술을 활용한 프로젝트를 추진하면서 혁신을 시도하고 있습니다. 그러나 성공은 항상 보장되지 않으며, 때로는 실패도 함께 따릅니다. 대표적인 몇 가지 기업 AI 프로젝트의 실패 사례를 살펴보고, 이러한 사례에서 얻을 수 있는 교훈에 대해 알아보겠습니다.

세이비 밀봇: 식재료와 음식 레시피 챗봇

뉴질랜드 슈퍼마켓 체인 파크앤세이브의 ‘세이비 밀봇‘은 식재료 목록을 업로드하면 챗봇이 레시피를 제안하는 AI 챗봇입니다. 하지만 이 프로젝트는 예상치 못한 문제로 실패했습니다. 사용자들은 챗봇을 악용하여 황당한 레시피를 생성했는데, 예를 들어, 챗봇이 ‘표백제를 넣은 서프라이즈 밥’과 같은 위험한 레시피를 제안하거나, 무엇을 만들든 ‘완벽한 무알코올 음료’로 소개하는 등의 문제가 발생했습니다. 물론 이런 레시피를 따라 만든 고객 사례는 없었지만, 파크앤세이브는 이에 대한 업데이트를 반영하여 챗봇을 개선했습니다.

변호사의 가짜 법률 의견서

미국 레비도우 & 오버만 소속 변호사는 챗GPT를 사용하여 변론문을 작성한 후 가짜 인용문과 인용으로 가득 찬 법률 의견서를 제출하면서 로펌 신뢰도를 크게 하락시켰습니다. 이로 인해 판사는 해당 로펌 변호사에게 벌금 5,000달러를 부과하였습니다. 이 사건은 챗GPT와 같은 AI를 통한 법률 문서 작성의 윤리적인 측면을 다시 고민하게 만들었습니다.

과대포장된 생성형 AI 프로젝트

컨설팅 기업 pwc는 생성형 AI 프로젝트의 과대포장과 현실과의 불일치로 인해 기업들이 원하는 결과를 얻지 못하는 상황을 목격하고 있습니다. 생성형 AI는 매우 광범위한 기술이며, 과대포장된 기대와 현실 간의 괴리가 발생할 수 있습니다. 때문에 기업들이 이러한 상황을 피하고 AI 프로젝트를 성공시키려면 아래에서 언급된 4가지 실패 요인을 고려해야 합니다.

1. 거버넌스 부족

거버넌스란 조직이나 시스템 내에서 의사결정을 내리고 행동을 조절하고 지도하는 프로세스와 구조를 의미합니다. 이는 조직이 목표를 달성하고 리스크를 관리하며 규제를 준수하는 데 도움이 되는 중요한 원칙과 방법을 포함하고 있습니다. 거버넌스는 일반적으로 조직의 투명성, 책임성, 공정성, 효율성 등을 촉진하며 조직의 목표와 가치를 실현하기 위한 프레임워크를 제공합니다.

거버넌스는 다양한 영역에서 적용될 수 있으며, 기업 거버넌스, 정보기술(IT) 거버넌스, 정부 거버넌스 등 여러 분야에서 중요한 역할을 합니다. 예를 들어, 기업 거버넌스는 기업의 이사회와 경영진이 회사의 이익과 이해관계자의 이익을 균형있게 고려하고, 회사의 목표를 달성하며, 합법적인 규정을 준수하도록 지도하고 감독하는 프로세스와 구조를 다룹니다.

거버넌스는 특히 현대 비즈니스 환경에서 중요한 이슈 중 하나로 간주되며, 조직이 적절한 거버넌스를 구축하고 유지함으로써 지속 가능성과 성장을 추구할 수 있습니다. 그래서 생성형 AI 프로젝트가 예상대로 진행되지 않을 때는, 거버넌스 또는 관리 감독 부분에서 부족함을 확인해야 합니다. 이러한 문제는 세이비 밀봇과 같은 다른 기업에서도 반복적으로 발생하고 있습니다.

예를 들어, 중견 금융 기업 A와의 협력 경험에서, 상용 AI 도구의 프라이빗 클라우드 인스턴스를 사용하여 생성형 AI를 구현한 경우가 있었습니다. 이 중 A 금융 기관은 외부 사용자가 자체 애플리케이션을 개발하고 API를 활용하여 HR 챗봇을 구축할 수 있게 했습니다. 그러나 HR 챗봇이 복지 프로그램을 잘못 추천하는 일이 발생했습니다. 이로 인해 직원들은 복지 혜택을 놓칠 위험이 있었고, 이를 확인하지 않고 챗봇의 추천을 믿었습니다. 이 사례를 통해 알 수 있는 것은 외부에서 AI를 자유롭게 활용하도록 하는 것이 항상 바람직하지 않다는 점입니다.

이러한 실패를 예방하기 위해서는 체계적인 거버넌스 접근 방식을 통해 AI를 구현해야 합니다. 정확성을 평가하고 편견을 관리하며, 환각을 처리하는 방법이 있으며, 올바른 결정을 내리기 위해 사람의 개입이 필요합니다. A 금융 기업은 피드백을 통해 오류를 조기에 발견하여 직원에게 심각한 영향을 피했지만, 이러한 문제로 인해 경영진의 신뢰를 흔들게 되었습니다.

하지만 AI 프로젝트를 축소하는 것은 해결책이 아닙니다. 과도한 조절으로 인해 경쟁 업체에 뒤처지고 기회를 놓칠 수 있습니다. 실제로 대기업 고위 임원들을 대상으로 한 설문조사에 따르면, AI 또는 ML 애플리케이션 관리 실패로 인한 손실을 경험한 응답자가 많았으며, 이로 인한 손실 규모가 상당히 크다는 사실을 확인할 수 있습니다.

2. 급증하는 비용

생성형 AI 프로젝트는 초기에는 무료 도구를 활용하여 테스트 및 파일럿 프로젝트를 진행하는 경우가 많습니다. 이것은 저렴하고 빠르게 비즈니스 이점을 얻을 수 있는 방법입니다. 그러나 무료 도구만 사용하다 보면 나중에 비용 문제를 겪을 수 있습니다.

파일럿 프로젝트 단계에서는 비용이 상대적으로 적을 수 있지만, 프로젝트를 광범위하게 배포하거나 공식 버전으로 전환할 때 비용이 급증할 수 있습니다. 이는 생성형 AI 프로젝트의 경우 예측이 어려운 부분 중 하나입니다.

기업이 외부 공급업체를 이용하는 경우에도 유사한 문제가 발생할 수 있습니다. 생성형 AI를 대규모로 배포한 기업은 아직 많지 않으므로 비용 예측이 어려운 상황입니다.

비용을 예측하는 데 어려움을 겪는 이유 중 하나는 생성형 AI가 예측할 수 없는 인간의 행동을 모방할 수 있기 때문입니다. 예를 들어, 생성형 AI는 이전 시스템을 기반으로 인간의 행동을 예측할 수 없습니다.

또한, 생성형 AI의 경우 데이터 세트의 크기와 관련된 비용도 고려해야 합니다. 스토리지 및 데이터 호출에 대한 비용이 발생하며, 일부 애플리케이션은 전 세계 여러 곳에 스토리지를 배포하고 백업을 수행해야 할 수도 있습니다.

종합하면, 생성형 AI 프로젝트는 예측하기 어려운 비용과 과도한 비용 발생의 위험이 있습니다. 기업은 이러한 비용을 신중하게 고려하고 관리해야 합니다.

3. 비현실적인 기대치

일부 비즈니스 리더는 생성형 AI에 대한 과대 광고로 인해 이 기술을 마법의 해결책으로 여기는 경향이 있습니다. 그러나 현실적인 기대치를 갖지 않는다면 AI 프로젝트는 실패로 이어질 수 있습니다.

예를 들어, 어떤 글로벌 전자제품 제조 및 유통업체는 생성형 AI를 사용하여 고객을 위한 가격 정보 문서를 자동으로 작성하려고 시도했습니다. 그러나 이 프로젝트는 비현실적인 기대치로 인해 어려움을 겪었습니다.

이 회사는 생성형 AI가 과거 데이터를 기반으로 새로운 고객 요청에 대한 가격 정보 문서를 생성할 것으로 기대했지만, 프로젝트를 시작하자마자 AI가 예상대로 작동하지 않았고, 현실적인 비즈니스 가치를 실현하기 위한 어려움에 직면했습니다.

이와 같은 비현실적인 기대치는 기업에 실망과 실패를 가져올 수 있으며, AI 기술에 대한 환멸을 유발할 수 있습니다. 생성형 AI는 강력한 도구이지만 그것이 모든 문제를 해결할 수 있는 마법의 해결책은 아닙니다. 이를 이해하고 현실적인 기대치를 갖는 것이 중요합니다.

AI 프로젝트 성공을 위한 전략

미래를 예측하고 비즈니스 로직을 효과적으로 처리하려면 고급 분석과 기계 학습(ML) 모델의 적용이 필요합니다. 또한 비즈니스 로직을 효율적으로 처리하고 여러 부분을 하나로 통합하는 것이 중요합니다. 프로젝트의 명확한 내용과 포함할 서비스를 구체적으로 명시하는 것도 매우 중요합니다.

아몰 아즈가온카르 CTO는 단순한 수학적 계산을 위해 생성형 AI를 사용하는 것보다 AI를 기반으로 한 계산을 플러그인으로 작성하는 것이 더 효과적이지 않을까 고민했습니다. 그러나 그는 기업에서 계산을 위해 생성형 AI에 의존하지는 않는다는 것을 강조했습니다.

최종 제안서를 작성하는 방법에 대해 설명할 때, 일부 섹션은 변경되어서는 안 되며 법률적으로 정확해야 합니다. 아즈가온카르는 이러한 섹션을 법무팀에서 작성하고, AI를 사용하여 제안서의 요약을 생성하는 방법을 제안합니다. 이렇게 하면 작업 시간을 크게 단축할 수 있습니다.

아몰 아즈가온카르에 따르면, 교육과 지속적인 노력이 필요하지만, 비즈니스 프로세스를 개선하는 데 AI를 효과적으로 활용할 수 있습니다. 또한, AI에게 명령을 내릴 때 지시 사항을 간단하고 명확하게 작성해야 합니다. 그는 AI를 다룰 때 지시를 반복적이고, 명확하게 해야한다고 조언합니다.

응답의 품질을 개선하기 위한 방법 중 하나로 ‘생각의 나무‘를 사용할 수 있지만, 이를 위해서는 여러 번의 프롬프트 입력이 필요합니다. 그러나 이러한 작업은 비용과 시간이 소요될 수 있으므로 균형을 잡는 것이 중요합니다.

아즈가온카르는 비용을 고려하고, 모든 요청에 대해 사고의 생각의 나무 방식을 사용하고 설명을 요청하는 것이 항상 필요하지는 않다고 강조했습니다. 프롬프트를 조절하여 원하는 결과를 얻는 데 필요한 최소한의 작업만 수행하는 것이 중요합니다.

4. 데이터 문제

AI 프로젝트에서의 실패는 종종 데이터에 기인합니다. 기술의 실패가 아니라 사람들이 기술로 어떤 것을 기대하느냐에 따라 문제가 발생할 수 있습니다. 데이터 문제는 AI 프로젝트를 흔히 좌절시키는 주요 요인 중 하나입니다.

예를 들어, 대형 칩 제조 회사 C사는 AI를 사용하여 공급망 관리 문제를 해결하려고 했습니다. C사는 AI가 모든 일을 한 번에 처리할 것으로 기대했지만, AI 프로젝트에서는 첫 번째 시도에서 모든 것이 완벽하게 해결되지 않을 가능성이 높습니다. 때문에 기업은 이러한 장애물을 만날 때마다 프로젝트를 포기하는 경향이 있습니다.

뿐만 아니라 C사는 데이터의 부족도 겪었습니다. AI를 학습시키기 위해서는 대량의 깨끗한 데이터가 필요하지만, 이를 수집하기가 어려운 경우도 있습니다. 데이터의 형식이 처리하기 어려운 경우도 있습니다.

데이터 문제를 해결하기 위해서는 데이터 수집, 정제 및 구조화에 대한 효율적인 전략이 필요합니다. 이러한 작업은 복잡할 수 있지만, 데이터가 AI 프로젝트의 핵심입니다. 따라서 데이터 문제를 극복하지 못하면 프로젝트가 실패할 가능성이 높습니다.

데이터 문제는 AI 프로젝트에서 일반적인 과제 중 하나로, AIIA 설문조사에 따르면 생성형 AI를 배포하는 기업의 84%에게 중요한 과제로 꼽혔습니다. 실제로 PwC의 그린스타인은 한 소비재 기업 D와의 협력 경험을 통해 데이터 문제의 중요성을 강조했습니다.

그린스타인은 D사가 AI 서비스를 구축하고 클라우드 인프라를 갖추고 직원들을 준비한 상태였지만, 데이터에 접근하는 것이 어려웠다고 설명했습니다. 일부 데이터에는 D사에 없는 API 라이선스가 필요했고, 라이선스를 얻기 위해서는 번거로운 조달 프로세스를 거쳐야 했습니다.

또한, 각 시스템마다 데이터 액세스 제어 수준이 다르게 설정되어 있어 AI 프로젝트를 위해 이러한 모든 것을 조정해야 했고, 이 작업은 빠르게 처리할 수 없었습니다.

이로 인해 기업은 몇 달 동안 데이터 문제를 해결하는 데 시간을 낭비했으며, 이로 인해 생산성이 떨어지고 직원들의 열정이 사그라들었습니다. 그린스타인은 이러한 상황에서 기업은 AI 사용 사례를 선정할 때 영향력, 위험, 데이터 이 세 가지 기준을 고려해야 한다고 강조했는데, 데이터가 사용 가능하고 접근 가능하며 유용한지 여부를 검토하는 것이 중요하며, 이러한 질문에 답할 수 없는 경우 다른 사용 사례를 찾아야 한다고 조언했습니다.

마치며

AI 프로젝트의 성공을 위해서는 현실적인 기대치, 명확한 비즈니스 로직, 그리고 데이터 문제의 대응이 중요합니다. 비현실적인 기대치로 인해 프로젝트가 좌절하거나 실망할 수 있습니다. AI의 능력과 한계를 명확하게 이해하고, 작은 단계로 프로젝트를 분할하여 접근하는 것이 해결책일 수 있습니다. 또한, 어떤 서비스를 포함할지 명시하고 데이터 문제를 사전에 고려하는 것이 중요합니다.

데이터 문제는 AI 프로젝트를 위협하는 주요 과제 중 하나입니다. 데이터의 접근성, 깨끗함, 유용성을 고려하지 않으면 프로젝트가 낭비되거나 성과를 얻을 수 없을 수 있습니다. 데이터 문제를 해결하기 위해서는 데이터의 가용성과 품질을 사전에 평가하고, 필요한 데이터를 확보할 수 있는지를 확인해야 합니다.

마지막으로, AI 프로젝트를 시작하기 전에 영향력, 위험, 데이터 이 세 가지 기준을 고려하여 사용 사례를 선정해야 합니다. 데이터 문제가 해결되지 않는 경우, 다른 사용 사례를 찾는 것이 더 나은 선택일 수 있습니다.

결론적으로, AI 프로젝트의 성공을 위해서는 현실적인 기대치 설정, 비즈니스 로직의 명확한 정의, 데이터 문제의 사전 대응이 필요합니다. 이러한 요소들을 고려하고 조심스럽게 접근한다면, AI를 효과적으로 활용하여 비즈니스 성과를 얻을 수 있을 것입니다.