필자는 1980년대부터 윈도우를 전문적으로 다뤘다. 윈도우 95 출시 당시 전담 분석가 중 한 명이었고, 윈도우 95 출시 덕분에 영향력 있는 분석가로 이름을 알릴 수 있었으므로, 어떤 면에서는 필자의 커리어에서 윈도우 95에 빚을 졌다고도 할 수 있다.
돌아보면 윈도우의 초기는 절대 순탄하지 않았다. 예를 들어 필자는 회사 CEO의 노트북에 윈도우 95를 설치하다가 노트북이 먹통이 된 적이 있다. 인텔의 한 엔지니어가 인텔 제조 공장의 생산용 시스템에 윈도우 95를 설치했다가 공장 가동이 멈춘 사건도 있었다. 필자와 윈도우 사이의 오랜 관계는 윈도우 95로 그렇게 시작됐다. 다시 현재로 돌아와 이제는 윈도우 11이 최신 업데이트와 함께 본격적으로 도약할 준비가 된 것 같다. 윈도우 11을 전사적으로 배포할 시점이 온 것인지 하나씩 분석했다.
간단히 돌아보는 윈도우의 역사
윈도우 95 시절과 비교하면 현재 마이크로소프트의 새 OS 출시 방식은 재미있기도 하고 조금 슬프기도 하다. 윈도우 95 출시는 마이크로소프트 OS 출시 역사에서 최고이자 최악의 사례다. 마케팅팀이 일을 너무 잘해서 사람들이 구매하기 위해 줄을 길게 늘어섰다는 면에서는 최고였지만(당시에는 OS 업그레이드를 돈을 주고 구매해야 했다), 개발과 지원이 보조를 맞추지 못해 말아먹었다는 면에서는 최악이었다.
당시만 해도 마이크로소프트는 걷잡을 수 없는 PC의 복잡성과 다양성에 대처해야 한다는 것을 인식하지 못했다. 베타에서 릴리스 후보로 전환하면서 바뀐 부분으로 인해 최종 제품은 베타만도 못하게 됐다. 또한 지원을 더 확대해야 하는 상황에서 마이크로소프트는 그 반대로 했다. 사람들은 도움을 받기 위해 전화를 걸었지만 도움 대신 받은 것은 통화 중 신호음이었다. 결국 마케팅팀이 이룬 성과를 도루묵으로 만들었다.
이후 마이크로소프트는 개발 문제를 바로 잡았다. 윈도우 10 출시는 그 이전 OS(윈도우 밀레니엄 에디션, 윈도우 비스타, 윈도우 8)에 비하면 완벽에 가까웠다. 윈도우 11은 초기에 TPM이 없는 일반 소비자용 PC와의 비호환성 문제로 홍역을 치렀고, 기업에 대한 판매 역시 코로나19 봉쇄로 차질을 빚었다.
그러나 엔터프라이즈급 하드웨어를 고수한 기업이 윈도우 11로 전환하면 향상된 보안과 새로운 하드웨어 지원 등 여러 혜택을 누릴 수 있다. 포레스터의 토털 이코노믹 임팩트(Total Economic Impact) 연구 결과를 보면, 윈도우 11이 완전히 배포된 후 측정 가능한 수준의 생산성 향상 효과를 제공한다. 필자는 비용에만 초점을 두지 않고 비용과 혜택을 고르게 살펴본다는 측면에서 포레스터가 사용한 접근 방식이 가트너의 TCO 방식보다 더 낫다고 생각한다.
명확한 이점
윈도우 역사의 대부분에서 개발을 이끈 주체는 사용자가 무엇을 원하는지를 심리적으로 이해했다고 생각했지만 제품을 초기 사양을 설계하는 데 실패했다. 그 결과 약속한 기능이 출시 전에 제거되는 경우가 많았다. 그러나 약 10년 전부터 이런 개발 관행이 바뀌면서 마이크로소프트 인튠과 같은 제품은 실제 고객 요구와 더 단단히 연결됐고 마이크로소프트는 기업 고객의 실제 요구에 더 정확히 대응할 수 있게 됐다.
그에 따라 TPM과 같은 보안 기능의 우선순위가 높아지면서 침해에 대한 OS의 내성이 태생적으로 더 강해졌다. 최신 업데이트에는 마이크로소프트 디펜더 스마트스크린(SmartScreen)과 대기업용 윈도우 디펜더 애플리케이션 제어를 통한 향상된 피싱 차단이 포함된다. 또 다른 새로운 기능인 스마트 앱 제어(Smart App Control)는 직원이 악성 앱을 실행하지 않도록 한다. 윈도우 오토패치(Autopatch)는 기업에서 패치가 중단 없이 설치되도록 보장하는 데 도움이 된다. 또한 마이크로소프트 엔드포인트 매니저(Endpoint Manager)에 포함된 새로운 애플리케이션 및 드라이버 호환성 정보 기능은 악성 또는 버그가 있는 소프트웨어 및 드라이버와 관련된 문제를 줄여준다.
이밖에 업데이트 컴플라이언스(Update Compliance) 기능은 사용자가 정기적으로 소프트웨어를 업데이트해서 악성코드의 침투를 차단할 수 있게 해준다. 이제 IT 부서에서 직원에게 작업 표시줄 위에 조직 메시지(Organizational Messages)를 제공해 즉각적인 조치가 필요한 문제를 알릴 수 있다. 또한 마이크로소프트 스토어 앱이 마이크로소프트 인튠과 통합되므로 직원이 사용하는 앱에 대한 통제력을 높이고 회사 앱 정책을 준수하도록 할 수 있다.
하이브리드 작업 환경 부문도 개선됐다. 줌 또는 팀즈 통화 시 백그라운드 잡음을 줄여주고 향상된 자동 구도 기능을 제공하고 화면에 표시되는 사용자의 눈 모양을 조정해 항상 다른 사람들을 보고 있는 것처럼 만들어주는 윈도우 스튜디오 이펙트(Windows Studio Effects)가 적용된다. 화상 회의에는 라이브 캡션(Live Caption) 기능이 오디오 콘텐츠를 자동으로 텍스트로 받아써서 발표 내용에 대한 이해를 돕는다. 이와 관련된 더 새로운 내용은 가상 행사로 열리는 다음번 마이크로소프트 이그나이트 이벤트에서 공개된다. 데스크톱에 관심이 있다면 올해 이그나이트에는 반드시 참석하는 것이 좋다.
바뀌는 마이크로소프트의 초점
과거 윈도우 95와 같은 제품 출시를 이끈 힘은 시장의 요구보다는 수익 창출의 필요성이었다. 시대가 바뀌었다. 수익 동기는 줄어들었고(수익과 업그레이드 간의 연결 고리가 과거에 비해 약해짐) 업그레이드는 주로 보안, 생산성, 관리의 용이함에 초점을 둔다. 이는 업그레이드의 비일관성이 줄어드는 결과로 이어진다. 포레스터 연구에서 볼 수 있듯이 거의 필연적인 침해에 비하면 단기적인 직원의 업무 중단(이것도 줄어들었음)이 더 낫고 혜택이 제공하는 가치가 비용 대비 확실히 높기 때문이다.
정리하면 이제 윈도우 11을 전사적으로 배포해야 할 시점일 수도 있다. 다만 윈도우 11이 제공하는 혜택은 새로운 기능과 긴밀하게 연계된다는 점에 유의해야 한다. 효과를 얻기 위해서는 얼마간의 교육, 그리고 기존 IT 정책과의 통합이 필요하다. 후자를 할 수 없다면 전자를 기다리는 편이 합리적일 수 있다. 또한 윈도우 11이 약속하는 이점을 최대한 활용하려면 마이크로소프트 인튠과 같은 툴을 구현해야 한다.
개인적으로는 윈도우 11을 출시 직후부터 사용하고 있다. 바뀐 부분에 적용하는 데 며칠이 걸리긴 했지만 이제는 오히려 윈도우 10 시스템을 사용하는 것이 불편하다. 윈도우 11의 가장 큰 매력은 향상된 보안이다. 보안에 초점을 둔 모든 업그레이드가 그렇듯 업그레이드를 미루면 누구도 원하지 않는 대규모 침해 위험에 직면하게 된다.
editor@itworld.co.kr
Sponsored
ⓒ Getty Images Bank 기업은 AI 프로젝트를 운영할 때 목표했던 성과를 도출하기 위해 전력을 다한다. 하지만 노력에 비해 프로덕션에서 운영하는 케이스가 적거나 제대로 된 성과를 얻지 못할 때가 있다. 이렇게 되면 ROI 측면에서 손해는 매우 커진다. 컴퓨팅 자원, 인력, 시간 등 소중한 기업 자산은 낭비되고, 개발 환경을 구축해 모델을 구현하고, 훈련용 자원과 데이터를 확보하는 데 들어간 리소스는 의미가 없어진다. 그렇다면 AI 프로젝트가 성공적인 프로덕션 수준으로 이어지고 비즈니스 성과를 제대로 만들려면 무엇을 개선해야 할까? 이 질문에 대한 답은 ‘AI 매니지드 서비스와 플랫폼’에서 찾을 수 있다. ‘AI 매니지드 서비스’란 무엇인가 클라우드 매니지드 서비스(Cloud Managed Service)는 들어봤어도, AI 매니지드 서비스(AI Managed Service)는 생소한 사용자가 꽤 있을 것이다. 클라우드 매니지드 서비스는 전통적인 온프레미스 시스템을 클라우드로 이전하면서 겪는 어려움을 해결하기 위해 등장했다. 클라우드 수요가 늘다 보니 이를 관리하는 전문 기술이 클라우드 매니지드 서비스 형태로 나타난 셈이다. ‘사례로 살펴보는 AI 역량 내재화가 어려운 이유’ 기사에서 소개한 것처럼 기업의 AI 도입 과정은 클라우드 도입 과정과는 또 다른 방면으로 복잡하고 어렵다. 다시 말해 AI를 도입하기 위해서는 다음과 같은 요소를 세심하게 따져봐야 한다. 기업 내 어느 비즈니스 영역에 AI를 도입할 예정인가 도입했을 때 비즈니스 효과를 제대로 얻을 수 있는가 선정한 과제를 어떤 서비스 형태로 기획할 것인가 서비스를 구현할 때 필요한 최적의 AI 기술과 솔루션은 무엇인가 AI 학습을 위한 데이터는 어떻게 준비할 것인가 기존 내부 시스템(레거시)과 어떻게 연계할 것인가 정해진 시간 내에 빠르게 구축할 수 있는가 안정적으로 서비스를 오픈하고 운영까지 진행할 수 있는가 기업을 대신해 위와 같은 요소를 처음부터 끝까지(End-to-End) 알아서 처리해주는 것이 바로 ‘AI 매니지드 서비스’다. 모든 요소를 대신해줄 뿐만 아니라, 특정 요소에 대해서만 도움을 받을 수도 있다. 따라서 기업은 모든 AI 역량을 내재화할 필요 없이 다양한 경험과 전문성을 지닌 AI 매니지드 서비스 전문 업체와 파트너십을 맺으면서, 원하는 결과를 보다 효율적으로 도출할 수 있다. AI를 도입하다 보면, 과제 선정이 완료된 후 학습 데이터를 준비하고, 서비스를 구현 및 운영하는 영역까지 모두 유기적으로 연결되어야 한다는 것을 알 수 있다. 따라서 AI 매니지드 서비스도 그런 광범위한 기술 영역을 수용하는 플랫폼이 있어야 한다. 솔루션이나 시스템별로 서비스가 따로 지원된다면 진정한 AI 매니지드 서비스라고 볼 수 없다. 성공적인 AI 도입을 위한 필수 요소, AI 매니지드 서비스 ‘플랫폼’ AI 매니지드 서비스 플랫폼을 이용하면, 데이터 과학자, 모델러, 아키텍트, 개발자 등 AI 프로젝트를 진행하는 데 필요한 인력을 최소로 유지하면서, 서비스를 구축하고 안정적인 운영을 지속할 수 있다. 코그넷나인(Cognet9)은 수년간 다양한 AI 프로젝트로 쌓은 경험과 전문성을 바탕으로 AI 매니지드 서비스를 제공하고 있다. 2022년 4월에는 AI 매니지드 서비스 플랫폼인 ‘플러그넷(Plugnet)’을 출시했다. AI 도입 과정은 크게 1) AI 도입 과제 선정 및 타당성 입증, 2) 서비스 설계 및 학습 데이터 준비 및 관리, 3) AI 서비스 구현(애플리케이션 개발), 4) AI 운영 관리 등 총 4단계로 정의할 수 있다. 도입 과제 선정과 타당성 입증은 별도의 비즈니스 가치 평가(Business Value Assessment) 방법론에 따라 진행하고, 서비스 설계와 운영 관리 단계는 관련 툴이나 솔루션을 사용한다. 그럼 서비스 설계 단계부터 살펴보자. 서비스 설계를 위해 AI 아키텍트는 서비스에 필요한 유스 케이스별 아키텍처를 수립한다. 이를 위해 유사한 아키텍처를 참조하고 분석해 새로운 아키텍처를 수립하고 세부 사항을 설계한다. 이런 과정은 서비스 구현의 근간이 되기 때문에 설계 후 사전 검증까지 완료하는 데 시간이 오래 걸린다. 실제 현장에서는 경험과 전문성을 갖춘 아키텍트가 부족하기 때문에 대부분이 외부 전문가의 도움을 받는다. 플러그넷은 AI 마켓플레이스를 통해 사전에 검증되고 정의된 다양한 AI 서비스 아키텍처를 제공한다. 이를 활용하면 새롭게 구축할 서비스를 위한 아키텍처를 빠르고 간편하게 수립할 수 있을 뿐만 아니라 공통 업무 분야에서 재사용이 가능해 동일한 작업을 여러 팀에서 각각 따로 할 필요가 없어진다. 코그넷나인의 AI 매니지드 서비스 플랫폼 구조 ⓒ 코그넷나인 설계가 끝났다면 학습 데이터를 준비하고 관리해야 한다. AI에 필요한 데이터는 레거시 시스템, 데이터 레이크, 외부 데이터 등 다양한 원천에서 수집되고 학습 가능한 형태로 가공된다. 동시에 지속적으로 공급돼야 한다. 이런 작업은 워낙 복잡하고 손이 많이 가다 보니, 자칫 효율성이 떨어진다는 문제에 직면할 수 있다. 지속 가능한 방식으로 학습 데이터를 처리하고 자동 공급(feeding)하려면 파이프라인이 필요한데, 이를 위한 플랫폼이 없다면 같은 작업을 매번 반복해야 한다. 플러그넷은 데이터 관리 체계를 지원한다. 다시 말해 데이터 수집, 정제, 가공(라벨링)에 걸친 학습 데이터셋 구축 과정을 전담 데이터 팀 없이 플러그넷으로 관리할 수 있다. 특히 서비스 성능을 유지하고 개선하려면 학습 데이터를 지속적으로 제공받는 것이 필요한데, 플러그넷은 ‘AI 학습 데이터 피더(Feeder)’라는 기능으로 준비된 학습 데이터를 지속적으로 제공한다. 또한, 프로젝트 단위가 아니라 전사에서 추진하는 모든 AI 프로젝트가 단일 플랫폼을 이용하여 데이터 수집, 가공, 분석, 활용을 할 수 있게 도와준다. 서비스 구현 과정의 경우 최적의 AI 기술과 솔루션을 찾는 것이 중요하다. AI 매니지드 서비스가 없다면 기업은 직접 기술을 테스트하고 비교하면서 최적의 AI 기술과 솔루션 조합을 선택해야 한다. 또한 서비스를 위해 필요한 AI 모델을 개발하고 학습시켜 배포해야 한다. 배포 후에는 지속적인 반복 학습을 통해 최적화하면서 서비스 성능을 유지하고 개선하는 과정이 필요하다. 프로젝트가 많은 경우 모델과 서비스를 배포하고 형상 관리를 하면서 다양한 도구를 사용하는데, 그 과정에서 관리가 복잡하고 어려워지곤 한다. 플러그넷은 최적의 AI 기술과 솔루션 조합 선정을 위해 표준 어댑터를 제공한다. 기업은 표준 AI 커넥터와 표준 레거시 커넥터를 활용하면서 다양한 AI 기술과 솔루션을 기존 레거시와 연계하여 테스트하고 비교하며, 궁극적으로 최상의 기술 조합을(Best of Breed) 선택할 수 있다. 서비스 배포 후 최신 AI 기술을 적용할 때에도 표준 어댑터를 통해 서비스 애플리케이션의 재개발 없이 손쉽게 기술을 관리할 수 있다. 서비스에 필요한 AI 모델 또한 플랫폼을 통해 직접 서비스와 함께 배포하고 형상 관리를 할 수 있다. 마지막으로 서비스 운영 및 관리 단계를 보자. 보통 부서별로 배포한 모델과 서비스는 담당 부서가 개별적으로 모니터링하고 관리하는 것이 일반적이다. 이런 경우 관리가 복잡하고 어려울 뿐만 아니라 공통적으로 사용 가능한 부분을 따로 이용하면서 비용이 낭비된다. 플러그넷은 관리 화면을 제공하기에 다양한 AI 서비스를 통합 모니터링하고 측정할 수 있다. 현재 사용 중인 다양한 AI 기술, 솔루션, 서비스를 일괄 관리할 수 있는 셈이다. 거기다 중복 비용을 제거해 비용 절감도 가능하다. 핵심 목표에 집중하도록 도와주다 지금까지 살펴본 바와 같이 AI 매니지드 서비스 플랫폼은 AI 도입을 위해 활용하는 여러 오픈 소스 도구와 AI 개발 및 운영 솔루션을 하나의 플랫폼에서 제공한다. 마치 AI 도입을 위한 ‘맥가이버 만능칼’ 같은 역할을 하는 것이다. 서비스 아키텍처 설계, 데이터 플랫폼 기반의 학습 데이터 파이프라인 운영, 개발 환경 구축 및 관리, 그리고 서비스의 안정적 운영과 지속적인 개선 등의 모든 과정은 최소한의 전문 인력과 AI 매니지드 서비스 플랫폼에 맡겨진다. 따라서 기업은 AI 도입에 필요한 인력과 시스템을 갖추기 위해 드는 노력을 줄이고, AI 도입을 왜 하는지, 무엇을 위해 하는지, 비즈니스 목표는 무엇인지, 타당성은 있는지 등에 보다 집중할 수 있다. AI 매니지드 서비스 플랫폼은 AI 도입 후 최신 AI 기술과 솔루션을 추가로 적용하려 할 때도 매우 유용하다. 대대적인 시스템이나 애플리케이션 개편 없이 플랫폼에서 제공하는 AI 표준 어댑터로 손쉽게 교체가 가능하기 때문이다. AI 기술 수준을 최신으로 유지하려면 개발부터 시스템 고도화까지 복잡하고 어려운 과정을 겪는데, AI 매니지드 서비스 플랫폼은 그 안에서 소요되는 시간과 비용을 줄여준다. 규모와 산업에 관계없이 앞으로 기업은 AI를 보다 활발하게 도입할 가능성이 크다. 반면 여전히 시장에서 AI 전문 인력은 그 수요를 충족하기에 턱없이 부족한 상황이다. 설령 지금부터 전문 인력을 양성한다 해도 현업에서 그 역량을 발휘하게 되기까지 많은 시간이 걸린다. 시장에서 살아남기 위해 기업은 마냥 기다릴 수 없다. AI 도입을 통해 시장 경쟁력을 확보하고 성장 동력을 지속적으로 가져가고자 하는 기업에게 AI 매니지드 서비스와 AI 매니지드 서비스 플랫폼은 우선 선택사항이 될 것이다.
ⓒ Getty Images Bank 최근 많은 기업이 경쟁이라도 하듯이 인공지능(AI) 이니셔티브를 발표하고 있다. 디지털 전환의 핵심을 AI로 보고, 새로운 비즈니스 기회를 만들고 고객 경험을 높이는데 AI를 활용하는 것이다. 물론 이렇게 전사적으로 AI를 앞세우는 것을 보고 우려를 표하는 이들도 있다. 왜 그럴까? AI 프로젝트는 단순히 전략을 마련하고 투자를 강화한다고 성공하는 영역이 아니기 때문이다. 특히 업계 전문가들은 ‘AI 프로젝트 중 상당수가 연구 단계를 넘어 프로덕션 수준까지 이어지지 못한다’라는 점을 가장 큰 문제로 지적한다. AI 프로젝트 대부분이 실패하는 이유는 현장을 보면 알 수 있다. 사람, 프로세스, 기술이라는 문제 AI 프로젝트가 원활하게 진행되려면 사람, 프로세스, 기술에 대한 경험, 인프라 및 플랫폼이 필요하다. 이 중 어느 한 요소라도 빠지면 안 되며, 모든 요소가 조화를 이루어야 한다. 문제는 사람, 프로세스, 기술은 의지와 예산이 있다고 바로 내재화할 수 있는 역량이 아니란 점이다. 먼저 사람 즉, 전문 인력부터 살펴보자. AI 프로젝트를 시작하려면 기업은 내부에 AI 전문가가 얼마나 있는지 확인해야 한다. 가령 GPU 클러스터 및 고속 병렬 파일시스템 기반 스토리지를 구축해 운영할 수 있는 인프라 담당자가 있는가? AI 및 머신러닝 모델 훈련과 추론을 위해 데이터 파이프라인을 구축하고 지원할 데이터 전문가가 있는가? 모델을 개발하고 최적화하여 애플리케이션에 적용할 개발자가 충분히 있는가? 이런 요소를 따지다 보면 기업은 필요한 인력 대부분을 새로 충원해야 한다는 것을 깨닫는다. 그렇다고 인력 없이 바로 AI 프로젝트를 진행할 수는 없다. 경험이 풍부한 전문가가 없다면, 다음과 같은 문제를 마주칠 것이다. “A 기업은 자연스러운 인공지능 챗봇을 구현하기 위해 자연어 처리(NLP)를 담당하는 AI 팀을 구성하고 자체적으로 AI 엔진을 구축했다. 이후 실제 비즈니스 환경에 엔진을 적용하려고 보니 참조 아키텍처와 운영환경 등을 갖추는 것이 필요했다. 하지만 AI 팀이 자체적으로 아키텍처를 구현하고 운영 환경을 만들어 가는 것은 현실적으로 어려웠다. 해당 분야의 내부 전문가가 부재했기 때문이다. 상용화 제품을 만들어 주는 AI 솔루션 업체와 협력을 할까 고민했지만 그렇게 하면 기존에 만든 엔진은 쓸 수 없었다. 거기다 비용을 들여 솔루션을 구매해야 한다는 점도 큰 문제였다. A 기업은 자체 구축한 AI 엔진을 활용해 서비스를 만들고 운영할 방안이 절실했다.” 이번에는 프로세스를 알아보자. 프로세스는 비즈니스와 의사결정 및 협업, 이 두 가지로 나누어 살펴볼 수 있다. 기업의 AI 이니셔티브가 성공하려면, 기존 비즈니스 로직과 먼저 결합돼야 한다. 즉, 기업의 비즈니스 프로세스 그리고 해당 프로세스에 맞춰 흐르는 데이터를 AI와 연결 지어야 한다. 흔히 AI 프로젝트 계획을 수립할 때, 데이터 세트가 충분하다고 생각하지만 막상 뚜껑을 열어 보면 AI 모델 훈련과 추론에 필요한 데이터가 턱없이 부족할 때가 많다. 이런 경우 십중팔구 AI 데이터 파이프라인 구축을 위한 내부 시스템이 제대로 연계되어 있지 않다. 의사결정 및 협업 프로세스 문제는 보통 COE(Center of Excellence) 같이 중앙에서 투자와 프로젝트를 관리하는 조직이 없어 생긴다. 일종의 사각지대가 발생한 건데, 이런 경우 중복 투자가 발생해 자원이 낭비되고, 기껏 투자한 AI 시스템이 사일로화되기도 한다. 구체적으로 프로세스상의 문제가 있으면 다음과 같은 상황이 생긴다. “B 기업은 현업 주도하에 AI를 비즈니스에 적용하려 했지만 복잡한 비즈니스 프로세스, 즉 수많은 인터페이스와 다양한 데이터 흐름 때문에 서비스 구축에 어려움을 겪고 있다. 또한 도입 과정에서 살펴보니 이곳저곳 중복되거나 사일로화된 AI 솔루션과 시스템이 상당했다. 현업 부서에서 서로 다른 시스템을 두고 있고, 관리 부서는 제각각이었다. B 기업은 레거시 시스템을 쉽게 연동하는 한편 다양한 AI 서비스, 사용 사례, 데이터 수집 및 가공을 통합하고 관리할 방안을 모색하고 있다.” AI 기술은 비즈니스와 기술 측면에서 각각 생각해 볼 수 있다. 먼저 비즈니스 절차 측면에서 AI 이니셔티브 수립은 IT 부서만 주도한다고 다 되는 것은 아니다. 임원, 실무 담당자, IT 팀까지 모두 힘을 모아야 제대로 된 이니셔티브를 수립할 수 있다. 하지만 다양한 부서가 업무를 협의하고 의견을 취합하는 그런 이상적인 협업 문화를 갖춘 기업은 사실상 많이 없다. 기술 측면에서 기업은 최적의 AI 기술과 솔루션을 선정하고, 다양한 레거시 시스템과 연계할 수 있는 인터페이스를 개발해야 한다. 또한 실제 서비스 애플리케이션을 구현하고 최적화도 해야 한다. 따라서 다양한 AI 기술, 데이터 통합 관리 기술, 쿠버네티스, ML옵스(MLOps) 등을 다룰 수 있는 능력이 필요하다. 기업 IT 팀 상당수에게 이런 기술은 낯설고 어려운 주제다. 그런 면에서 AI는 새로운 도전 분야다. 인프라, 언어, 프레임워크, 라이브러리, 개발 환경까지 이전과는 다르게 기술을 다룬다. 거기에 기술 발전 속도까지 빠르다. 가령 AI는 관리부터 개발에 이르기까지 오픈 소스 중심으로 혁신이 이뤄진다. 운영자가 ML옵스 플랫폼을 직접 구축하려면 다양한 오픈 소스 기술을 활용해야 한다. 개발 영역 또한 프레임워크, 라이브러리, 도구 등 오픈 소스를 잘 알아야 한다. 오픈 소스 기술 비중이 높으면 그 변화의 속도를 따라가는 데 피로감을 느끼기 쉽다. 상용 솔루션 역시 빠르게 발전하기에 막상 도입 검토, 구현, 안정화를 하고 나면 새로운 기술 트렌드가 나와 있다. 그런 경우, 힘들게 구축한 기술이 어느새 낡은 시스템이 되어 버린다. “C 기업은 데이터 분석 기반 QA 모니터링을 하기 위해 Bi-LSTM(Bidirectional Long Short Term Memory)을 활용한 STT(Speech-to-Text) 솔루션을 도입했다. 문제는 솔루션을 구매해 서비스를 구축한 이후 발생했다. 해당 솔루션을 도입한 지 불과 2년 만에 엔드투엔드 방식의 새로운 STT 솔루션이 출시됐고, 이전 STT 솔루션보다 인식률이 훨씬 더 높아진 것이다. C 기업은 더 좋은 성능의 솔루션으로 교체하고 싶지만, 비용이 부담되는 것은 물론, 이미 기존 솔루션으로 구축된 시스템을 버리고, 새롭게 처음부터 개발하는 부분 때문에 이러지도 저러지도 못하는 상황이다.” 멀고도 먼 내재화의 길 앞서 소개한 사례처럼 AI 이니셔티브를 성공적으로 운영하는 것은 매우 어렵다. 내재화를 고집하면 할수록 성공에서 더 멀어질 수 있다. 즉 내재화를 하다 보면 다음과 같은 요소에 모두 대응해야 한다. AI 역량 내재화 과정에서 고려하는 사항. ⓒ 코그넷나인 그렇다면 어떻게 해야 계획 또는 이미 진행 중인 AI 프로젝트를 프로덕션 수준으로 구현할 수 있을까? 바로 ‘핵심 목표’에 집중해야 한다. 기업은 AI 기술 전문 조직이 아니다. 기업이 집중해야 하는 핵심 목표는 ‘비즈니스 성과를 내기 위해 AI 기술을 어디에 도입할지 결정하고, 도입 후 성과를 낼 수 있을지 그 타당성을 확인하고, 구체적인 AI 서비스를 기획하고 구현하는 것’이다. 핵심 목표와 기술 내재화를 모두 성취할 수 있다면 좋겠지만, 그러기엔 너무 큰 비용, 시간, 노력이 필요하다. 핵심 목표에 우선순위를 두면 프로젝트를 보다 효율적으로 운영할 수 있다. 그리고 내재화는 중장기 과제로 가져가야 한다. 핵심 목표에 집중하기 위해 내재화 외에 당장 선택할 수 있는 대안이 있을까? 다행히 있다. 바로 ‘AI 매니지드 서비스와 플랫폼’이다. 성공적인 AI 도입을 위한 ‘AI 매니지드 서비스, 그리고 플랫폼’ 기사를 통해 AI 매니지드 서비스와 플랫폼의 의미와 특징을 확인해보자.