인공지능이 아직 초기 단계이며, 이에 대한 과대 광고가 넘쳐나고 있다는 점에서 IT 리더는 중요한 결정을 내리기 전에 많은 과제를 고려해야 한다. 이번 주 가트너 IT 심포지엄/엑스포의 애널리스트들은 AI가 기업 IT 시스템과 팀에 미치는 영향에 대해 많은 시간을 할애했다.
오프닝 기조연설은 다음과 같은 질문으로 시작됐다. “인공지능의 세계는 흥미진진하지만 종종 버겁게 보인다. 혁신의 속도를 따라잡는 것이 불가능해 보일 수 있다. 하지만 그럴 필요가 없다면 어떨까?”
가트너의 수석 애널리스트이자 펠로우인 헝 르홍은 “AI 성과 경쟁에서 CIO는 페이스, 즉 속도를 설정할 수 있다. 아직 AI로 재편되지 않은 산업이고 AI에 대한 야망이 크지 않다면 신중한 속도로 나아갈 수 있다. ‘AI 스테디 페이스’(AI-steady tempo)라고 할 수 있다. 반면 큰 AI 야망을 가지고 있거나 AI로 재창조되고 있는 산업에 속한 조직이라면 페이스가 더 빠를 것이다. ‘AI 가속 페이스(AI-accelerated tempo)다. 둘 중 어느 페이스에 있든 가치와 성과를 제공해야 한다”라고 말했다.
이 전제를 바탕으로 가트너 애널리스트들은 심포지엄에서 AI에 대한 다양한 견해를 제시했다. 13가지 흥미로운 아이디어를 소개한다:
• 가트너의 수석 부사장 애널리스트인 존 데이비드 러브록은 “현재 생성형 AI(GenAI)에 대한 지출은 주로 공급 인프라를 구축하는 기술 회사를 통해 이뤄지고 있다. CIO들은 2025년부터 개념 증명 작업을 넘어 생성형 AI에 지출하기 시작할 것이다. 더 많은 비용이 지출되겠지만 생성형 AI 역량에 대한 CIO의 기대치는 오히려 낮아질 것이다. 생성형 AI 모델의 현재 역량과 기업의 데이터 상태는 오늘날의 높은 기대치를 충족시키지 못할 것”이라고 말했다.
• 러브록은 “클라우드 및 아웃소싱 공급업체가 데이터센터 시스템 분야에 미친 영향을 생성형 AI가 쉽게 넘어설 것이다. 클라우드 및 아웃소싱 공급업체가 서버에 대한 지출을 연간 670억 달러까지 끌어올리는 데에는 20년이 걸렸다. 생성형 AI의 관련 수요에 힘입어 서버 매출은 2023년부터 2028년까지 3배 가까이 증가할 것”이라고 말했다.
• 곳곳으로 확산함에 따라 AI와 데이터는 더 이상 IT 부서가 직접 통제하는 중앙집중식 자산이 아니다. 300명 이상의 CIO를 대상으로 한 가트너 설문조사에 따르면 IT 팀에서 구축하는 AI 역량은 평균적으로 35percent에 그쳤다. 이는 데이터 액세스를 관리 및 보호하고 AI 입출력을 관리하며 AI 가치를 안전하게 전달하기 위해서는 새로운 접근 방식이 필요하다는 것을 의미한다.
• 미국, 영국, 인도, 호주, 중국의 디지털 작업자 5,000여 명을 대상으로 실시한 2024년 2분기 가트너 설문조사에 따르면 응답자들은 생성형 AI를 사용하여 주당 평균 3.6시간을 절약했다고 답했다. 하지만 모든 직원이 생성형 AI를 사용함으로써 동일한 수준의 이점을 얻는 것은 아니다. 르홍은 “생성형 AI를 통한 생산성 향상은 균등하게 분배되지 않는다. 개인의 관심도와 도입 수준뿐만 아니라 업무의 복잡성과 경험 수준에 따라 직원마다 이득이 달라진다”라고 말했다.
• 2024년 6월과 7월에 300명 이상의 CIO를 대상으로 실시한 가트너 설문조사에 따르면, 관리 비용으로 인해 AI를 통해 가치를 창출하는데 한계가 있다고 답한 비율이 90percent를 넘어섰다. 실제로 가트너는 비용이 보안, 환각만큼이나 큰 AI 리스크라고 바라본다. 자칫하면 생성형 AI 비용 비용 계산에서 500%~1,000percent에 이르는 오류를 범할 수 있다고 가트너는 추정했다.
• 일부 직원은 AI에 대해 강한 친밀감을 느낄 수 있다. 위협을 느끼거나 분노를 느끼는 직원도 있을 수 있다. 그리고 AI에 대한 이러한 격렬한 반응은 AI를 사용하는 직원에 대한 질투, AI 도구에 대한 과도한 의존 등 부정적이거나 의도하지 않은 행동이나 결과를 초래할 수 있다.
• 이러한 행동이나 결과를 적극적으로 관리하는 조직은 거의 없다. 6~7월에 실시된 가트너 설문조사에서 생성형 AI가 직원 복지에 미칠 수 있는 잠재적인 부정적인 영향을 완화하는 데 집중하고 있다고 답한 CIO는 20percent에 그쳤다. “대부분의 기업은 AI가 직원들의 기분을 어떻게 만드는지 충분히 궁금해하지 않는다. 하지만 AI가 갖가지 의도하지 않은 행동과 결과를 초래할 수 있음을 이해하는 것이 중요하다”라고 가트너의 수석 부사장 애널리스트인 메리 메사글리오는 말했다.
• 직장 내 상호작용과 커뮤니케이션에 대한 감정을 AI로 분석할 수 있다. 전반적인 정서가 바람직한 행동과 일치하도록 피드백함으로써 동기를 부여하고 참여도가 높은 인력을 확보할 수 있다. 2028년까지 대기업의 40percent가 수익성 관리라는 명목 하에 직원의 기분과 행동을 측정하고 통제하기 위해 AI를 도입한다.
• AI를 도입하여 중간 관리직을 없애는 조직은 인건비 절감으로 단기 및 장기적인 복리후생 비용을 절감할 수 있을 것이다. 2026년까지 조직의 20percent가 AI를 사용해 조직 구조를 평준화하며, 이 과정에서 오늘날 중간 관리자 직책의 절반 이상이 사라진다.
• “향후 몇 년 동안 생성형 AI의 발전은 빠른 속도로 이뤄지며, 향후 2~5년 내에 등장하는 도구는 매우 혁신적일 것이다. 챗GPT 등의 가상 비서가 주목받고 있지만 이보다 훨씬 더 많은 활용처와 활용사례가 있다”라고 가트너의 수석 부사장 애널리스트인 아룬 찬드라세카란은 말했다.
• 찬드라세카란은 “LLM과 같이 대규모로 사전 학습된 기반 모델이 생성형 AI 물결의 핵심이다. 이 모델들이 더욱 멀티모달화되도록 진화하고 있다. 대화에도 더욱 능숙해지고 있다. 생성형 AI 도구와 기술의 에코시스템의 성장 덕분에 조직은 생성형 AI 기반 애플리케이션을 더 잘 구축, 관리 및 맞춤화할 수 있게 된다”라고 말했다.
• 찬드라세카란은 “다른 가트너의 하이프 사이클과 비교할 때, 생성형 AI 하이프 사이클은 혁신 촉발 단계와 부풀려진 기대치의 정점 단계의 특성을 모두 가진다. 초기 단계 시장의 특징이기도 하다”라고 말했다.
• “생산성에만 매몰되면 안 된다. AI의 약속을 완전히 실현하기 위해서는 사용 사례와 같은 ‘부가 요소’를 고려해야 한다. AI 학습 곡선은 압축하기 어렵기에 여러 혁신적인 AI 기술을 조합하고 혼합하여 최소 실행 가능한 제품을 개발해야 한다”라고 가트너의 수석 부사장 애널리스트인 에릭 브레테누는 말했다.dl-ciokorea@foundryco.com