if(kakao)26에서 확인한 AI의 변화, 조직은 무엇을 준비해야 할까?

if(kakao)26에서 확인한 AI의 변화, 조직은 무엇을 준비해야 할까?

안내: 이 글은 if(kakao)26 현장에서 확인한 기술적 변화와 개인적인 업무 경험을 바탕으로 정리했습니다. 특히 후반부의 조직 준비 방향은 카카오페이의 공식 전략이나 확정된 추진 계획이 아닌, 기술문화와 AX 활동(AI Transformation, 업무 전반에 AI를 도입해 일하는 방식을 바꾸는 활동)을 경험하며 생각한 개인적인 의견입니다.

시작하며

안녕하세요, 카카오페이에서 사내 기술문화를 담당하고 있는 댄입니다.

지난 10월 13일부터 14일까지 카카오 AI 캠퍼스에서 열린 if(kakao)26에 다녀왔습니다.

올해 행사는 AI 기술의 가능성을 소개하는 데 그치지 않고, 실제 서비스와 업무 환경에 AI를 어떻게 적용하고 운영할 것인지에 대한 고민이 한층 구체적으로 드러난 자리였습니다.

개인적으로 가장 인상 깊었던 장면은 둘째 날 키노트가 진행된 그로잉 홀에서 열린 애프터 세션이었습니다. 발표가 끝난 뒤 발표자와 참여자들이 넓은 공간에 함께 모여 기술 질문과 의견을 나누는 모습이 무척 뜻깊게 다가왔습니다. 많은 사람이 한자리에 모여 발표 내용을 이어서 이야기하고 서로 교류하는 모습을 보면서, 기술을 공유하고 함께 고민하는 현장의 열기를 실감할 수 있었습니다.

이번 행사에서 특히 주목한 것은 AI가 단순히 질문에 답하는 도구를 넘어 실제 작업을 수행하는 에이전트로 발전하고 있다는 점입니다. 그리고 이러한 변화에 맞춰 모델, 인프라, 데이터, 품질 관리 등 AI를 안정적으로 운영하기 위한 기술도 함께 발전하고 있었습니다. 이러한 변화는 AI를 도입하고 있는 모든 조직에 중요한 질문을 던집니다.

우리는 AI를 얼마나 잘 활용하고 있을까요? AI가 실제 업무를 수행할 수 있도록 필요한 데이터와 시스템을 연결하고 있을까요? 그리고 AI가 수행한 결과를 신뢰할 수 있는 환경을 갖추고 있을까요?

이번 글에서는 if(kakao)26에서 확인한 주요 기술적 변화를 살펴보고, 카카오페이에서 발표한 세 가지 세션을 소개합니다. 나아가 AX 활동을 통해 경험한 고민을 바탕으로, AI 시대에 조직이 무엇을 준비해야 할지 개인적인 관점에서 정리해 보려 합니다. AI 도입 이후 개인의 활용을 조직 차원으로 넓히는 방법을 고민하는 개발자, 기획자, 조직 리더에게 도움이 되었으면 합니다.

1. if(kakao)26, 2025년과 무엇이 달라졌을까?

2025년과 2026년 행사의 메시지를 비교하면 변화가 더욱 분명하게 드러납니다.

  • 2025년: 가능성, 일상이 되다
  • 2026년 Day 1: 모든 연결에 지능을
  • 2026년 Day 2: 기술이 신뢰가 되는 순간

2025년에는 카나나를 중심으로 AI가 메신저와 일상 서비스에 어떻게 녹아들 수 있는지, 사용자 경험을 어떻게 바꿀 수 있는지에 대한 이야기가 중심이었습니다. 올해는 그 무게중심이 ‘대화’에서 ‘실행’과 ‘신뢰’로 옮겨 갔습니다.

주요 변화는 네 가지 전환으로 정리할 수 있습니다. 각 전환과 관련된 세션은 글 하단의 참고 자료에 정리했습니다.

① 대화형 AI에서 목표를 완결하는 에이전틱 AI로

가장 눈에 띄는 변화는 AI의 역할이 달라졌다는 점입니다. 기존 대화형 AI가 사용자의 질문에 답하거나 정보를 제공하는 데 초점을 맞췄다면, 에이전틱 AI는 사용자의 목표를 이해하고 필요한 작업을 계획한 뒤 실제로 실행하는 방향으로 발전하고 있습니다.

카카오에서는 카나나 스페이스, 칸바스(Kanvas), Workmate 등 다양한 사례를 통해 이러한 방향성을 소개했습니다.

  • 카나나 스페이스(메신저 기반 AI 비서)
    • 카카오톡에서 언제든 호출해 일상 업무를 수행하는 개인용 AI 비서
  • 칸바스(에이전트 제작과 활용)
    • PC에서 나만의 AI 에이전트 팀을 만들고 반복 업무를 맡기는 플랫폼
  • Workmate(에이전트 간 협업과 실제 업무 실행)
    • 여러 AI 에이전트가 A2A(Agent-to-Agent, 서로 다른 에이전트가 직접 정보를 주고받으며 협업하는 방식)로 일정 조율과 회의실 예약 등을 처리하는 사내 AI 비서

이제 AI의 경쟁력은 얼마나 자연스럽게 대화하는지를 넘어, 사용자의 의도를 이해하고 실제 업무를 어디까지 수행할 수 있는지에 달려 있다고 봅니다. 특히 여러 에이전트가 각자의 역할을 나누고 협업하는 구조에 주목했습니다. 이는 AI를 개인의 생산성 도구에서 조직의 업무 수행 주체로 확장할 수 있는 가능성을 보여줍니다.

② 텍스트 중심 AI에서 네이티브 멀티모달로

AI와 상호작용하는 방식도 달라지고 있습니다. 텍스트를 입력하고 답변을 받는 방식에서 벗어나 음성, 이미지 등 다양한 형태의 정보를 실시간으로 이해하고 반응하는 방향으로 발전하고 있습니다. 네이티브 멀티모달은 처음부터 텍스트·음성·이미지를 함께 학습해 하나의 모델로 처리하는 방식을 말합니다.

이번 행사에서는 Kanana-o, Kanana Live, Vision Encoder(이미지를 AI가 이해할 수 있는 수치 표현으로 바꾸는 모델), 멀티모달 임베딩(텍스트와 이미지를 같은 공간의 수치로 표현해 의미 기반 검색을 가능하게 하는 기술), Agentic Search(여러 단계로 탐색하고 검증하며 답을 찾는 검색) 등의 기술이 소개됐습니다.

특히 Full-Duplex 음성 대화(전화 통화처럼 상대가 말하는 도중에도 듣고 반응하는 양방향 대화)처럼 사용자가 말하는 도중에도 AI가 맥락을 이해하고 자연스럽게 반응하는 기술은 AI가 하나의 도구를 넘어 일상적인 상호작용의 대상으로 발전하고 있음을 보여줍니다. AI가 텍스트뿐 아니라 음성, 이미지 등 다양한 정보를 이해하게 되면 사용자와 서비스가 상호작용하는 방식도 달라질 수 있습니다.

③ 단일 대형 모델에서 목적에 맞는 AI 인프라와 오케스트레이션으로

AI 서비스가 실제 운영 환경에 적용되면서 모델 자체의 성능뿐 아니라 이를 뒷받침하는 인프라의 중요성도 커지고 있습니다. 모든 문제를 하나의 거대한 모델로 해결하기보다는, 작업의 성격에 따라 적합한 모델을 선택하고 여러 모델과 시스템을 효율적으로 연결하는 방식이 주목받고 있습니다.

행사에서는 SLM(Small Language Model, 특정 작업에 맞춰 빠르고 저렴하게 쓰는 경량 언어 모델), AI 컨덕터(여러 모델과 에이전트의 호출 순서와 역할을 조율하는 지휘자 역할), Hybrid Cloud FinOps(클라우드 비용을 가시화하고 최적화하는 운영 방식), 온프레미스(자체 구축 인프라) GPU 기반 Kubernetes(K8s) LLMOps(LLM을 배포하고 운영하는 방법론), KV 캐시(이미 계산한 값을 저장해 추론 속도를 높이는 기법) 및 추론 최적화 등 다양한 기술이 소개됐습니다.

AI 서비스가 확산될수록 GPU 자원과 운영 비용을 어떻게 효율적으로 관리할 것인지, 성능과 비용 사이의 균형을 어떻게 맞출 것인지가 중요한 경쟁력이 될 것입니다. 이러한 흐름은 AI 인프라를 직접 구축하는 조직뿐 아니라 AI 서비스를 활용하는 조직에도 중요한 의미가 있습니다. 모든 업무에 같은 모델을 적용하기보다 업무의 복잡도와 중요도에 따라 적합한 모델을 선택해야 하기 때문입니다. 성능과 비용을 함께 고려하는 운영 전략이 필요합니다.

④ 개별 AI 활용에서 시스템 차원의 통제와 신뢰성 확보로

AI가 실제 업무와 서비스에 깊숙이 들어올수록 결과물의 품질과 안정성을 보장하는 문제도 중요해집니다. AI가 생성한 결과를 무조건 신뢰할 수는 없습니다. 에이전트가 어떤 권한으로 무엇을 실행하는지, 데이터에 어떻게 접근하는지, 잘못된 결과가 발생했을 때 어떻게 통제하고 추적할 것인지를 함께 고려해야 합니다.

이번 행사에서는 에이전트 하네스(AI 에이전트의 실행 범위와 검증을 감싸 통제하는 틀), 데이터 거버넌스, SLO(서비스 수준 목표), AI 메모리 등 AI의 활용을 넘어 안정적인 운영과 통제를 위한 기술적 접근이 소개됐습니다.

AI가 실제 업무를 수행할수록 결과의 품질뿐 아니라 실행 과정에 대한 통제도 중요해집니다. if(kakao)26에서 소개된 사례들은 AI를 도입하는 것과 신뢰할 수 있는 운영 체계를 만드는 일이 함께 진행되어야 한다는 점을 보여줍니다.

정리: 2026년, 실행과 신뢰를 뒷받침하는 기술

지금까지 살펴본 변화는 특정 AI 모델이나 기술의 발전에 그치지 않습니다. AI가 실제 업무와 서비스에 참여하기 위해 필요한 환경과 운영 방식이 함께 바뀌고 있다는 의미입니다. 정리하면, 2025년이 AI를 일상에 연결하는 가능성을 보여준 해였다면, 2026년은 AI가 실제로 일하고 그 결과를 신뢰할 수 있도록 만드는 기술적 기반을 구체화한 해라고 할 수 있습니다.

일자별 전체 기술 세션에 대한 자세한 안내는 카카오테크 공식 블로그에서도 확인할 수 있습니다.

2. 카카오페이에서는 어떤 기술을 소개했을까?

앞서 본 네 가지 변화 중 ③ 인프라, ④ 신뢰성과 맞닿아 있는 카카오페이의 세 가지 발표를 소개합니다.

AI와 개발 생산성뿐 아니라 대규모 서비스 운영, 품질 관리, 인프라 최적화 등 실제 개발 현장에서 마주하는 문제를 해결한 경험을 공유했다는 점에서 의미가 있었습니다.

① 배치 통제: 코드 수정 없이 승인·이력 체계 만들기

대규모 서비스 환경에서는 수많은 배치 작업이 여러 시스템에 흩어져 실행됩니다. 이 과정에서 실행 권한과 승인 절차를 일관되게 관리하고, 문제가 발생했을 때 실행 이력을 추적하는 일은 쉽지 않습니다.

이번 발표에서는 기존 배치 코드를 수정하지 않고도 배치 작업의 시작과 종료 지점에 개입해 승인되지 않은 실행을 차단하는 방법을 소개했습니다. 이를 통해 개별 시스템에 흩어져 있던 배치 작업의 요청부터 승인, 실행, 모니터링, 이력 추적까지 하나의 플랫폼에서 관리할 수 있도록 했습니다.

특히 기존 시스템을 대규모로 수정하지 않고도 통제 체계를 구축했다는 점이 눈여겨볼 만했습니다. 새로운 기능을 추가하는 것뿐 아니라 이미 운영 중인 시스템을 어떻게 안전하고 효율적으로 관리할 것인지에 대한 현실적인 접근을 보여준 세션이었습니다.

AI 에이전트가 실제 업무 시스템에 접근하고 작업을 수행한다면, 이러한 실행 권한과 승인, 추적 체계는 더욱 중요해질 것입니다. AI가 무엇을 할 수 있는지뿐 아니라 무엇을 해서는 안 되는지까지 시스템 차원에서 관리해야 하기 때문입니다.

② AI 산출물 검증: QA의 하네스와 품질 게이트

AI를 활용한 개발이 늘어나면서 코드 생성 속도는 빨라지고 있지만, 생성된 결과물을 어느 수준까지 신뢰할 수 있는지는 여전히 중요한 과제입니다. 이번 세션에서는 AI가 만들어 낸 산출물의 품질을 검증하기 위해 QA 관점에서 적용한 하네스와 품질 게이트(다음 단계로 넘어가기 전에 반드시 통과해야 하는 검증 관문) 구축 경험을 공유했습니다.

핵심적으로 소개된 방법은 세 가지입니다.

  • 적대적 검토: AI가 만든 결과물의 오류와 취약점을 적극적으로 찾아내는 방식 (예: 다른 AI가 결과물의 허점만 골라 공격해 보기)
  • 격리: 검증되지 않은 결과물이 다른 시스템이나 작업에 영향을 주지 않도록 분리하는 방식 (예: 별도 환경에서 먼저 실행해 보기)
  • 다양성: 서로 다른 관점과 방법으로 결과물을 검증해 놓칠 수 있는 결함을 줄이는 방식 (예: 서로 다른 모델이나 기준으로 교차 검토하기)

특히 발표에서는 검증 과정에 심어 둔 결함 8개 중 찾아낸 결함이 기존 5개에서 8개로 늘어난 사례도 소개됐습니다. 이는 발표 기준으로 소개된 한 사례의 결과입니다.

이번 발표는 QA가 AI 시대에 단순한 사후 검증 역할을 넘어, AI가 만들어 내는 결과물의 품질을 개발 과정에서부터 보장하는 역할로 확장될 수 있다는 점을 보여줬습니다.

AI를 활용하면 개발 속도는 빨라질 수 있지만, 검증되지 않은 결과물이 쌓이면 오히려 재작업과 운영 리스크가 커질 수 있습니다. 앞으로 AI 기반 개발을 확대하기 위해서는 개발 생산성 향상과 함께 이를 뒷받침하는 품질 검증 체계를 발전시켜야 합니다.

③ LLMOps: 온프레미스 GPU에서 LLM 운영 최적화

앞서 ③ 전환에서 소개한 온프레미스 GPU 기반 LLM 운영을, 카카오페이가 실제로 겪은 사례로 살펴봅니다. LLM을 실제 서비스에 적용하려면 모델을 선택하는 것만으로는 충분하지 않습니다. GPU 자원을 효율적으로 사용하고, 모델을 안정적으로 배포하며, 트래픽 변화에 대응할 수 있는 운영 환경이 필요합니다.

이번 세션에서는 온프레미스 GPU 기반 K8s 환경에서 LLM을 배포하고 운영하면서 경험한 LLMOps 최적화 과정을 공유했습니다. 주요 내용은 LLM 서빙(학습된 모델을 서비스에서 요청에 응답하도록 배포하고 운영하는 일)의 기본 원리, GPU 초기 도입 과정과 한계, GPU 운영을 공용 풀로 통합하여 모델을 효율적으로 활용한 사례, 서비스 우선순위 기반의 자원 배치와 오토스케일링(트래픽에 따라 자원을 자동으로 늘리고 줄이는 기능), 스티키 세션(같은 세션의 요청을 같은 서버로 계속 보내는 방식)과 KV 오프로딩(GPU 메모리에 쌓인 KV 캐시를 다른 저장 공간으로 옮겨 GPU 메모리를 확보하는 기법) 등을 통한 LLM 서빙 효율 개선, vLLM(오픈소스 LLM 추론 서빙 엔진) 기동 시간 단축을 위한 부트스트랩(서버가 시작될 때 모델을 불러오고 준비하는 초기화 과정) 최적화입니다.

특히 GPU 자원을 얼마나 확보했는지보다 확보한 자원을 얼마나 효율적으로 활용하는지가 중요하다는 점을 확인할 수 있었습니다. 클라우드 기반 AI 서비스와 달리 온프레미스 환경에서는 인프라 자원과 운영 조건을 직접 고려해야 하는 만큼, 실제 구축과 운영 과정에서 얻은 경험이 더욱 의미 있게 다가왔습니다.

AI 활용이 확대될수록 모델과 인프라의 선택, 자원 사용량, 운영 비용을 함께 관리하는 역량이 중요해질 것입니다.

정리: 세 가지 발표가 주는 시사점

세 가지 발표를 관통하는 공통점은 실제 운영 환경에서 발생하는 문제를 기술적으로 해결한 경험을 공유했다는 점입니다. 배치 작업의 통제, AI 산출물의 품질 검증, GPU 기반 LLM 운영은 서로 다른 주제처럼 보이지만, 결국 안정적이고 신뢰할 수 있는 서비스를 만들기 위한 고민이라는 점에서 맞닿아 있습니다.

개인적으로 이 세 가지 사례는 카카오페이가 AI 시대를 준비하는 데에도 중요한 시사점을 준다고 생각합니다. 새로운 기술을 빠르게 도입하는 것뿐 아니라, 기존 시스템과 연결하고, 결과를 검증하며, 지속 가능한 비용으로 운영할 수 있어야 하기 때문입니다.

발표 이후 그로잉 홀에서 이어진 애프터 세션과 참여자들의 질문을 보면서, 기술을 소개하는 것에서 끝나지 않고 실제 적용 경험과 고민을 나누는 문화의 중요성도 느낄 수 있었습니다.

카카오페이 발표 세션의 자세한 내용은 추후 카카오페이 기술 블로그에서 소개할 예정입니다.

그렇다면 이러한 기술적 변화는 AI를 도입한 조직에 어떤 과제를 던질까요? 다음 장에서는 제가 AX 활동에서 느낀 점과 함께 이 질문을 이야기해 보겠습니다.

3. 기술문화 담당자가 AX 활동에서 느낀, 조직이 준비할 네 가지

if(kakao)26에서 확인한 기술적 변화는 카카오페이에도 몇 가지 질문을 던집니다. AI 에이전트가 사용자의 목표를 이해하고 실제 작업을 수행하는 시대에 우리는 어떤 업무를 AI에 맡길 수 있을까요? 사내 업무 시스템과 데이터는 AI가 활용할 수 있는 형태로 준비되어 있을까요? 그리고 AI가 수행한 결과를 어떻게 검증하고 신뢰할 수 있을까요?

이러한 질문들은 AX 활동을 진행하면서 경험했던 고민과도 맞닿아 있습니다. 아래 내용은 if(kakao)26에서 확인한 기술적 변화와 AX 활동을 통해 경험한 고민을 바탕으로, 사내 기술문화 담당자로서 개인적으로 생각하는 조직의 준비 방향입니다.

제가 AX 활동을 경험하며 느낀 점은 구성원들의 AI 활용 경험이 꾸준히 축적되고 있다는 것입니다. 교육과 실습, 실제 업무에서의 다양한 시도를 통해 개인별 활용 노하우도 점차 쌓이고 있습니다. 다만 AI 활용 경험은 개인의 생산성 향상에 머무르기 쉽습니다. 한 구성원의 노하우가 다른 조직으로 공유되고 여러 구성원이 공통으로 수행하는 업무 프로세스의 개선으로 이어지려면 별도의 장치가 필요합니다.

개별 구성원의 AI 활용 경험을 조직 차원의 지식과 자산으로 전환하고, 이를 공통 업무와 프로세스에 확산하는 것이 다음 단계의 과제라고 생각합니다.

이를 위해 AI를 사용하는 조직이 앞으로 준비해야 할 방향을 네 가지로 정리해 봤습니다.

① 개인의 AI 활용 경험을 조직의 공통 자산으로 전환하기

지금까지 기업의 AI 활용은 주로 문서 작성, 요약, 검색, 코드 생성 등 개인의 생산성을 높이는 데 초점이 맞춰져 있었습니다. 카카오페이에서도 구성원들이 각자의 업무에 AI를 적용하면서 다양한 활용 경험과 노하우를 축적해 왔습니다. 이제는 이러한 경험을 개인의 활용 사례로 남겨 두지 않고 조직의 공통 업무 방식으로 확장해야 합니다.

예를 들어 한 구성원이 AI를 활용해 반복적인 자료 수집과 보고서 작성을 효율화했다면, 그 경험을 다른 구성원도 활용할 수 있도록 표준화하고 재사용 가능한 업무 에이전트로 발전시킬 수 있습니다. 개발 과정에서 활용한 코드 분석이나 테스트 자동화 방법도 개인의 노하우를 넘어 팀의 공통 개발 프로세스로 확장할 수 있습니다.

이를 위해서는 구성원들이 사내에 축적한 활용 사례를 쉽게 발견하고 공유할 수 있어야 합니다. 단순히 사례를 모으는 것에서 끝나지 않고, 다른 조직에서도 재사용할 수 있는 형태로 정리하고 실제 업무에 적용해 보는 과정이 필요합니다.

궁극적으로는 개인이 AI를 잘 활용하는 것을 넘어, 조직 전체가 AI를 활용해 더 나은 방식으로 일할 수 있도록 업무 프로세스를 개선해야 합니다.

② 사내 AI 플랫폼과 시스템을 연결해 조직 공통 업무를 자동화하기

개인의 AI 활용 경험을 조직 차원의 업무 혁신으로 확장하려면 이를 뒷받침하는 기술적 기반이 필요합니다.

에이전트가 실제 업무를 수행하려면 사내 지식과 데이터, 업무 시스템에 접근할 수 있어야 합니다. 하지만 개인이 AI를 활용하는 것과 조직 공통 업무를 자동화하는 것은 다른 차원의 문제입니다. 조직 간 업무 흐름을 이해하고 여러 시스템을 연결해야 합니다. 업무별 권한과 실행 절차도 함께 고려해야 합니다.

MCP(Model Context Protocol)는 AI 애플리케이션이 외부 도구와 데이터 소스에 연결할 수 있도록 돕는 표준 프로토콜입니다. 앞서 소개한 A2A가 에이전트와 에이전트를 잇는다면, MCP는 에이전트와 도구·데이터를 잇습니다. 두 기술은 역할이 다르지만, AI 에이전트가 실제 업무를 수행하는 데 필요한 연결 구조를 만든다는 점에서 함께 주목할 필요가 있습니다.

이를 위해서는 구성원이 사내 AI 자산과 에이전트를 쉽게 탐색하고, 업무에 필요한 에이전트를 직접 만들며, 필요한 도구와 시스템을 안전하게 연결할 수 있는 기반이 중요합니다. 이러한 기술적 기반이 갖춰져야 개인의 AI 활용 경험을 조직 공통의 업무 자동화로 확장할 수 있습니다.

특히 여러 조직에서 공통으로 수행하는 업무나 부서 간 협업이 필요한 업무를 우선적으로 살펴볼 필요가 있습니다. 조직마다 유사한 업무를 각자 자동화하기보다, 공통으로 활용할 수 있는 에이전트와 업무 프로세스를 만드는 편이 효과적일 수 있습니다. 조직 전체의 생산성 향상에 더 도움이 되기 때문입니다.

③ AI의 실행 권한과 결과를 신뢰할 수 있는 운영 체계 만들기

AI가 정보를 제공하는 수준을 넘어 실제 업무를 실행하기 시작하면 신뢰와 통제의 중요성은 더욱 커집니다. 특히 금융 서비스에서는 AI의 잘못된 판단이나 실행이 고객 경험과 서비스 안정성에 직접적인 영향을 줄 수 있습니다. 따라서 에이전트가 접근할 수 있는 데이터와 실행 가능한 작업의 범위, 중요 작업에 대한 승인 절차를 명확하게 정의해야 합니다.

또한 AI가 생성한 결과물을 검증하는 품질 게이트, 실행 이력을 추적할 수 있는 감사 체계, 문제가 발생했을 때 실행을 중단하거나 되돌릴 수 있는 통제 장치도 필요합니다.

if(kakao)26에서 소개된 에이전트 하네스와 품질 검증, 데이터 거버넌스, SLO 등의 사례는 이러한 고민이 이미 기술적인 구현 단계로 들어섰다는 점을 보여줍니다.

AI를 빠르게 도입하는 것과 안전하게 운영하는 것은 별개의 문제가 아닙니다. 처음부터 권한, 보안, 품질, 책임을 함께 설계하는 것이 AI 시대의 기본적인 엔지니어링 역량이 될 것이라고 생각합니다.

④ AI 도입을 사용량이 아닌 실질적인 성과로 평가하기

AI 도입이 확대될수록 실제로 업무가 얼마나 개선되었는지 확인하는 일도 중요해집니다. AI 활용 빈도나 사용 인원만으로는 조직의 업무가 실제로 개선되었는지 판단하기 어렵습니다. 특히 개인의 생산성 향상이 조직 전체의 생산성 향상으로 이어졌는지를 확인하려면 평가 관점도 달라져야 합니다.

업무 처리 시간이 얼마나 줄었는지, 반복 작업이 얼마나 자동화되었는지, 오류와 재작업이 얼마나 감소했는지, 조직 간 협업 과정이 얼마나 간소화되었는지를 확인해야 합니다.

예를 들어 하나의 조직 공통 업무에 AI 에이전트를 적용했다면 도입 전후의 처리 시간과 품질, 운영 비용을 비교해 실제 효과를 확인할 수 있어야 합니다. 이러한 성과가 확인된 사례는 다른 조직에도 확산해 조직 전체의 개선 효과로 연결할 수 있습니다.

또한 모든 업무에 가장 큰 모델을 사용하는 것이 정답은 아닙니다. 작업의 복잡도와 중요도에 따라 적합한 모델을 선택하고, 경량 모델과 대형 모델을 적절히 조합하는 등 AI 운영 비용도 함께 고려해야 합니다.

AI 플랫폼과 에이전트의 확산은 목적이 아니라 업무 성과를 만들어 내기 위한 수단입니다. 결국 AI 도입의 성과를 얼마나 많은 구성원이 AI를 사용했는지가 아니라, AI를 통해 조직의 업무 방식이 얼마나 개선되었는지로 판단해야 합니다.

마치며

AI 도구를 잘 활용하는 개인이 늘어나는 것만으로 조직의 일하는 방식이 바뀌지는 않습니다. 개인의 활용 경험이 조직의 지식으로 축적되고, 반복되는 업무가 자동화되며, AI가 실제 업무 과정에 자연스럽게 참여할 수 있어야 비로소 조직 차원의 변화가 시작됩니다.

AX 활동을 경험하면서 저 역시 개인의 AI 활용 경험을 어떻게 조직 전체의 역량으로 확장할 수 있을지 고민하게 되었습니다. if(kakao)26에서 확인한 기술의 변화도 결국 같은 질문으로 이어졌습니다.

AI를 얼마나 잘 활용할 수 있는가를 넘어, AI와 함께 일하는 방식을 어떻게 설계할 것인가. 앞으로 기술 조직이 함께 풀어 가야 할 중요한 과제 중 하나라고 생각합니다.

참고 자료

if(kakao)26 관련 주요 세션

① 대화형 AI에서 목표를 완결하는 에이전틱 AI로

② 텍스트 중심 AI에서 네이티브 멀티모달로

③ 단일 대형 모델에서 목적에 맞는 AI 인프라와 오케스트레이션으로

④ 개별 AI 활용에서 시스템 차원의 통제와 신뢰성 확보로

dan.dy
dan.dy

카카오페이 개발 문화를 담당하고 있는 댄입니다. 카카오페이의 개발 문화가 IT 개발 문화를 선도해 나가는 게 저의 바람입니다.