AI가 지금처럼 대중화되기 전까지만 해도 AI를 사용하는 사람은 소수에 불과했습니다. 하지만 지금은 오히려 AI를 전혀 사용하지 않는 사람을 찾기가 더 어려울 정도입니다.
초기에는 ChatGPT나 Gemini 같은 LLM 모델이 AI 활용의 전부였다면, 지금은 개발자뿐만 아니라 다양한 직군의 사람들이 Claude Code, Codex 등 여러 에이전트를 업무와 일상에 자연스럽게 활용하고 있습니다.
혹시 카카오톡에서 제공하는 에이전트인 Kanana를 아시는 분이 계실지 모르겠습니다. 저는 요즘 이 Kanana를 클론 코딩하며 Agentic AI를 공부하고 있습니다.
특히 카카오 현직 개발자분들께 코드 리뷰를 받으면서 공부하다 보니, 혼자 공부할 때는 갖기 어려웠던 시야를 얻게 되었습니다. 제 나름의 좁은 시각에서 벗어나 현업 전문가의 관점에서 Agentic AI를 바라볼 수 있게 된 점이 특히 좋았습니다.
그렇다면 공부하기 이전에 저도 많이 헷갈렸던 LLM과 Agentic AI, 무엇이 다른지에 대해서 알아보겠습니다.
LLM과 Agentic AI, 무엇이 다를까
일반적인 LLM(대규모 언어 모델)은 기본적으로 질문-응답(Q&A) 구조로 동작합니다. 사용자가 프롬프트를 입력하면 모델은 그 순간의 맥락 안에서 가장 적절한 답변을 생성할 뿐, 스스로 다음 행동을 계획하거나 외부 시스템에 접근해 작업을 수행하지는 않습니다. 즉, "묻는 대로 답하는" 수동적인 도구에 가깝습니다.
반면 Agentic AI는 여기서 한 단계 더 나아갑니다. 단순히 답변을 생성하는 것을 넘어, 스스로 목표를 인식하고, 이를 달성하기 위한 계획을 세우고, 필요한 도구(Tool)를 호출하며, 다단계 작업을 수행합니다. 예를 들어 Claude Code나 Codex 같은 에이전트는 코드를 작성하는 데서 그치지 않고, 파일을 탐색하고, 명령어를 실행하고, 에러를 확인한 뒤 스스로 수정하는 과정을 반복합니다. 사용자가 매 단계 개입하지 않아도 에이전트가 "다음에 뭘 해야 하는지"를 판단한다는 점이 핵심 차이입니다.
표로 정리하자면 크게 이런 차이가 있습니다.
| 구분 | LLM | Agentic AI |
| 동작 방식 | 단발성 질의응답 | 목표 기반의 다단계 작업 수행 |
| 주도성 | 사용자가 매번 지시 | AI가 스스로 다음 행동을 계획 |
| 외부 연동 | 제한적(텍스트 중심) | tool 호출, API 연동, 실행 환경 접근 |
| 예시 | ChatGPT, Gemini | Claude Code, Codex, Kanana |
Agentic AI 워크 플로우
LLM 워크 플로우
Agentic AI의 워크 플로우를 보면 목표 입력 → 계획 수립 → 도구 실행 → 결과 관찰로 이어지고, 목표가 아직 달성되지 않았다면 다시 계획 수립 단계로 돌아가는 순환 구조입니다. 이 반복(loop)이 바로 일반 LLM과 가장 크게 다른 지점인데요. 단발성 응답이 아니라 "계획 → 실행 → 관찰"을 스스로 몇 번이고 반복하다가, 목표가 달성됐다고 판단될 때 비로소 최종 응답으로 빠져나옵니다.
Claude Code로 예를 들면 "계획 수립" 단계에서 어떤 파일을 수정할지 판단하고, "도구 실행" 단계에서 실제로 코드를 고치거나 명령어를 실행하고, "결과 관찰" 단계에서 에러가 났는지 확인한 뒤, 안 됐으면 다시 계획을 세우는 식으로 이 루프를 도는 겁니다.
이렇게 간단하게 LLM과 Agentic AI의 차이점에 대해서 알아봤고, 제가 요즘 공부하고 있는 Kanana에 대해서도 소개해보겠습니다.
Kanana란?
Kanana는 카카오가 만든 Agentic AI 서비스입니다. 카카오톡 안에서 만날 수 있는 온디바이스 AI라는 점이 특징인데, 질문을 하지 않아도 도움이 필요한 순간을 스스로 알아차리고 먼저 말을 거는 것이 가장 큰 특징입니다. 대화 속에서 약속이나 할 일을 놓치지 않도록 미리 알림을 보내거나, 약속 장소를 조건에 맞게 찾아주는 등 대화의 맥락을 이해하고 먼저 행동한다는 점에서 전형적인 Agentic AI의 특성을 보여줍니다.
기술적으로 흥미로운 지점이 있습니다. 온디바이스 모델로 동작하는데, 기기안에서 상황을 이해하고 먼저 다가가서 사용자 요청 시에만 서버를 통해 답변을 제공하는 구조를 취하고 있다는 점입니다. 아마 개인정보 보호와 반응 속도라는 두 마리 토끼를 잡기 위한 설계가 아닐까 생각이 듭니다.
이런 Kanana를 클론하여 제 개인 일정 잡아주는 비서를 만들고자합니다.
현재 구현한지는 3주차에 접어들었고 1주차부터 3주차까지 제가 학습한 것들을 정리해보자면 이렇습니다.
주차별 내용은 다음 글에서 작성하겠습니다.