if Kakao를 보면서 스쳐간 생각들

우연히 인스타그램에서 if kakao 세션을 발견해 신청해봤는데, 운 좋게 당첨이 되어서 다녀올 수 있게 되었다. 이전에도 한번 신청했었는데 그때는 뽑히지 못했었는데, 덕분에 판교 쪽 AI center 건물을 한번 볼 수 있었다.

Keynote && sessions

모든 연결에 지능을

카카오는 당연하게도 카카오톡으로 사람들에게 가장 많이 알려져 있지만, (안좋은 표현으로는 문어발 확장..) 메신저 뿐 아니라 정말 많은 서비스를 제공하고 있다. 모빌리티, 뱅크, 커머스 등등 사람들의 생활권 곳곳에 스며들어 있다.

이런 카카오도 최근 AI 의 발전으로 적지 않은 고민이 느껴지는 keynote 였는데, 자칫 잘못했다간 추후 AI 기반의 서비스들에게 시장을 잠식 당할 수 있을 것이란 위기감이 반영되어 보였다.

keynote 에서는 지금 개발중인 상황들과, 추후 내년 3월까지 업데이트 할 프로젝트들을 설명했고, 이 모든 서비스의 기반에는 LLM 을 활용한 AI 기반의 서비스들이었다.

조금 인상깊었던 부분은 자체 온디바이스 LLM 의 성능을 지속적으로 개선하면서 기존 오픈소스 LLM 의 성능을 후발주자로서 계속 쫒아가고 있는 느낌이었고, 두번째는 어찌되었던 카카오톡이라는 메신저 내에서 AI 를 어떻게 적용시킬것인지에 대한 고민의 흔적이었던 것 같다.

현재 서비스중인 kanana 의 경우 개인적인 경험으로는 그렇게까지 활용도가 높지않고, 사실 냉정하게 별로 관심이 없었는데, 새롭게 추가될 기능들 중에는 meta 의 muse 와 유사한 부분이 있어 이 부분은 한번 적용해 볼 만 하지 않을까 싶었다.

반대로 크게 와닿지 않았던 부분들은, claude project 나 gpt dot 과 같은 에이전트 기반의 편집 서비스를 카카오도 내년 3월까지 베타 진행을 목표로 개발한다고 했었는데, 새롭게 느껴지지는 않았던 것 같다. 물론 AI 를 별로 사용하지 않았었던 사용자들에게는 신선하게 다가올 수 있는 기능이라 생각이 들었는데, 그럼에도 UI 적으로 기존 codex 형식과 너무 유사해 다들 비슷비슷한 경험을 주려고 하는 것 같다는 생각이 들었다. 시안에서는 모바일 버전이 나오질 않아서 모바일에서는 이것을 어떻게 풀어갈지 보고 싶어졌었다.

그 외 느껴졌던 점은 아직까지 카카오의 추후 서비스들은 무엇인가 선도하는 느낌은 없었던 것 같다. 오히려 기존의 서비스를 조금이라도 더 잘 다듬어가는 느낌이 있었는데, 카카오톡을 사용하는 사용자층의 성향이 반영되었다는 느낌이다. 급진적인 변화는 원하지 않는 성향.

세션들은 사실 AI model 개발을 하고 있지 않은 입장이라 이해하는 것이 쉽지는 않아 잘 모르겠지만, 어느 회사던지 AI 는 노른자로서 존재한다는 것을 다시금 느낄 수 있었던 것 같다.

많은 개발자들의 고민

결국 세션들을 듣다보니, 어떻게 하네스를 설계하고, AI 답변의 신뢰도를 어떻게 높여야 할지, 사용자가 원하는 결과를 전달해주기 위해 어떻게 맥락을 지속적으로 부여해야할지에 대한 고민들과 이에 대한 카카오의 대답이었고, 이러한 고민 과정은 다른 여러 회사, 개발자들의 고민과 크게 다르지 않았다.

최근에 나 역시 plugin 혹은 agent 를 더 다듬고 개발해야겠다 느끼는 부분 역시 AI 의 모델 성능은 더욱 좋아졌지만, 여전히 신뢰도의 측면에서 만족스럽지 않았기 떄문이었고 많은 사람들과 예기를 나누다 보면 다들 동일한 의견을 주고받는 상황인것 같다.

아이러니 한 부분은, 엄청난 생산성 향상을 AI 가 가져다 주고 있지만, 다른 방향으로서의 개발적 스트레스는 계속해서 증가하고 있는 것 아닐까 생각이 든다. 그래서인지 자칫 AI 사용이 서비스의 병목으로 작용할 수 있겠다 생각이 들었고, 내 실력을 더욱 쌓아 이후에 AI 활용을 연습해보자 라는 생각이 있었는데, 더이상 이렇게 접근해서는 문제를 해결하는 능력을 키우는데 한계가 있겠다고 느꼈다.

참 그리고 보면 나 역시 전형적인 대한민국의 학습 로드맵에 아직도 빠져나오지 못하고 있지 않나?

나의 기본 실력을 쌓고, AI 는 더욱 성숙해진 환경에서 강의나 책으로 커리큘럼을 통해 학습하여 내 지식을 쌓아간다는 생각 자체가 너무 한국적이며 수능적 마인드가 아닌가 웃음이 났다.

한달 전 부터 codex max 200$ 를 사용중인데, 써보기 전과 후의 나의 개발 작업 흐름이 확연하게 차이가 날 정도로 달라졌고 그렇기에 개인적으로는 조금 더 무리를 해서라도 높은 비용의 모델 사용을 진행해 봤어야 하는게 아닐까 하는 생각이 들었었다. 그만큼 AI 에 있어서는 더 많이 사용해보고, 경험을 통해 한계를 체감하고 이를 어떻게 수정해나갈지 계속해서 연구하는 방향이 현재로서는 가장 효과적이지 않을까 싶었다.

실제로 이렇게 AI 를 사용하다보면 자연스럽게 도달하는 의구심과 해결과제가 바로 맥락(context)이며 이를 모델과 어떻게 연결해 나갈건지에 대한 과제가 생기게 된다. 세션을 통해 지속적으로 느꼈던 부분들 역시 이전부터 AI 를 지속적으로 사용해보지 않았다면 제대로 공감하기 어려웠을 것이며, 새로운 시각을 얻어가지도 못했을 것이다.

개발의 학습 패러다임은 기존 순차적 학습과는 다르다는것을 알고는 있었지만 AI를 통해 더욱 심화되어가는 느낌이다.

데이터

트렌디한 스타트업들은 적극적으로 AI 를 서비스에 녹여내고 있고, 어떤 부분에서는 대기업이 후발주자라고 느껴지기도 한다.

그런데 이번에 세션을 들으면서 개인적으로 많은 생각이 들었던 부분은, 결국은 이들은 너무나도 방대한 데이터, 그것도 학습에 너무나도 유리한 데이터를 보유하고 있다는 점이 작은 기업이 도저히 따라잡을 수 없는 차이를 만들것이라는 생각이었다.

AI 를 사용하다보면 내 생각에 어느정도 부합하는 서비스를 너무나도 높은 생산성으로 제작해주고 있고, 그렇기에 시장의 빈틈을 찾아 경쟁력을 발휘할 수 있지 않을까 희망회로를 돌려보곤 하는데, 확실히 이번 세션과 키노트를 들으면서 도저히 비교우위를 점하는것이 어렵겠다는 생각이 들었다.

질높은 데이터를 저렇게 방대하게 가지고 있는 카카오를 더 좋은 서비스로 우위를 가져가야 한다면, 아예 카카오가 가지지 못한 데이터를 기반으로 승부를 하거나 아니면 어떻게 해서든 사람들의 감성을 사로잡는 무언가를 만들어내야 하는데, 후자가 정말 어려운 길이라는걸 새삼 느꼈다.

1인 사업을 해보자 라는 마음은 언제나 가지고 있지만, 그리고 AI 를 통해 더 쉽게 할 수 있지 않을까 하는 생각도 가졌지만, 최근에서는 오히려 이전보다 더 어려워진것 아닐까 하는 생각이 든다.

데이터의 차이를 극복할 만큼의 무엇인가를 찾아야 하는 시기가 오고있는것 같다.