사내에 건의하려던 에이전트 도구와 토큰비·보안 우려

오늘 오전, 에이전트코리아 대화창에 흔한 고민 하나가 올라왔다. 한 참가자가 친구가 회사에서 잘 쓰고 있다는 오픈소스 에이전트 도구 링크를 붙이고, 자기 회사에도 건의해 볼까 싶은데 어떻게 보이느냐고 물었다. 자신이 이해하기로는 괜찮아 보인다는 말도 덧붙였다. 질문자는 AI를 아직 공부하는 중이라고 스스로 밝혔고, 보안은 담당자들이 따로 살펴볼 것이라고 기대했다.

처음 답한 참가자는 이런 도구가 워낙 많으니 보안 문제를 뜯어봐야 한다고 말했다. 질문자가 보안은 잘 모르는 분야라고 하자, 모르면 건드리지 않는 것이 맞다는 답이 돌아왔다. 곧 이 참가자가 직접 구조를 열어 보겠다고 나섰고, 얼마 뒤 첫 평가가 나왔다. 뼈대는 정석에 맞는다는 것이었다.

한 곳에 다 넣었다는 지적

평가는 거기서 갈렸다. 그 참가자는 이 도구가 게이트웨이 한 곳, 곧 요청과 데이터가 모두 지나가는 중앙 서버에 토큰과 지식을 모두 넣어 두었다고 읽었고, 놀란 기색을 숨기지 않았다.

하나에 다박아뒀네..?

이어진 주장은 세 갈래였다. 범위가 너무 넓어 낭비되는 토큰이 많다는 것, 외부 해킹보다 내부에서 새어 나갈 위험이 높은 구조라는 것, 소규모 환경이라면 몰라도 보안 요건이 엄격한 조직에서는 쓰기 어렵겠다는 것이다. 질문자는 셀프호스팅하면 되지 않느냐고 되물었지만, 지적의 핵심은 어디에 설치하느냐가 아니라 구조 자체라는 답이 이어졌다. 질문자는 자기 쪽 사정으로는 그 정도 위험을 감수할 만하다고 봤다. 이는 질문자 본인의 판단이며, 대화 안에서 검증된 사실은 아니다.

토큰비 이야기도 같은 줄기에서 나왔다. 위키나 지식그래프를 이런 식으로 짜면 토큰 비용을 감당하기 어렵지 않겠느냐는 물음이었다. 질문자는 지금 쓰는 구독에서는 한도에 여유가 있다고 답했다. 구조가 만드는 비용 문제와 현재 구독의 여유는 서로 다른 층위의 이야기라는 점이 이 대목에서 드러났다.

틀린 지식이 끝까지 퍼진다는 경고

이어 구조를 살핀 참가자는 도구의 얼개를 한 줄로 풀었다. 앞단에서 데이터베이스를 MCP, 곧 에이전트가 외부 데이터에 연결되는 통로로 가져오고 뒷단에서 에이전트가 움직이는 구조라는 설명이다(이 괄호 풀이는 기사 설명이다). 문제는 이것을 그대로 쓰기 어렵고 회사에 맞게 현지화해야 한다는 점이라고 했다. 이어 앞단의 지식이 잘못되어 있으면 사고가 극한까지 번지는 구조라고 경고했다.

사고 극한까지 퍼지는구조에요

그쪽에 걸러 주는 관문이 없다는 설명이 뒤따랐고, 구성원의 이해도가 매우 높다면 알아서 고쳐 쓸 수 있다는 단서도 달렸다. 나쁜 구조라는 뜻은 아니라는 말도 덧붙었다. 이 경고는 해당 참가자의 읽기이며, 도구가 실제로 그렇게 동작하는지는 대화에서 확인되지 않았다.

다른 참가자들의 의견도 비슷한 방향이었다. 한 참가자는 메모리를 MCP로 제어하는 방식이 훅보다 토큰 호출을 더 부른다고 짚었다.

메모리를 MCP로 제어한다…. 훅도 아니고 MCP로 하면 토큰 더 콜링 될꺼고

그는 중간의 메모리 수정 루프가 잘 파악한다면을 전제로 하는 구조라고도 짚었고, 메모리 쪽은 상위 모델을 써도 성능이 아쉽다는 경험담도 있었다. 한 개발자 참가자는 그 정도 이해도가 있다면 직접 만들어 쓰는 편이 낫다고 거들었다.

고로 자기한테 맞는걸 자기가 만드는게 베스트

메모리 도구 비교로 번진 대화

질문자는 직접 만들어 쓸 여유는 없어 보인다고 답한 뒤, 결정은 의사결정권자에게 넘기겠다고 했다. 대화는 곧 메모리 도구 이야기로 옮겨 갔다. 다른 참가자가 다른 오픈소스 링크를 올렸고, 한 참가자가 하인드사이트를 쓰시는군요라고 짚었다. 구조를 뜯어보던 참가자는 하인드사이트를 써 보지 않았다면서 좋으냐고 되물었다가, 알고 보니 AI가 알아서 가져와 이미 쓰고 있었다는 사실을 그 자리에서 알아챘다고 했다.

이 무렵 하인드사이트, 구미호메모리, 메모리뱅크가 서로 다 비슷하다는 말이 나왔다. 이 도구들은 대화 흐름상 에이전트의 기억을 맡는 메모리 도구로 읽힌다(기사 설명이다). 다른 참가자는 몇 달 전에는 하인드사이트가 벤치마크 1위였지만 이후 메모라가 나오면서 바뀌었을 것이라고 말했다. 이 순위 이야기는 아마라는 단서를 단 기억 속 추측이며, 메모라가 무엇인지는 대화에서 설명되지 않았다. 한편 오픈소스로 일부만 공개하고 나머지는 판매하는 방식이 RAG나 메모리 분야에서는 알맹이가 빠진 것처럼 느껴진다는 지적도 나왔다.

풀이

이 대화에서 읽히는 것은 도입 결정의 기준이 점수나 기능이 아니라는 점이다. 질문자는 구조를 읽고 괜찮아 보인다고 느꼈고, 구조를 뜯어본 참가자는 같은 구조에서 토큰 낭비와 내부 유출을 먼저 봤다. 같은 코드를 두고 이렇게 시선이 갈린 것은 도구의 완성도 문제라기보다 이를 운영할 조직의 이해도와 여력을 얼마나 높게 잡느냐의 차이로 보인다(이 해석은 기사 설명이다).

오픈소스 에이전트 도구나 지식그래프형 구조가 사내에 들어올 때, 앞단 지식의 품질 관리와 접근 권한 설계, 토큰 비용 구조가 도입 이전에 먼저 점검될 항목이라는 점을 시사한다. 메모리 도구들이 서로 비슷하다는 평은 선택지가 많다는 뜻이기도 해서, 결국 회사에 맞게 고쳐 쓰는 비용이 선택의 무게를 가를 가능성이 있다.