클라우드네트웍스(대표이사 정흥균)가 글로벌 API·AI 연결성 기업 Kong(콩)과 파트너십을 체결하고 Kong AI Gateway의 국내 공급을 시작한다고 18일 밝혔다.
Kong AI Gateway는 기업의 AI 트래픽을 단일 관문에서 통합 관리하는 AI 게이트웨이다. 이번 파트너십은 생성형 AI와 LLM 활용이 실제 업무로 확산되면서 AI 호출에 대한 통제와 거버넌스 수요가 커지는 가운데, 국내 기업의 AI 운영 체계 구축을 지원하기 위해 추진됐다.
기업의 AI 도입이 실험 단계에서 서비스 운영 단계로 들어서면서, AI 호출을 어떻게 통제하고 관측할 것인지가 새로운 운영 과제로 떠오르고 있다. LLM 호출 역시 API 형태로 이뤄지기 때문에 인증, 보안, 모니터링이 가능한 중앙 관문의 필요성이 커지고 있다. 여기에 여러 LLM 공급자, RAG, MCP, 에이전트 간 호출이 얽히면서 기존 API 게이트웨이만으로는 AI 트래픽을 일관되게 관리하기 어려운 환경이 형성되고 있다.
Kong은 API 및 AI 연결성 기술을 개발하는 글로벌 기업으로, 오픈소스로 널리 사용되는 Kong Gateway를 기반으로 API 관리 플랫폼을 제공해 왔다. 최근에는 API 관리 영역에서 LLM, MCP, 에이전트 간(A2A) 트래픽까지 관리 범위를 넓히고 있으며, Kong AI Gateway가 이 가운데 AI 트래픽 관리를 담당한다.
Kong AI Gateway는 기존 API 게이트웨이 개념을 확장해 LLM과 생성형 AI API 호출을 중앙에서 제어, 보안, 관측할 수 있도록 설계됐다. Kong Gateway와 동일한 런타임을 기반으로 하며, 여러 LLM 공급자의 호출을 단일 표준 인터페이스로 관리한다.
주요 기능 측면에서 Kong AI Gateway는 인증·인가, 사용량 제한, 감사 로그 등 기존 API 보안 정책을 AI 호출에도 동일하게 적용한다. 또한 PII 제거, 프롬프트 통제, 의미 기반 캐싱, 트래픽 관측 등 AI 특화 기능을 게이트웨이 계층에서 제공해, 애플리케이션마다 개별로 구현하던 보안·정책을 공통 운영 계층으로 표준화할 수 있도록 지원한다.
AI 활용이 서비스 운영 단계로 접어들수록 기업은 모델 성능뿐 아니라 호출 경로에 대한 통제, 비용 관리, 감사 체계를 함께 설계해야 하는 상황에 놓이고 있다. 클라우드네트웍스는 Kong AI Gateway의 국내 공급과 함께 고객 환경에 맞는 아키텍처 설계, 구축, 연계, 기술 지원을 제공한다. 이를 통해 게이트웨이 계층의 통제 체계를 기존 AI 운영 환경과 연결하고, AI 거버넌스 포트폴리오를 확장한다는 방침이다.
클라우드네트웍스 정흥균 대표이사는 "생성형 AI가 실제 업무에 적용되면서 기업은 모델 성능뿐 아니라 AI 호출을 어떻게 통제하고 관측할지 함께 고려해야 하는 상황에 놓여 있다"며 "클라우드네트웍스는 AI 운영 환경 구축 경험을 바탕으로 Kong AI Gateway를 공급하며 국내 기업의 AI 거버넌스 체계를 지원하겠다"고 말했다.
데이비드 칼리스(David Carless) Kong 아시아태평양·인도·일본 지역 부사장은 “올해는 금융, 제조, 유통 등 국내 주요 기업을 중심으로 Kong AI Gateway 도입이 본격화되는 중요한 시점”이라며 “클라우드네트웍스의 성숙한 AI 기술 역량과 폭넓은 사업 기반을 바탕으로 기업들이 안정적인 AI 거버넌스 체계를 구축할 수 있도록 협력을 더욱 강화해 나갈 것이며, Kong도 이를 지속적으로 지원할 것”이라고 말했다.
황지혜 기자 jhhwang@segye.com
