최근 인공지능(AI) 기술의 급속한 발전과 함께 발생하는 AI의 ‘환각(Hallucination)’ 현상은 데이터에 기반하지 않은 잘못된 정보 생성을 초래해 기술 신뢰성 확보에 심각한 문제로 대두되고 있다. 제시아 플랫폼은 지난 20일 서울 KG타워에서 열린 ‘AI Convergence Forum 2025(AICF 2025)’에서 이와 같은 AI 환각 문제를 근본적으로 해결할 수 있는 혁신적인 기술 구조를 개발하고 발표했다.
◆AI 환각 문제의 기술적 해결을 위한 핵심 구조
제시아 플랫폼이 제안하는 기술적 신뢰 아키텍처는 TEE(Trusted Execution Environment), ZKP(Zero-Knowledge Proof), EIP7911(Ethereum Improvement Proposal 7911)의 세 가지 첨단 기술을 기반으로 구성돼 있다.
첫째, TEE는 하드웨어 수준의 격리된 보안 환경을 제공하여 민감한 데이터와 AI 연산 알고리즘을 외부 간섭 및 해킹 위험으로부터 철저하게 보호한다. 둘째, ZKP는 AI가 수행한 결정의 타당성을 원본 데이터를 공개하지 않고도 수학적으로 증명하는 고급 암호화 방식으로, 환각 현상을 근본적으로 방지한다. 셋째, EIP7911은 이더리움에 공식 제안되어 현재 드래프트 상태이며, AI가 학습한 데이터 패턴을 스마트컨트랙트를 통해 자동으로 검증하고 조건 충족 시 실행하는 표준 프로토콜을 제공한다.
◆Climo AI를 통한 탄소 감축 분야 실증 사례
제시아 플랫폼은 본 기술 구조를 적용한 Climo AI 시스템을 구축해 환각 현상 없는 신뢰도 높은 탄소 감축 데이터 분석 및 검증 솔루션을 실현했다. 이 시스템은 실시간으로 탄소 배출 데이터를 측정하여 명확한 기준 충족 시 자동으로 탄소 크레딧을 발행하고 블록체인에 이를 기록하여 거래의 투명성을 보장한다.
◆복합 조건 분야로의 기술 확장 전략
제시아 플랫폼은 본 기술 구조를 금융, 헬스케어, 공공 행정, 콘텐츠 산업, 공급망 관리 등 다양한 복합 조건이 요구되는 분야로 확장할 계획이다. 이를 위해 AI가 복합적인 패턴 기반 결정을 정확히 내릴 수 있도록 ZKP 알고리즘의 연산 성능 고도화 및 최적화 연구를 진행하고 있다.
제시아 플랫폼 관계자는 “AI의 환각 문제는 고신뢰성 AI 기술 발전에 필수적 해결 과제”라며 “본 신뢰 아키텍처는 실제 데이터를 기반으로 정확한 판단과 자동 실행을 보장하여 산업 전반에 걸쳐 신뢰할 수 있는 AI 기술 환경을 제공할 것”이라고 강조했다.
현정민 기자 mine04@segye.com
