인공지능(AI) 서비스의 확산으로 수혜를 톡톡히 보고 있는 AI 기업의 수장들이 오히려 AI 오용에 대한 우려가 커질 거라며 모델 개발 속도를 늦추자고 촉구하고 나서 눈길을 끈다. 그러면서 그릇된 AI의 사용이 유발할 사회적 문제를 막기 위한 업계 내 공조의 필요성을 역설했다.
13일 IT업계에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)(사진)는 이날 자신의 엑스(X·옛 트위터)에 “우리는 AI 모델의 성능을 향상시키는 속도를 늦춰야 한다. 이를 통해 확보한 시간을 현명하게 사용해야 한다”라는 글을 게재했다.
아모데이 CEO는 AI의 자기 개선 능력이 향상되면 인간의 통제 능력을 벗어날 거란 우려가 여전하다고 봤다. 그는 이어 “앤트로픽은 스스로 안전을 더 중시하는 프런티어 연구소로 자부했지만, 이젠 이러한 우려에서 완전히 자유롭지는 않다”면서 “AI 능력 개발 속도가 가속화되는 점을 감안하면, 6~12개월 내에 AI 군집이 인터넷 전체를 장악해 잠재적으로 수천억 달러의 피해를 입힐 수 있다는 점이 우려된다”고 덧붙였다. 최근 앤트로픽의 연구원인 제이콥 콕슨은 “AI를 만드는 사람들은 AI가 10년 내로 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다”는 말을 남기고 회사를 떠난 바 있다.
아모데이 CEO의 의견에 여러 AI 리더들도 공감의 뜻을 표했다. 라이벌인 오픈AI의 샘 올트먼을 비롯해 xAI를 이끄는 일론 머스크 CEO, 데미스 허사비스 딥마인드 창업자도 아모데이 CEO의 주장에 동의한다는 의견을 표명했다. 특히 올트먼 CEO는 이날 공개된 경제전문지 ‘포천’과의 인터뷰에서 AI 안전 우려를 들어 연내 오픈AI 상장 계획을 미루겠다고 밝혔다. 올트먼은 “안전과 정렬을 위해 필요한 과제들을 해결하고 업계와 정부가 어떻게 협력할지 모색하는 등 해야 할 일이 많다”며 “(IPO가) 2026년은 아닐 것”이라고 말했다.
아모데이 CEO는 AI모델의 안전성을 검증하기 위해 프런티어 AI 기업 내부의 위험 평가 프로세스에 접근할 수 있는 제3자 검토관을 두자는 아이디어도 냈다. 그는 “AI 모델 훈련이나 기술적 진보 자체를 중단하자는 건 아니다”면서 “기업들이 모델을 정렬하고 안전장치를 마련하는 데 충분한 시간을 할애하고 제3자 평가자가 이러한 조치를 검증할 수 있도록 해야 한다”고 제안했다. 아모데이 CEO는 이어 “의회에서 AI 시스템 규제를 위한 새로운 법안에 대한 요구가 커지고 있다”면서 “AI 기업들이 자발적으로 협력해 표준을 마련해야 한다”고 강조했다. 최근 올트먼 CEO 역시 “직원에 준하는 접근 권한을 가진 독립적 평가자를 두는 데 전념할 것”이라는 견해를 밝힌 바 있다.
다만 AI 모델 개발 속도 개발은 중국에 대해 지닌 우위를 지키는 선에서 제한돼야 한다는 견해다. 아모데이 CEO는 “AI 분야에서 중국이 우위를 점할 경우 미국의 국가 안보에 위협이 될 것”이라고 주장했다. 그러면서 “중국과의 격차가 좁혀지는 걸 방지하기 위해 첨단 AI칩, 모델 종류, 모델 가중치 탈취에 대한 통제를 강화해야 한다”고 촉구했다.
오현승 기자 hsoh@segye.com
