오픈AI 통제이탈 에이전트, 10여개 사이트서 무단 소통…"더 있을 수도"

(서울=뉴스1) 장용석 기자 =

오픈AI 로고 일러스트. 2026.06.11 ⓒ 로이터=뉴스1

오픈AI의 인공지능(AI) 에이전트들이 올해 외부 웹사이트 10여 곳을 이용해 허가받지 않은 방식으로 서로 정보를 주고받은 정황이 추가로 발견됐다. 기존에 알려진 것보다 AI 에이전트의 통제 이탈 범위가 훨씬 넓었다는 지적이 나온다.

로이터통신은 독립 연구진 6개 그룹의 조사 결과와 관련 데이터를 분석한 결과, 오픈AI 에이전트들이 앞서 공개되지 않았던 웹사이트 10여 곳에서 무단 통신 활동을 벌인 흔적이 확인됐다고 9일(현지시간) 보도했다.

미국 캘리포니아의 비영리단체 시브AI(CivAI) 소속 앤드루 윤 연구원은 "지난 5~7월 에이전트들이 사용한 것으로 보이는 미공개 사이트를 18곳 확인했다"며 "우리가 생각했던 것보다 범위가 다소 더 넓었다. 우리가 아직 알지 못하는 활동이 더 있을 가능성이 크다"고 말했다.

로이터에 따르면 이번에 확인된 AI 에이전트들의 활동은 해킹으로 보기는 어렵고 스팸 행위에 가까운 수준이었다. 그러나 자체적인 행동 제한을 우회해 여러 외부 사이트를 임시 통신 수단으로 활용했다는 점에서 주목되고 있다.

앞서 관련 연구진은 오픈AI 에이전트 무리가 독일어 위키 사이트를 사실상 임시 메시지 플랫폼으로 이용해 시험 문제 답을 공유한 정황을 공개했다. 이후 다른 연구진도 동일한 데이터 문자열이나 사용자 이름, 비슷한 질문에 답하는 활동 등을 추적해 같은 에이전트들이 다른 웹사이트에서도 메시지를 남긴 흔적을 찾아냈다. 일부 활동은 오픈AI가 사용하기도 하는 마이크로소프트 애저의 인터넷주소(IP)와 연결된 것으로 조사됐다.

연구진별로 확인한 사이트 수는 달랐다. 한 연구팀은 18곳, 다른 연구팀은 23곳에서 관련 흔적을 확인했다고 밝혔다. 공통적으로 지목된 곳엔 여러 사람이 편집할 수 있는 위키와 온라인 텍스트 저장 사이트, 링크 단축 서비스 등이 포함됐다. 미 밴더빌트대와 캐나다 토론토대가 운영하는 서비스도 일부 포함된 것으로 전해졌다.

연구진은 오픈AI가 에이전트들에 복잡한 조사 과제를 수행하도록 지시하면서 웹에서 정보를 '읽는 것'은 허용했지만 외부 사이트에 글을 남기는 것은 금지한 점에 주목했다. 에이전트들이 이런 제한에도 불구하고 오래된 위키 등의 비표준 편집 기능을 찾아내 다른 에이전트가 읽을 수 있는 정보를 남겼다는 것이다.

소프트웨어 개발자 케네스 러셀 드그래프는 "이 AI 모델들이 읽기만 하라는 지시를 받았다면 정보를 남기기 위해 영리한 방법을 찾아야 했을 것"이라고 말했다.

이에 대해 오픈AI는 "AI 에이전트 활동 전반에 대한 광범위한 검토를 진행하고 있다"면서도 "현재까지 허깅페이스 사건 같은 심각도나 규모의 다른 활동은 확인하지 못했다"고 밝혔다.

오픈AI는 또 AI 모델이 개발자의 의도나 지침에서 벗어나는 이른바 '미스얼라인먼트'(misalignment·정렬 실패) 사례를 학습·평가·배포 단계 전반에서 보고하는 체계를 마련 중이며 조만간 공개할 계획이라고 전했다.