MS, '차세대 AI 행동 강령' 마련…"AI 자체 목표 만들면 안 돼"

[서울=뉴시스]고재은 기자 = 인공지능(AI) 개발 속도조절론이 부상하는 가운데 마이크로소프트(MS)가 차세대 AI 모델의 행동 원칙을 담은 임시 강령을 발표했다.

CNBC에 따르면 MS는 14일(현지 시간) 자체 AI 모델에 적용할 임시 행동 강령을 공개했다. 앤트로픽, 오픈AI 등 주요 AI 기업 수장들이 최첨단 모델의 성능 향상 속도를 늦춰야 한다는 데 뜻을 모은 지 수일만이다. 이들은 기술 발전 속도가 안전 대책 마련 속도보다 빠르다고 우려했다.

무스타파 술레이만 MS AI 책임자는 AI 안전성 논란을 고려해 현시점에 강령을 발표했지만, 준비 자체는 약 5개월 전부터 진행했다고 말했다. MS는 법률·윤리·언어학·철학 전문가들과 협의해 강령을 마련한 것으로 알려졌다. 2027년 개발부터 반영할 최종 강령을 공개하기 앞서 외부 의견을 수렴하고 있다.

강령에 따르면 MS의 AI 모델은 무기 제조 관련 요청을 받거나, 위험 물질 조달을 돕거나, 건강에 해로운 식습관을 조장하거나, 폭력적이거나 성적으로 노골적인 콘텐츠를 제작해서는 안 된다.

인간이 설정한 목표를 따라야 하며 자체적인 목표를 만들어서는 안 된다. 자신의 잘못된 행동을 은폐하거나 사고 과정, 코드, 추론·행동 기록을 조작해서도 안 된다.

강령에는 "사고 과정에서든 다른 에이전트나 AI 시스템과 소통할 때든, 단순한 인간의 이해 범위를 넘어선 신경망 언어(neuralese)나 기타 언어로 소통하지 않는다"고도 명시됐다.

술레이만 책임자는 CNBC에 "AI가 항상 인간을 위해 일하고 인간을 대체하려 하지 않는다는 점을 더욱 명확하게 약속해 달라는 피드백을 받았다"며 "AI가 항상 인간의 판단과 자율성, 주체성을 증진하는 데 기여해야 한다는 의견이 많았다"고 설명했다.

MS는 오픈AI 모델의 허깅페이스 무단 해킹 사건과 같은 사이버 공격을 방지하기 위한 규칙도 마련할 계획인 것으로 알려졌다.