마이크로소프트(MS)가 차세대 인공지능(AI) 모델의 행동 원칙을 담은 임시 강령을 공개했다. AI 개발 속도를 늦춰야 한다는 이른바 ‘속도조절론’이 확산하는 가운데, MS는 AI가 인간의 통제를 벗어나지 않고 어디까지나 인간을 위한 도구로 작동해야 한다는 원칙을 분명히 했다.

 

MS는 14일(현지시간) 자사 홈페이지를 통해 AI 모델 행동강령을 발표하고, 이 강령이 “인간이 AI보다 중요하다는 단순한 전제에서 출발한다”고 밝혔다.

 

MS는 “이 행동강령은 인간을 최우선으로 하여 설계되고, 인간의 필요에 기반을 두며, 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 의지를 명시한다”고 설명했다.

 

강령에 따르면 MS의 AI 모델은 인간의 지시에 따라 승인된 범위 안에서만 작동해야 한다. AI가 스스로 독립적인 목표를 설정하거나, 부여받은 권한 범위를 넘어서는 행동은 허용되지 않는다.

 

자신의 추론 과정이나 코드 등을 조작하거나 은폐하는 행위도 금지된다. 또한 ‘신경망어’처럼 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위 역시 제한된다.

MS는 AI가 인간처럼 설계돼서는 안 된다는 점도 강조했다. 특히 AI가 의식을 가진 것처럼 보이도록 만들거나, 인간과 유사한 존재로 오인될 수 있게 설계해서는 안 된다는 입장이다.

 

아울러 MS는 ‘AI는 도구’라는 원칙을 명확히 했다. 강령에는 “우리는 AI 모델이 법인격 지위 획득을 추구하는 것이나, 모델이 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다”는 내용이 담겼다.

 

무스타파 술레이만 MS AI 책임자는 AI 안전성 논란을 고려해 현시점에 강령을 발표했지만, 준비 자체는 약 5개월 전부터 진행해 왔다고 밝혔다.

 

MS는 법률, 윤리, 언어학, 철학 분야 전문가들과 협의해 이번 강령을 마련한 것으로 알려졌다. 2027년 개발부터 반영할 최종 강령을 공개하기에 앞서 현재 외부 의견을 수렴하고 있다.

 

술레이만 책임자는 CNBC에 “AI가 항상 인간을 위해 일하고 인간을 대체하려 하지 않는다는 점을 더 명확하게 약속해 달라는 피드백을 받았다”고 말했다. 이어 “AI가 항상 인간의 판단과 자율성, 주체성을 증진하는 데 기여해야 한다는 의견이 많았다”고 설명했다.

MS는 오픈AI 모델의 허깅페이스 무단 해킹 사건과 같은 사이버 공격을 방지하기 위한 규칙도 마련할 계획인 것으로 알려졌다.

 

MS의 이번 AI 강령 공개는 앤트로픽, 오픈AI 등 주요 AI 기업 수장들이 최첨단 모델의 성능 향상 속도를 늦춰야 한다는 데 뜻을 모은 지 수일 만에 나왔다.

 

이들은 AI 기술 발전 속도가 안전 대책 마련 속도보다 빠르다며 우려를 나타낸 바 있다.