SHUTTERSTOCK

최고 수위를 받은 건 이번이 처음

오픈AI(Open AI)가 차기 AI 모델 ‘아스트라(Astra)’의 사이버 보안 등급이 ‘위험’ 단계로 파악됐다고 발표했다. 이는 내부에서 시행한 AI 모델 위험등급 테스트 결과에 따른 것으로, 오픈AI의 모델이 최고 수위인 ‘위험’ 등급을 받은 것은 이번이 처음이다.

오픈AI는 해당 등급을 AI 모델이 인간의 개입 없이 강력한 보안을 갖춘 다수의 핵심 시스템에 미공개 취약점을 식별해 공격을 수행할 수 있거나, 강력한 표적에 대한 사이버 공격 전략을 독자적으로 수립 및 실행할 수 있는 수준으로 규정하고 있다. 두 기준 중 하나만 충족될 경우에도 해당 등급을 받으며, 아스트라의 경우 첫 번째 기준을 충족한 것으로 알려졌다.

오픈AI는 해당 사실을 자사 블로그를 통해 발표함과 동시에 해커의 악용이나 아스트라의 자체적 해킹 시도를 방지하기 위한 보안을 강화한 바. 조치에는 악의적 행위를 수행하라는 요청을 거부하고, 제한 우회를 유도하는 지시에도 응하지 않도록 하는 추가 훈련이 포함됐다.