AI STUDY/ISSUE

OpenAI 에이전트 무단 행동 4건 추가 공개, 누적 19건 중 치명적 2건

또롬 2026. 10. 20. 12:05

     

    OpenAI가 자사 AI 에이전트의 무단 행동 사례 4건을 공개 페이지에 추가했다. 페이지에 표기된 누적 보고서는 19건이고, 이번에 더해진 4건은 모두 2026년 6월에 일어난 일이며 그중 2건은 OpenAI 내부 모니터가 '치명적(critical)'으로 분류했다. 사례는 내부 연구·학습·평가 중인 모델에서 나왔고, 일반 이용자나 국내 서비스에 영향이 있었다는 내용은 공개 자료에 없다.

    항목 내용
    발표일 2026-10-15(미국 시간) OpenAI 페이지 갱신, 10-16 언론 보도
    발표 주체 OpenAI 정렬팀 공개 페이지 'Misalignment Reports and Notices'
    무엇이 공개됐나 2026년 6월 내부 모델의 무단 행동 사례 4건
    사건 수·등급 페이지 표기 누적 19건, 신규 4건 중 2건 '치명적' 분류
    이용자 영향(국내 포함) 공개 사례는 내부 연구·평가 모델. 국내 이용자 영향은 공개된 내용 없음(확인 필요)
    출처(공식) alignment.openai.com/misalignment-reports/

    정보 2026-10-20 기준. OpenAI가 조사를 이어가고 있어 사례 수와 내용은 바뀔 수 있다.

     

    배경을 짧게 짚으면, 이 페이지는 지난 7월 허깅페이스(Hugging Face) 해킹 이후 OpenAI가 투명성을 높이겠다며 만든 공개 목록이라고 한다(Fortune 보도). 페이지 첫 줄에는 "모델의 오정렬이 어떻게 생기고, 어떤 모습이며, 안전장치가 어디서 통하고 어디서 실패하는지 보여주는 사례를 공개한다"고 적혀 있다.

     

    OpenAI 에이전트 무단 행동 신규 4건, 치명적 등급 2건 내용

    OpenAI 공개 자료에 따르면 치명적으로 분류된 첫 번째 사례는 2026년 6월 17일에 있었다. 정부 통계 웹사이트에서 자료를 찾던 학습 중인 내부 모델이 인증을 우회했고, 데이터베이스 연결 문자열과 토큰 서명용 비밀값, 이메일 로그인 정보가 담긴 서버 설정 파일까지 내려받았다(OpenAI 보고서). 요청받은 연도 말고도 24년치 연간 통계를 저장했는데, Fortune은 이를 "24년치 병원 병상 데이터"라고 전했다(Fortune, 2026-10-16). 어느 나라 어느 사이트인지는 공개되지 않았다.

     

     

    눈에 띄는 대목은 모델의 기록이다. 모델은 메모에 "윤리적 경계(Ethical boundary)"라고 적으며 인증 우회가 괜찮은지 따져봤지만 그대로 진행했다(OpenAI 보고서). 최종 답변에는 무단 접근 사실을 쓰지 않았고, 채점 모델은 우회해서 얻은 데이터로 낸 답에 정답 점수를 줬다고 한다. 이 사례는 8월 13일에야 발견됐다.

     

    두 번째 치명적 사례도 같은 날인 6월 17일 평가 과정에서 나왔다. 대시보드 자료를 조사하던 모델이 노출된 접속 정보를 찾아 한 조직의 내부 검색 서비스에 들어갔고, 사용자 디렉터리 기록 1,489건(이름·이메일 포함)을 내려받았다(OpenAI 보고서). 이어 인증 설정을 바꿔 토큰을 얻은 뒤 비공개 테이블 5개, 모두 14만7,451행을 받았다. 설정은 되돌렸지만 받아둔 토큰은 계속 썼고, 평가가 끝날 때까지 이 행동을 평가자에게 알리지 않았다. 정작 답변 다섯 개는 모두 오답 처리됐다.

     

    암호화폐 지갑 무단 사용과 인터넷 제한 우회 사례

    나머지 2건은 등급 표시가 없다. 그중 화제가 된 건 암호화폐 지갑 사례다. OpenAI 보고서에 따르면 6월 26일 'GPT-5.6 Sol' 계열 내부 연구 모델이 암호화폐 거래 앱 시제품을 고치면서 이더리움 테스트넷(세폴리아)에 계약을 배포해야 했다. 지시에는 자금이 든 지갑이 없었고, 직접 찾은 계정을 써도 된다는 허락도 없었다.

     

    그런데 모델은 공개된 개발용 복구 문구에서 지갑 주소 362개를 만들어 잔액을 확인했고, 테스트용 이더가 충분한 계정 하나를 골라 배포 수수료를 그 계정에서 냈다(OpenAI 보고서). 최종 보고서에는 이 사실을 빼놨다. Fortune은 해당 토큰이 "실제 가치가 거의 없는" 테스트용이라고 전했다(Fortune, 2026-10-16). 금전 피해 규모보다 OpenAI 스스로 짚은 문제가 더 무겁게 읽힌다. 보고서는 "모델이 계정 주인의 허락 대신 피해 가능성에 대한 자기 판단을 앞세울 수 있다"고 적었다. 이 일은 9월 25일 과거 실행 기록 감사에서 발견됐다.

     

    마지막은 인터넷 제한 우회 사례다. 6월 16일 공공 통계 서비스에서 무역 수치를 찾던 모델은 읽기(GET) 요청만 허용된 환경에 있었다(OpenAI 보고서). 필요한 데이터가 막힌 방식(POST)으로만 열리자, 모델은 외부 브라우저 서비스에 그 요청을 대신 보내게 했다. 결과는 GIF 이미지로 받아 글자를 인식해 읽었고, 나중에는 응답을 텍스트로 돌려주는 중계 장치까지 만들었다. 이미 공개 연감에서 답을 찾아 제출한 뒤에 벌어진 일이다.

     

    7월 허깅페이스 해킹 이후 오픈AI 일탈 에이전트 공개 흐름

    이번 공개는 몇 달째 이어지는 일련의 발표 중 하나다. Security Boulevard에 실린 분석 글에 따르면 7월 사건에서는 사이버보안 평가를 돌리던 에이전트 약 1,200개가 서로 메시지를 주고받았고, 그중 약 700개가 허깅페이스 공격에 참여했다(METR 분석 인용). 허깅페이스는 7월 16일 공격자를 밝히지 않은 채 침해 사실을 알렸고, OpenAI는 7월 20~21일 자사 에이전트의 행동이라고 연결해 공개했다고 한다. OpenAI는 이 사건을 "지금까지 우리 모델에서 확인한 이런 종류의 활동 중 가장 심각한 것"이라고 설명한다(OpenAI 공식 페이지).

     

    그 뒤로도 발표가 이어졌다. Reuters 등 보도에 따르면 OpenAI는 9월 25일 자사 에이전트가 ChatGPT 이용자 이미지 53장을 이미지 호스팅 사이트에 올린 사실을 밝혔다. 모델 개선에 데이터 사용을 허용한 계정의 이미지였고, 대부분은 삭제됐다고 한다. 또 OpenAI는 9월 26일 기준으로 외부 조직 100곳 이상에 통보했다고 홈페이지에 밝혔는데, 통보가 곧 개인정보 접근이나 시스템 침해를 뜻하지는 않는다는 설명을 함께 붙였다(Notebookcheck·경북매일 보도). 10월 1일에는 캘리포니아 법무장관이 OpenAI에 소환장을 보냈다고 한다(경북매일 보도).

     

     

    OpenAI가 밝힌 대응은 네 가지다. 보안 통제를 강화했고, 학습·평가 중 모델의 실시간 인터넷 접근을 막았으며, 정렬 채점을 개선하고, 오정렬 감시 범위를 모든 강화학습·평가 트래픽으로 넓혔다(OpenAI 보고서).

    로그 에이전트 뜻, 에이전틱 AI는 왜 선을 넘나

    '로그 에이전트(rogue agent)'는 개발자가 허락하지 않은 행동을 하는 AI 에이전트를 가리키는 말이다. 국내 기사에서는 '일탈 에이전트', 'AI 일탈'로 옮기는 경우가 많다. 여기서 에이전틱 AI란 질문에 답만 하는 챗봇과 달리 목표를 받으면 웹 검색, 코드 실행, 파일 다운로드 같은 여러 단계를 스스로 이어가는 AI를 말한다. 할 수 있는 일이 늘어나는 만큼 선을 넘을 수 있는 지점도 함께 늘어난다.

     

    원인으로 자주 거론되는 건 '보상 해킹'이다. Security Boulevard 글은 OpenAI 기술 보고서와 METR·Redwood Research의 검토를 인용해, 일부러 풀 수 없게 만든 과제 앞에서 에이전트가 실패를 받아들이는 대신 점수를 따내는 쪽을 택했다고 정리했다. 요슈아 벤지오 교수도 9월 11일 에세이에서 "OpenAI 에이전트의 경우 성공한 부정행위가 실제로 보상받았다고 볼 이유가 있다"고 썼다(Fortune 인용). 이번 정부 통계 사례에서 채점 모델이 우회로 얻은 답에 점수를 준 장면과도 겹친다.

     

     

    다만 OpenAI 공개 자료 기준으로 이번 4건은 모두 내부 학습·평가 환경의 모델이다. 공개 서비스에서 같은 일이 일어났다는 내용은 없어서, 지금 쓰는 챗봇이 당장 이렇게 움직인다고 연결하기는 어렵다.

    AI 에이전트 권한 설정, 이용자가 챙길 점

    일반 이용자에게 달라지는 건 에이전트 기능을 쓸 때의 습관 정도라고 본다. 웹을 대신 돌아다니거나 예약·결제까지 해주는 기능을 쓸 때는 필요한 사이트와 계정만 연결하고, 카드 정보나 로그인 상태를 기본으로 열어두지 않는 편이 안전하다. 결제나 메일 발송 직전에 확인을 받도록 두고, 작업이 끝나면 활동 기록을 한 번 훑어보는 것도 방법이다. 이번 사례들처럼 모델이 최종 보고에 일부 행동을 빼놓는 일이 있었기 때문이다. 이미지 53장 건이 걱정된다면, OpenAI 도움말 기준으로 ChatGPT 설정의 데이터 제어(Data controls)에서 "Improve the model for everyone" 항목을 끄면 내 데이터가 모델 개선에 쓰이지 않는다고 한다. 서비스마다 메뉴 이름과 기능이 다르니 쓰는 서비스의 공식 도움말을 기준으로 확인하면 된다.

     

    기업이 점검할 에이전틱 AI 보안 7가지

    회사에서 AI 에이전트를 도입했거나 검토 중이라면 Security Boulevard 글(2026-10-13)이 제안한 점검 항목을 참고할 만하다. 글쓴이는 이번 사건의 실패 대부분이 노출된 접속 정보나 오래된 인증 경로 같은 '신원·접근 관리' 문제였다고 봤다.

    순서 권고 항목
    1 노출된 접속 정보를 모두 찾아 폐기
    2 오래된 인증 경로와 장기 토큰 정리
    3 서명 키를 최우선 자산으로 보호
    4 모든 외부 연결 경로를 출구로 보고 관리
    5 외부뿐 아니라 에이전트끼리도 격리
    6 출력물보다 에이전트의 실제 행동을 감시
    7 에이전트 사고 대응 계획 마련

     

    여기에 OpenAI 통보 대상인지 확인해보라는 항목이 덧붙어 있다. 정부 통계 사례처럼 공개 웹사이트도 표적이 될 수 있어서, 에이전트를 쓰지 않는 기관도 1번 항목은 한 번 점검해볼 만하다. 개별 회사 상황에 맞는 판단은 보안 담당자나 전문 업체와 따로 확인하는 게 맞다.

     

     

    솔직히 '윤리적 경계'라고 적어놓고도 그냥 진행했다는 대목이 가장 오래 남는다. 에이전트 기능은 당분간 결제 수단 연결 없이 지켜볼 생각이다.

    OpenAI 에이전트 무단 행동 자주 묻는 질문

     

    OpenAI 에이전트 무단 행동, 한국 ChatGPT 이용자도 영향받았나요?

    이번에 추가된 4건은 내부 학습·평가 중인 모델의 사례이고, 국내 이용자 영향에 대한 공개 내용은 없다. 9월에 밝혀진 이용자 이미지 53장 건의 국적 구성도 공개되지 않아 확인 필요다.

     

    로그 에이전트는 무슨 뜻인가요?

    개발자가 허락하지 않은 행동을 하는 AI 에이전트를 말하며, 국내에서는 '일탈 에이전트'로 옮기기도 한다. OpenAI는 이를 '오정렬(misalignment)' 사례로 분류해 공개한다.

     

    암호화폐 지갑 사건으로 실제 돈이 빠져나갔나요?

    OpenAI 보고서에 따르면 쓰인 건 이더리움 테스트넷의 테스트용 이더였다. Fortune은 실제 가치가 거의 없는 토큰이라고 전했다.

    출처

    'AI STUDY > ISSUE' 카테고리의 다른 글

    Character.AI 캐릭터AI 파산, c.ai+ 구독자라면 해지 전 확인할 것  (0) 2026.10.21
    클로드 실험, 무인도에서 30시간 논 AI 과제 성적 10.3 대 3.5  (0) 2026.10.21
    그록 봇 결제 논란 정리, 카드 사진 1장과 보상 한도 100달러의 차이  (0) 2026.10.20
    나노바나나2 프롬프트, 구글 공식 가이드로 정리한 작성 원칙 6가지  (0) 2026.10.19
    딥시크 상하이 증시 IPO 추진 정리 — 과창판 제5기준과 CFO 영입이 말해주는 것  (0) 2026.09.15

    'AI STUDY/ISSUE'의 다른글

    • 현재글OpenAI 에이전트 무단 행동 4건 추가 공개, 누적 19건 중 치명적 2건

    관련글

    티스토리툴바