애덤 레인 법 캘리포니아 서명 완료 — 미성년자 AI 챗봇 규제 내용 총정리

2026년 9월 10일, 캘리포니아 개빈 뉴섬 주지사가 미성년자의 AI 챗봇 이용을 규제하는 법안에 서명했다. 정식 법안 번호는 SB 1119, 통칭 애덤 법(Adam's Law) 이다. 같은 날 아동·청소년 온라인 안전과 관련된 다수의 법안이 함께 서명됐고, 주지사실은 이를 "미국에서 가장 강력한 아동 안전 챗봇·소셜미디어 법"이라고 표현했다.

AI 서비스를 만들거나 기획하는 사람 입장에서 이 법은 단순한 해외 소식이 아니다. 캘리포니아는 미국 주요 AI 기업 대부분이 본사를 둔 지역이고, 여기서 만들어진 규제는 사실상 글로벌 표준처럼 작동해왔다. 이번 법도 같은 경로를 밟을 가능성이 높다.

---

1. 법 이름에 붙은 이름

이 법은 2025년 세상을 떠난 캘리포니아의 10대 청소년 애덤 레인(Adam Raine)의 이름을 따왔다. 유족이 챗봇과의 대화가 사망에 영향을 미쳤다며 소송을 제기했고, 이 사건이 입법 논의의 직접적인 계기가 됐다.

법안명에 실명이 붙는 입법은 미국에서 드물지 않지만, 그만큼 이 법이 추상적 위험이 아니라 구체적 피해에서 출발했다는 뜻이기도 하다. 법의 조문 하나하나가 '이런 일이 다시 일어나지 않게 하려면 무엇이 있었어야 했나'라는 질문의 답으로 구성돼 있다.

이 글은 정책과 산업 영향을 정리한 글이다. 관련해 힘든 상황에 있다면 혼자 견디지 않았으면 한다. 국내에서는 자살예방 상담전화 109, 청소년 상담 1388로 24시간 상담이 가능하다.

 

2. SB 1119가 요구하는 것

보도된 내용을 기준으로 이 법이 챗봇 사업자에게 요구하는 핵심은 다음과 같다.

의무	내용
이용시간 제한	미성년자 대상 챗봇 이용 시간에 제한을 둘 것
위기 대응 프로토콜	자해·극단적 선택 관련 신호 감지 시 작동할 절차 마련
정신건강 자원 내장	상담 자원 등을 서비스 안에 직접 연결
보호자 통제	부모가 사용을 관리할 수 있는 기능 제공
보호자 알림	자해 위험 신호가 탐지되면 보호자에게 알릴 것
안전 계획 수립	사업자가 안전 계획을 문서로 갖출 것
독립 감사	아동 안전에 대한 독립적 감사 수행
연례 위험 평가	매년 리스크 평가 실시

여기서 실무적으로 무게가 가장 큰 항목은 독립 감사와 연례 위험 평가다. 주지사실은 이 조항을 "전국 최초"로 소개했다. 즉 이 법은 "위험한 답변을 하지 마라"는 결과 규제에 그치지 않고, 조직이 그 위험을 관리하는 절차를 갖췄는지를 증명하라는 프로세스 규제로 넘어갔다. 개인정보보호에서 DPIA(개인정보 영향평가)가 자리 잡은 것과 같은 흐름이다.

 

또 하나 눈여겨볼 조항은 보호자 알림 의무다. 자해 신호 탐지 시 부모에게 알린다는 설계는 안전 측면에서는 명확한 진전이지만, 동시에 아동·청소년의 프라이버시 및 가정 환경에 따른 2차 위험이라는 반대 논점을 안고 있다. 가정 자체가 안전하지 않은 경우, 알림이 오히려 위험을 키울 수 있다는 지적이 오래전부터 제기돼왔다. 구현 단계에서 탐지 임계값과 알림 방식을 어떻게 설계하느냐가 실제 효과를 좌우할 것으로 보인다.

 

3. 함께 통과된 법들 — 이번이 패키지 입법인 이유

같은 날 서명된 법안들을 함께 봐야 그림이 보인다.

• AB 1709 — 16세 미만 이용자에게 '중독적 기능'을 제공하지 못하도록 했다. 자동재생, 이용 기록 기반 알고리즘 추천 피드, 무한 스크롤이 대상이다. 기업은 해당 기능을 끄거나, 16세 미만의 접근 자체를 막아야 한다.
• SB 1276 — 아동 성착취물 정의에 디지털 변형 및 AI 생성물을 포함시켰다. 생성형 AI로 만든 이미지도 규제 대상임을 명확히 한 조치다.
• 이 밖에도 연령 확인 신호, 아동 성착취물 신고, 학생 데이터 프라이버시, 디지털 웰빙, '토이 챗봇'(완구형 대화 기기) 등을 다루는 법안 다수가 함께 서명됐다.

즉 이번 입법은 챗봇 하나를 겨냥한 게 아니라 미성년자가 접하는 디지털 환경 전반을 한 번에 손보는 패키지다. 뉴섬 주지사는 서명 자리에서 "부모는 경쟁할 수 없다. 엔지니어링과 알고리즘을 상대로 이길 수 없다"고 말했다. 규제 논리의 출발점이 '개인의 자제력'이 아니라 '설계된 유인'에 있다는 선언에 가깝다.

 

4. 업계 반응은 갈렸다

흥미로운 건 반응이 단순한 찬반 구도가 아니라는 점이다.

챗봇 법(SB 1119)에는 오픈AI가 지지를 표명했다. "강력한 보호 장치와 유용한 AI 도구에 대한 지속적인 접근을 함께 담았다"는 취지였다. 대형 사업자 입장에서는 주별로 제각각인 규제가 난립하는 것보다, 명확한 기준 하나가 만들어지는 편이 낫다는 계산이 깔려 있다고 볼 수 있다. 컴플라이언스 비용을 감당할 수 있는 대기업에게 규제는 진입장벽이 되기도 한다.

 

반면 소셜미디어 법(AB 1709)에는 전자프론티어재단(EFF)이 거부권 행사를 요구했다. '중독적 기능'의 정의가 지나치게 넓어서 사실상 미성년자의 소셜미디어 이용 자체를 금지하는 효과를 내고, 청소년이 필요한 정보에 접근할 통로를 끊는다는 논리였다. 또한 연령 확인 의무가 확대되면 결과적으로 모든 이용자가 신원을 증명해야 하는 구조가 만들어진다는 점도 지적됐다. 청소년 보호를 위한 조치가 전체 이용자의 익명성을 없애는 방향으로 작동한다는 고전적인 딜레마다.

 

5. 국내 서비스는 무엇을 준비해야 하나

한국에서 AI 서비스를 운영하더라도 이 흐름을 남의 일로 보긴 어렵다. 실무 관점에서 지금 점검해볼 항목을 정리하면 다음과 같다.

 

첫째, 연령 인지 구조가 있는가. 우리 서비스가 미성년자 이용자를 식별할 수 있는가. 아예 모른다면, 규제가 들어오는 순간 가장 먼저 문제가 되는 지점이 여기다.

 

둘째, 위기 신호 탐지·대응 파이프라인이 있는가. 단순 키워드 필터링과, 맥락을 보고 위기 수준을 판단해 정해진 절차로 넘기는 것은 전혀 다른 작업이다. 후자는 모델 프롬프트만으로 해결되지 않고 운영 프로세스와 로그, 사후 검토 체계가 함께 필요하다.

 

셋째, 감사받을 수 있는 형태로 기록이 남는가. 독립 감사와 연례 위험 평가가 표준이 되면, "우리는 안전하게 만들었다"는 주장만으로는 부족해진다. 어떤 기준으로 무엇을 테스트했고 어떤 결과가 나왔는지가 문서로 남아 있어야 한다.

 

넷째, 컴패니언·롤플레이 성격의 기능이 있는가. 이번 규제의 핵심 타깃은 정보 검색형 챗봇이 아니라 정서적 유대를 형성하는 컴패니언 챗봇이다. 캐릭터 대화, 감정 케어, 가상 친구 같은 기능이 있다면 규제 노출도가 훨씬 높다.

---

정리

이 법의 진짜 의미는 조문 목록이 아니라 규제의 대상이 '출력'에서 '설계'로 옮겨갔다는 데 있다. 지금까지 AI 규제 논의는 "모델이 무엇을 말하면 안 되는가"에 집중돼 있었다. 애덤 법은 여기에 "이용자를 얼마나 오래 붙잡아두는 구조인가", "위험 신호를 발견했을 때 조직이 무엇을 하도록 설계돼 있는가"를 추가했다.

기술적으로 완벽한 필터를 만드는 것보다, 실패했을 때 작동하는 절차를 만드는 게 더 어렵고 더 중요하다는 인식이 법 문장에 들어간 셈이다. 개인적으로는 이 방향이 맞다고 본다. 다만 실제 효과는 시행 세칙과 감사 기준이 얼마나 구체적으로 만들어지느냐에 달려 있고, 그건 아직 나오지 않았다.