Калифорния превратила безопасность чат-ботов-компаньонов из политических дебатов в требование к продукту. 10 сентября 2026 года губернатор Гэвин Ньюсом подписал сенатский законопроект 1119, известный как «Закон Адама».
Эта мера была подана госсекретарю в тот же день, что и глава 190 Статута 2026 года.
Это принятый закон, а не предложение, не законопроект, ожидающий нового голосования, и не постановление, которое может быть принято, а может и не быть.
Это различие имеет значение, поскольку некоторые из основных обязанностей закона вступают в силу 1 июля 2027 года.
Официальная страница законопроекта и объявление губернатора от 10 сентября описывают структуру, построенную на обеспечении возраста, оценке рисков, дефолтах, с которыми сталкиваются дети, реагировании на кризис, ограничениях конфиденциальности и внешнем обзоре.
Разработчики должны рассматривать ближайшие месяцы как время реализации, а не как повод отложить планирование.
Закон касается дизайна, а не только раскрытия информации.
Закон Адама применяется к операторам, которые делают закрытых чат-ботов-компаньонов доступными для пользователей Калифорнии.
Закон определяет ребенка как человека младше 18 лет и использует существующее юридическое определение «чат-бота-компаньона».
Не обязательно охвачен каждый виджет автоматизированной справки.
Точное определение продукта, количество пользователей и установленные законом исключения имеют значение, включая исключения для определенных видов использования в сфере высшего образования и только на рабочем месте.
Для продуктов, подпадающих под действие закона, закон требует, чтобы оператор определял возраст пользователя с помощью калифорнийской системы обеспечения возраста или применял определенные меры защиты детей в более широком смысле.
Начиная с 1 июля 2027 года оператор должен провести и задокументировать комплексную оценку рисков, прежде чем сделать нового или существенно модифицированного сопутствующего чат-бота доступным в штате.
Оценка должна учитывать прогнозируемый покрываемый ущерб, включая физический или финансовый вред, серьезный психологический или эмоциональный вред, определенные нарушения конфиденциальности и незаконную дискриминацию.
Это больше, чем просто требование публиковать обнадеживающие формулировки.
Эксплуатант должен документировать разумные меры по снижению выявленных рисков для безопасности детей.
Если детям разрешено использовать чат-бот, оператор должен опубликовать политику безопасности детей, объясняющую на высоком уровне, как продукт предотвращает покрываемый ущерб и реагирует при его обнаружении.
Дочерним учетным записям нужны более безопасные настройки по умолчанию.
Текст, разбитый на главы, превращает несколько концепций безопасности в конкретные требования к интерфейсу и учетной записи.
Чат-бот-компаньон, обращенный к ребенку, должен иметь документированный протокол реагирования на кризисные ситуации, направленный на устранение рисков самоубийства и членовредительства.
Продукт должен обеспечивать своевременную поддержку во время эксплуатации и направление в соответствующую кризисную службу.
Когда оператор обнаруживает реальную и непосредственную угрозу, закон требует определенных действий, которые могут включать уведомление связанной родительской учетной записи, если это не создаст угрозы серьезного вреда, или предоставление упрощенного доступа к линии помощи 988 Suicide & Crisis Lifeline или эквивалентной услуге.
Настройки по умолчанию также являются центральными.
Настройки, контролируемые родителем, должны отключить push-уведомления, ограничить один непрерывный сеанс одним часом и ограничить общее ежедневное использование чат-бота двумя часами.
Постоянная разговорная память обычно по умолчанию отключена для детей-пользователей, если оператор не применяет эффективные меры безопасности, описанные законом.
Если ни одна родительская учетная запись не связана, эти настройки по умолчанию не могут быть просто изменены ребенком.
Закон также требует периодических, соответствующих возрасту уведомлений о том, что пользователь взаимодействует с ИИ.
Это требование признает важную реальность дизайна: раскрытие информации, показанное один раз во время адаптации, может не иметь смысла во время продолжительного, эмоционально насыщенного разговора.
Конфиденциальность является частью модели безопасности.
Закон Адама не рассматривает конфиденциальность отдельно от благополучия детей.
С 1 июля 2027 года оператор не может показывать ребенку кросс-контекстную поведенческую рекламу через сопутствующего чат-бота.
Он не может таргетировать рекламу, используя личную информацию из разговора ребенка, хотя закон разрешает ограниченную контекстную рекламу при определенных условиях.
Реклама, показанная детям