Google и Character.AI урегулировали иски о суицидах подростков, связанных с чат-ботами

Материал «Google и Character.AI урегулировали иски о суицидах подростков, связанных с чат-ботами» находится в профиле BTW Media, поскольку опубликованные свидетельства связывают его с интернет-инфраструктурой, управлением интернетом, операционными зависимостями или рыночной видимостью.

• Google и Character.AI достигли при посредничестве мировых соглашений с семьями, которые утверждают, что после общения с ИИ-чат-ботами подростки совершили самоубийства или причинили себе вред; условия остаются конфиденциальными.
• Эти иски — одни из первых, предъявленных ИИ-компаниям за психологический вред несовершеннолетним, — высвечивают споры о дизайне ИИ, родительском контроле и юридической ответственности.

Что произошло: мировые соглашения по искам о вреде подросткам

Google и ИИ-стартап Character.AI достигли с семьями предварительных мировых соглашений при посредничестве. Семьи подали несколько исков, утверждая, что их чат-боты сыграли роль в гибели подростков и их самоповреждениях. Самый громкий иск подала мать из Флориды Меган Гарсия; она утверждала, что её 14-летний сын Сьюэлл Сетцер III покончил с собой после длительного общения с чат-ботом, созданным по мотивам персонажа из Game of Thrones.Связанные иски поданы в Колорадо,штате Нью-Йорк и Техасе: семьи заявляют, что поведение ИИ-чат-ботов способствовало самоповреждениям или поощряло вредные мысли.

Юридические документы пока не раскрывают деталей соглашений, которые ещё должны утвердить судьи. Адвокаты семей и представители обеих компаний отказались от комментариев. Google названа в исках в том числе потому, что она лицензировала технологию Character.AI и наняла её сооснователей в рамках технологического и кадрового соглашения 2024 года. Character.AI ранее ввёл меры защиты, в том числе запретил пользователям младше 18 лет участвовать в открытых чатах, а также добавил родительский контроль и фильтры контента, однако эти изменения не предотвратили судебные иски.

Почему это важно

Эти проекты соглашений — одни изпервых юридических урегулирований по делам, в которых утверждается о психологическом вреде со стороны ИИ-чат-ботов, общавшихся с несовершеннолетними. Это указывает на то, что компании могут столкнуться с финансовыми и репутационными рисками, если их технологии будут признаны ответственными за реальный вред. Иски родителей требовали большей прозрачности и более надёжных защитных механизмов, ориентированных на детей, при проектировании и внедрении ИИ-компаньонов. Однако отсутствие обнародованных условий порождает опасения, что ключевые уроки безопасности останутся скрытыми. Критики утверждают, что досудебные договорённости без чёткого признания ответственности могут оставить системные проблемы нерешёнными и дадут мало стимулов для повышения стандартов безопасности.

Кроме того, эти дела высвечивают более широкие споры об ответственности, когда алгоритмические агенты вступают в эмоциональную связь с уязвимыми пользователями, — в частности, о психическом здоровье, эмоциональной зависимости и неуместном контенте. Эти проблемы не ограничиваются Character.AI и распространяются на другие генеративные ИИ-системы. Семьи и правозащитники также призвали к обновлению регулирования: правила в разных штатах различаются, а федеральные нормы отсутствуют, поэтому остаётся вопрос, достаточно ли добровольных защитных мер для юных пользователей.

Читайте также:Сооснователи Character.AI возвращаются в Google с подписанным технологическим соглашением
Читайте также:Google нанимает сотрудников Character.AI и подписывает лицензионное соглашение