- Генеральный директор Microsoft Сатья Наделлаподчеркнул необходимость действовать быстро после появления в сети поддельных изображений поп-звезды Тейлор Свифт.
- Учитывая, насколько легко можно манипулировать генераторами ИИ, в отчёте отмечаются неизбежные сложности с соблюдением таких ограничений.
- Высказываются опасения по поводу распространения инструментов ИИ, которые помогают создавать поддельные фотографии, и подчёркивается необходимость комплексных решений новых проблем в цифровой сфере.
Дискуссия об ИИ и «нарушениях реальности» перешла в мир известной знаменитости — Тейлор Свифт, которая недавно стала объектом распространённых в сети дипфейков. Эта тема актуализировала один из самых обсуждаемых страхов вокруг генеративного ИИ: достаточно ли создатели и компании, занимающиеся генеративным ИИ, делают для защиты от злоупотреблений?
Честный ответ
Генеральный директор Microsoft Сатья Наделла отреагировал на опасения по поводу появления откровенных ИИ-изображений Тейлор Свифт. В интервью NBC Nightly News Наделла назвал рост числа симулированной наготы без согласия «шокирующим и пугающим», подчеркнув необходимость действовать быстро.
В интервью, которое должно выйти в эфир в ближайший вторник, Наделла признал серьёзность ситуации, когда интервьюер Лестер Холт обратил внимание на то, что интернет переполнен фальшивыми порнографическими изображениями Тейлор Свифт. Ответ Наделлы затронул сложность вопросов технологической политики и важность надёжных мер защиты для снижения подобных инцидентов.
Я бы сказал две вещи. Во-первых, я снова возвращаюсь к тому, что считаю нашей ответственностью: это все необходимые ограждения, которые мы должны установить вокруг технологии, чтобы создавался более безопасный контент. И здесь многое предстоит сделать, и многое уже делается. Но речь идёт о глобальном, общественном — знаете, я бы сказал, — сближении по определённым нормам. И мы можем, особенно когда закон, правоохранительные органы и технологические платформы действуют вместе, — думаю, мы можем управлять гораздо большим, чем сами себе приписываем.
Сатья Наделла, генеральный директор Microsoft
Наделла подчеркнул, что Microsoft намерена предпринять необходимые шаги для обеспечения более безопасного создания контента в технологической сфере. Он отметил важность установления глобальных социальных норм, взаимодействия с правоохранительными органами и использования технологических платформ для эффективного контроля за онлайн-контентом.
Хотя есть признаки того, что Microsoft могла быть причастна к распространению этих поддельных изображений Свифт, отчёт 404 Media указывает, что изображения поступили из сообщества в Telegram, занимающегося созданием порнографии без согласия. По имеющимся данным, это сообщество рекомендовало использовать генератор изображений Microsoft Designer, хотя считается, что он запрещает генерировать изображения публичных лиц. Однако, учитывая, насколько легко можно манипулировать генераторами ИИ, в отчёте подчёркиваются неизбежные сложности с обеспечением соблюдения таких ограничений.
Хотя эти события выявляют технические недоработки, которые Microsoft, возможно, придётся устранить, они также отражают более широкие опасения по поводу распространения инструментов искусственного интеллекта, помогающих создавать поддельные обнажённые фотографии. Эта тенденция вызвала острую дискуссию и подчеркнула необходимость комплексных решений для новых вызовов в цифровой сфере.
Маленькое сообщество, большая сила
Некоторые говорили, что Microsoft может быть причастна к поддельным изображениям Свифт. Отчёты 404 Media указывают, что изображения поступили из сообщества в Telegram, занимающегося производством порнографии без согласия и рекомендующего использовать генератор изображений Microsoft Designer. Теоретически конструктор отказывается генерировать изображения знаменитостей, но генераторы ИИ легко обмануть, и 404 выяснила, что его правила можно обойти, тонко настраивая промпты. Хотя это не доказывает, что конструктор использовался для создания изображений Свифт, это техническая недоработка, которую Microsoft может исправить.
Однако инструменты ИИ значительно упростили создание фальшивой обнажённой натуры реального человека, создавая хаос для женщин, которые гораздо менее влиятельны и известны, чем Свифт. Контролировать их производство не так просто, как заставить крупные компании усилить защитные механизмы. Даже если крупные платформы «бигтеха», такие как Microsoft, будут заблокированы, можно переобучить открытые инструменты вроде Stable Diffusion для создания изображений NSFW, несмотря на попытки усложнить этот процесс.
Гораздо меньше пользователей могут иметь доступ к таким генераторам, но инцидент со Свифт показывает, насколько широко может распространиться работа небольшого сообщества.
Наделла пока лишь в общих чертах предлагает более масштабные социальные и политические изменения, однако, несмотря на первые шаги по регулированию ИИ, у Microsoft нет чёткого решения. Законодатели и правоохранительные органы испытывают трудности с тем, как бороться с изображениями сексуального характера без согласия, а подделки, созданные искусственным интеллектом, добавляют ещё одно осложнение. Некоторые законодатели пытаются изменить законы о праве на публичность, чтобы решить проблему, но предлагаемые решения часто создают серьёзные риски для свободы слова.
Белый дом призвал к «законодательным действиям» по этому вопросу, но даже он почти не сообщил деталей о том, что это значит.
Впрочем, есть и другие меры: например, социальные сети могут ограничивать охват изображений без согласия, или, судя по всему, Свифт может устраивать самосуд над теми, кто их распространяет. Пока же единственный чёткий план Наделлы — навести порядок в собственном подразделении Microsoft по искусственному интеллекту.