Метод текстовых водяных знаков OpenAI для выявления текста, созданного ИИ

Метод текстовых водяных знаков OpenAI для выявления текста, созданного ИИ, рассматривается BTW Media, поскольку опубликованные данные связывают его с интернет-инфраструктурой, управлением интернетом, операционными зависимостями или видимостью на рынке.

• Метод текстовых водяных знаков предполагает внесение небольших изменений в то, как ChatGPT выбирает слова, и создание невидимого водяного знака в тексте, который впоследствии можно обнаружить с помощью отдельного инструмента.
• OpenAI осторожно оценивает возможные негативные последствия текстовых водяных знаков, включая уязвимость к обходу злоумышленниками и риск непропорционального воздействия на такие группы, как люди, для которых английский не является родным.

НАША ОЦЕНКА
Метод текстовых водяных знаков OpenAI играет важную роль в решении этой проблемы: он нацелен на выявление текстов, созданных именно ChatGPT, и предлагает точечный подход к обнаружению потенциально недобросовестного контента. Вместе с тем этот метод порождает важные вопросы, включая уязвимость к обходу злоумышленниками и возможное непропорциональное воздействие на такие группы, как люди, для которых английский не является родным.
— Lia XU, корреспондент BTW

Что произошло

По даннымThe Wall Street Journal, OpenAI разработаламетод текстовых водяных знаковдля выявления текста, созданного ИИ; его основная задача — отследить студентов, которые с помощью ChatGPT выполняют учебные задания. Этот метод предполагает внесение небольших изменений в то, как ChatGPT выбирает слова, и создание невидимого водяного знака в тексте, который впоследствии можно обнаружить отдельным инструментом.

Впрочем, представитель OpenAI заявил: «Компания применяет „взвешенный подход“ из-за сложности вопроса и вероятного влияния на более широкую экосистему, выходящую за пределы OpenAI. У метода есть важные риски, которые мы оцениваем, исследуя альтернативы, включая уязвимость к обходу злоумышленниками и возможность непропорционально затронуть такие группы, как неанглоязычные пользователи».

OpenAI также обновила свой блог, сообщив, что, хотя текстовые водяные знаки позволяют хорошо выявлять часть контента, созданного ИИ, злоумышленники могут легко обойти их, а сам метод может отпугнуть людей, для которых английский не является родным, от использования ИИ как полезного инструмента для письма.

Читайте также:Следующая модель OpenAI пройдёт проверки безопасности правительства США

Читайте также:OpenAI поддерживает законодательство, определяющее будущее ИИ

Почему это важно

Этот метод текстовых водяных знаков может помочь образовательным учреждениям поддерживать академическую честность, выявляя случаи, когда студенты используют ИИ для списывания в учебных работах. Он способен сдерживать академическую недобросовестность и обеспечивать справедливое оценивание. Направленность исключительно на выявление текстов, созданных ChatGPT, отличает этот метод от других и обеспечивает более точную идентификацию текста, сгенерированного ИИ. Такой точечный подход повышает эффективность инструмента в обнаружении возможных случаев списывания.

Однако для этичного внедрения важно учитывать риски обхода метода злоумышленниками и возможное влияние на отдельные группы пользователей, например на тех, для кого английский не является родным. Необходим сбалансированный подход к его применению. Продуманная стратегия OpenAI по исследованию и оценке рисков, связанных с методом текстовых водяных знаков, демонстрирует приверженность разработке ответственных технологий ИИ. Это обеспечивает соответствие внедрения инструмента этическим стандартам и снижение негативных последствий для различных групп пользователей и экосистемы.