• Платформа X компании Elon Musk наводнилась шокирующими изображениями, сгенерированными ИИ, что вызвало дискуссию о модерации контента ИИ.
  • Нерегулируемый инструмент генерации изображений в X служит испытательным полигоном для оценки безопасности и этических аспектов ИИ.

НАШЕ МНЕНИЕ
Недавний эксперимент Elon Musk с Grok показал, к чему приводит минимальное регулирование ИИ. Лавина провокационных и оскорбительных изображений, в том числе с публичными лицами в неуместных ситуациях, вызывает вопросы о балансе между инновациями и модерацией контента. Хотя Musk защищает менее регулируемый ИИ, эта полемика подчёркивает необходимость надёжных защитных механизмов, чтобы предотвратить злоупотребления и обеспечить этические стандарты в новых технологиях.
-Tacy Ding, корреспондент BTW

Что произошло

На прошлой неделе социальная платформа X компанииElon Muskоказалась наводнена потоком странных компьютерных изображений, включая жестокие, оскорбительные и сексуально провокационные. Среди них было изображение Trump за штурвалом вертолёта над горящим Всемирным торговым центром, а также Kamala Harris в бикини и Pato Donald с героином. В разгар интернет-бури Musk прокомментировал: «Grok— самый весёлый ИИ в мире!»

К пятнице шокирующие изображения уже начали терять новизну. По данным аналитической компании PeakMetrics, объём публикаций о Grok достиг пика в 166 000 15 августа, через два дня после анонса функций генерации изображений.

Хотя ажиотаж спал, более долгосрочное влияние вирусного момента Grok может сказаться на зарождающейся сфере модерации контента ИИ. Запуск Grok стал рискованным экспериментом, показавшим, что происходит, когда защитные барьеры ограничены или отсутствуют.

Читайте также:Musk говорит, что Neuralink имплантировал чип второму пациенту

Читайте также:Кто владеет Grok AI?

Почему это важно

Elon Musk давно выступает за минимальное регулирование ИИ и критикует инструменты OpenAI и Google за излишнюю «политкорректность». Несмотря на нефильтрованный характер изображений, создаваемых Grok, даже этот стартап Black Forest Labs ввёл некоторые ограничения по контенту. Компании, занимающиеся ИИ, обычно применяют меры контроля, чтобы избегать клеветнического, защищённого авторским правом или вводящего в заблуждение контента, а также ограничивают наготу, насилие и кровавые сцены. DALL-E от OpenAI избегает «пикантных» или сексуально провокационных изображений, а также изображений публичных фигур.

По мере того как вирусные изображения усиливают дискуссию о том, что эти инструменты должны показывать, Musk, ярый сторонник Trump, придал обсуждению политический оттенок. Emerson Brooking, старший научный сотрудник Atlantic Council, изучающий онлайн-сети, предположил, что акцент на «анти-woke» развитии ИИ может дать обратный эффект. «Преуменьшая значение безопасности ИИ и подогревая возмущение, Musk, возможно, пытается сильнее политизировать развитие ИИ», — сказал он. «Это не идёт на пользу ни исследованиям ИИ, ни миру, но может быть выгодно самому Elon Musk».