• OpenAI поощряет использование GPT в сторонних приложениях, позволяя пользователям ChatGPT встраивать их в любой разговор,набрав «@» и выбрав GPTв списке.
  • GPT будут понимать весь контекст беседы и смогут использоваться для разных сценариев и задач.
  • OpenAI столкнулась с трудностями модерации из-за проблем, связанных с сексуальным подтекстом и политическими кампаниями, а боты нарушили условия OpenAI.

Хотя пользоваться им стало проще, проблема утечек информации из ИИ снова заслуживает нашего внимания. ChatGPT сталкивается с утечками информации не впервые. В марте 2023 года ChatGPT раскрыл заголовки обсуждений из-за бага; в ноябре того же года исследователи обнаружили, что ChatGPT можно обманом заставить раскрыть большой объём приватной информации из его обучающих данных с помощью специальных запросов. Становятся ли более умные интеллектуальные продукты благом или проклятием?

Прямое использование ИИ

OpenAIпредставила революционную функцию для пользователей ChatGPT, позволяющую напрямую интегрировать генеративные предобученные трансформеры (GPT) в свои диалоги. Просто набрав «@» и выбрав GPT из списка, пользователи могут настраивать взаимодействие с различными GPT под конкретные контексты и задачи, улучшая общий разговорный опыт. Это развитие последовало за недавним запуском GPT Store — удобного маркетплейса, встроенного в панель управления ChatGPT. Здесь пользователи могут без труда создавать GPT без навыков программирования, что открывает новую эру персонализации и гибкости.

Постоянная проблема

Хотя это нововведение является значительным шагом вперёд, OpenAI сталкивается с рядом вызовов, заслуживающих внимания и обсуждения. В частности, наблюдается тревожная тенденция низкого трафика на пользовательские GPT: он составляет лишь 2,7 % всей веб-активности ChatGPT в мире. Это снижение, отмечаемое с ноября, ставит вопросы о том, как пользователи принимают и осваивают пользовательские GPT.

Кроме того, GPT Store столкнулся с проблемами модерации, что высветило тёмную сторону этого технологического прогресса. На платформе появились неподобающие чат-боты, некоторые из которых содержат контент сексуального характера и участвуют в политических кампаниях, нарушая условия и этические нормы OpenAI. Это подчёркивает важность надёжных механизмов модерации для безопасного и ответственного использования технологий ИИ. Объединяя процессы ручной и автоматизированной проверки, OpenAI приняла меры для решения этих проблем, удалив нарушающие приложения.

Соседство многообещающей интеграции GPT в разговоры и вызовов, таких как низкий трафик пользовательских GPT и проблемы модерации, порождает интригующие дискуссии. Возможные направления для изучения включают предпочтения и опасения пользователей относительно пользовательских GPT, эффективность стратегий модерации в ограничении нежелательного контента и более широкие социальные последствия интеграции продвинутого ИИ в повседневное общение.

Кроме того, анализ возможных стратегий, которые OpenAI могла бы применить для стимулирования принятия пользовательских GPT и защиты GPT Store от злоупотреблений, открывает путь для углублённого анализа и дискуссий.

Читайте также:Италия стала первой страной, запретившей ChatGPT, ссылаясь на правила конфиденциальности

Размышления о технологических проблемах

Поскольку ИИ способен собирать и анализировать огромные объёмы данных и получать из них сведения о людях, это может приводить к нарушениям приватности.

Например, умные колонки могут слушать и записывать наши разговоры, а затем передавать эти данные на облачные серверы для анализа. Хотя производители утверждают, что защищают приватность пользователей, реальность такой защиты вызывает споры. В то же время технологические компании должны быть прозрачны с пользователями относительно сбора и использования данных, чтобы пользователи понимали, как их личные данные будут использоваться и защищаться. Наконец, защита приватности и безопасности данных требует широкого участия всех слоёв общества.

Эксперты и исследователи из разных областей должны глубоко изучать влияние технологий ИИ на приватность и безопасность данных и предлагать решения. Кроме того, общественность должна лучше понимать технологии ИИ и уделять им внимание, активно участвовать в соответствующих дискуссиях и процессах принятия решений, совместно защищая приватность и безопасность данных. В целом, быстрое развитие ИИ создаёт новые вызовы для приватности и безопасности данных, но существует множество способов защитить себя.

Правительство, технологические компании, исследовательские институты и общественность должны работать вместе, чтобы выработать разумную политику и принять соответствующие меры для решения этих проблем. Только так мы сможем добиться, чтобы технологии ИИ приносили нам больше удобства и безопасности, а не становились инструментом, угрожающим нашей приватности и безопасности данных.