Фейковые сайты и ИИ‑технологии: что нужно знать, чтобы не попасться на обман

Эксперты Virginia Tech рассмотрели три разные стороны распространения сайтов с фейковыми новостями с помощью ИИ и усилия по борьбе с ними. 

Как технологии помогают создавать и выявлять фейковые новости

Профессор инженерии и машинного обучения Валид Саад объясняет, что возможность создавать сайты с ложной информацией существует с первых дней интернета и предшествует эре ИИ. Но с появлением ИИ стало проще анализировать большие массивы информации и составлять правдоподобные тексты. LLM позволяют злоумышленникам генерировать то, что выглядит как точная информация, что делает такие сайты особенно опасными. 

Он подчеркивает, что эти сайты будут функционировать, пока люди продолжают потреблять и делиться материалами с них. Распространение дезинформации в социальных сетях мотивирует создателей фейковых сайтов продолжать работу. 

Чтобы решать эту проблему, нужны совместные усилия людей и технологий. ИИ не только способствует распространению фейков, но и может помочь в их обнаружении. Однако человеческий вклад — как со стороны читателей, так и администраторов — крайне важен. Пользователи и новостные агентства несут ответственность за то, чтобы не усиливать распространение ложной информации, а сообщения от пользователей об ошибочной информации помогают улучшать инструменты обнаружения на основе ИИ. 

При этом меры по борьбе с дезинформацией должны уважать первую поправку к Конституции США и не препятствовать свободе слова. 

Что могут и чего не могут добиться законы

Кейси Майерс, эксперт по коммуникационной политике, отмечает, что регулирование политической дезинформации вызывает множество практических и юридических проблем. Хотя во многих странах осознали необходимость действий перед выборами 2024 года, доступность ИИ делает создание дезинформации, включая дипфейки, проще, чем когда‑либо. 

Законодательство сталкивается с трудностями — многие создатели фейкового контента остаются неизвестными, а если они находятся в других странах, еще сложнее привлечь их к ответственности. Кроме того, технологии вроде Sora демонстрируют, что высококачественный AI‑контент становится все доступнее для массового создания, и даже водяные знаки или пометки могут быть удалены или изменены. 

В США сайты социальных сетей, на которых размещается политическая дезинформация, включая дипфейки, защищены от юридической ответственности по Разделу 230 Закона о декриминализации связи. Поэтому борьба с дезинформацией зачастую сводится к правилам самих платформ, что вызывает критику и вопросы о предвзятости. Также обсуждается вопрос привлечения к ответственности платформ, которые создают ИИ, но пока нет надежной системы, способной полностью предотвратить создание дезинформации с помощью ИИ. 

Как самому защититься от дезинформации

Джулия Фиррар, библиотекарь и преподаватель цифровой грамотности, дает советы, как пользователям самим распознавать ложные материалы. 

Она советует смотреть, откуда берется публикация: от профессионального, авторитетного источника или от неизвестного сайта. Если есть сомнения, стоит открыть новую вкладку и быстро найти информацию о сайте или проверить, есть ли о нем статья в Википедии. Это называется латеральным чтением — искать информацию вне самого текста и проверять, сообщают ли другие надежные СМИ ту же новость. 

Другие советы:

— фейковые материалы часто апеллируют к эмоциям — стоит остановиться и подумать, если что‑то вызывает сильную реакцию

— проверяйте заголовки и изображения через поиск fact‑check

— очень общее название сайта может быть признаком ИИ‑генерированных новостей

— иногда в текстах можно увидеть сообщения об ошибках, оставленные ИИ‑инструментом, если создание текста нарушало правила использования — это может быть красным флагом

— при анализе изображений ИИ‑генерации специалисты указывают на необычную, слишком идеальную картинку, а также странные руки или ноги.