Вы болтаете с произраильским суперботом на базе искусственного интеллекта? | Интерактивные новости

По данным исследования американской компании Imperva, занимающейся кибербезопасностью, к концу 2023 года почти половину всего интернет-трафика составляли боты.

Плохие боты достигли самого высокого уровня, зафиксированного Imperva, и составили 34 процента интернет-трафика, а хорошие боты составили оставшиеся 15 процентов.

Частично это произошло из-за растущей популярности искусственного интеллекта (ИИ) для генерации текста и изображений.

По словам Байдуна, обнаруженные ими произраильские боты в основном направлены на то, чтобы посеять сомнения и замешательство в отношении пропалестинской истории, а не на то, чтобы вместо этого заставить пользователей социальных сетей им доверять.

Армии ботов — от тысяч до миллионов вредоносных ботов — используются в крупномасштабных кампаниях по дезинформации, чтобы повлиять на общественное мнение.

По мере того, как боты становятся все более продвинутыми, становится все труднее отличить бот-контент от человеческого контента.

«Способность ИИ создавать эти более крупные сети ботов… оказывает чрезвычайно пагубное воздействие на правдивое общение, но также и на свободу выражения мнений, поскольку они способны заглушать человеческие голоса», — сказала Джиллиан Йорк, директор по международной свободе выражения в международном агентстве. некоммерческая группа по цифровым правам Electronic Frontier Foundation.

Эволюция ботов

Ранние боты были очень простыми и действовали в соответствии с заранее заданными правилами, а не использовали сложные методы искусственного интеллекта, используемые сегодня.

Начиная с начала и середины 2000-х годов, когда развивались такие социальные сети, как MySpace и Facebook, боты для социальных сетей стали популярными, поскольку они могли автоматизировать такие задачи, как быстрое добавление «друзей», создание учетных записей пользователей и автоматизация публикаций.

Эти ранние боты имели ограниченные возможности обработки языка — они понимали только узкий диапазон предопределенных команд или ключевых слов и отвечали на них.

«Раньше онлайн-боты, особенно в середине 2010-х годов… в основном повторяли один и тот же текст снова и снова. Текст… очевидно, будет написан ботом», — сказал Семаан.

К 2010-м годам быстрый прогресс в области обработки естественного языка (НЛП), отрасли искусственного интеллекта, которая позволяет компьютерам понимать и генерировать человеческий язык, означал, что боты могут делать больше.

Исследование, проведенное исследователями Пенсильванского университета, показало, что во время президентских выборов в США в 2016 году между Дональдом Трампом и Хиллари Клинтон треть твитов в поддержку Трампа и почти пятая часть твитов в поддержку Клинтон исходили от ботов во время первых двух дебатов.

Затем появился более продвинутый тип НЛП, известный как модели большого языка (LLM), использующие миллиарды или триллионы параметров для генерации текста, похожего на человеческий.