Искусственный интеллект (ИИ) как оружие информационной войны


Искусственный интеллект (ИИ) как оружие информационной войны

Манипуляции людьми через социальные медиа могут достигнуть невиданных масштабов в связи с удешевлением и более широким распространением новых технологий. Это: 1) Генерация текста на основе искусственного интеллекта (ИИ); 2) Чат-боты в социальных сетях.

👁313

Манипуляции людьми через социальные медиа могут достигнуть невиданных масштабов в связи с удешевлением и более широким распространением новых технологий. 
Это:
1) Генерация текста на основе искусственного интеллекта (ИИ);
2) Чат-боты в социальных сетях.

Да, уже сейчас боты способны в отдельных случаях заглушить реальные человеческие дискуссии в Сети. Но пока что это в основном «управляемые вручную» аккаунты, что существенно увеличивает себестоимость работы таких «ботов». Однако, как предупреждают аналитики, 2020 год может стать первым годом, когда ботов, полностью сгенерированных и управляемых ИИ, в интернете будет больше, чем реальных или даже «поддельных» людей, вместе взятых.

И это грозит обессмысливанием публичных дискуссий или, что особенно важно, политических дебатов, поскольку боты теперь могут повернуть в нужную сторону любую полемику в соцсетях.
Ранее сделать это было гораздо сложнее, ведь люди в основной своей массе могли отличать ботов от реальных людей - комментарии ИИ были шаблонны, к тому же боты не могли вести долгую предметную дискуссию.

Но в недавнем эксперименте специалист из Гарварда Макс Вайс использовал программу генерации текста, чтобы создать 1000 комментариев при обсуждении постановления правительства США по Medicaid (госпрограмма медпомощи нуждающимся). Все созданные комментарии были уникальными от лица якобы настоящих людей, а на самом деле ботов, которые выступали за определенную политическую позицию, и ни один администратор сайта Medicaid.gov не смог распознать подделку.

По оценкам экспертов, в настоящее время чат-боты используются в политических кампаниях более чем в 70 странах мира, и этот способ пропаганды и продвижения политической позиции в соцсетях уже стал обыденностью. Многие политологи считают, что чат-боты - это будущее пропаганды. И, хотя боты могут быть не всегда эффективными в ведении долгой дискуссии (пока что), все равно они легко и полностью заглушают голоса реальных людей на дебатах в сети.

Источник: Телеграмм-канал @newdigitalera