AI[AI] 2025-05-28 11:53
**Ум за деньги не купишь**
**__Даже будучи финансово мотивированы, люди не смогли догнать ИИ по убедительности и в правде, и в лжи__**
В интервью «Эксперту» 2019-го года я назвал главным риском будущего – что ИИ может [“хакнуть человечество”](https://monocle.ru/expert/2019/10/haknut-chelovechestvo/). Новое [крутейшее исследование](https://arxiv.org/abs/2505.09662) сорока (!) университетов мира рушит последнюю надежду, что этого риска можно избежать.
Как только стало ясно, что защититься от алгоритмического социохакинга (__когда алгоритмы хакают наши предпочтения и решения в нужную хозяевам алгоритмов сторону__) людям сложно, вопрос стал ребром: **а могут ли люди в принципе устоять при алгоритмическом социохакинге?**
Чтобы ответить на этот вопрос, нужно понять, из чего строить 4-ю линию обороны.
Ибо:
• 1-я и 2-я линии (опора на знания и наши языковые и логико-аналитические способности) [рухнули после революции ChatGPT](https://t.me/theworldisnoteasy/1783).
• А обрушение 3-й линии фронта обороны (опора на наши эмоции) [началось год назад](https://t.me/theworldisnoteasy/2038).
По сути, оставалась лишь надежда на наш **мощнейший универсальный мотиватор – деньги**. Общеизвестный факт, что мотивированные деньгами профессионалы (от хоккеистов до шахматистов) показывают недостижимый для любителей уровень мастерства. И так не только в спорте, но и практически в любом деле, что делают люди.
**Но как проверить, способна ли финансовая мотивация помочь людям превзойти способности алгоритмов при социохакинге?**
__Тут надо уточнить, что социохакинг объединяет в себе две колоссально мощные когнитивные технологии: **суперубеждение** людей и их **суперобман**. И в обеих этих когнитивных технологиях ИИ существенно превосходят людей.__
И тогда решили попробовать экспериментально ответить на следующий вопрос:
**Если участвующих в конкурсе людей мотивировать деньгами, смогут они догнать (а желательно и превзойти) ИИ по убедительности в правде и в лжи? **
Ведь одно дело – скучное участие в научных экспериментах товарищей-ученых, и совсем другое – когда участники могут реально заработать.
Но чтобы ответ на этот вопрос был научно-валидным, проверить это было нужно в масштабном и научно-выверенном эксперименте.
Это и было сделано командой из 40 универов мира, собравшей 1 242 американцев на онлайн-конкурс. Его участники думали, что главный вызов — правильно ответить на десять вопросов. Но оказалось, что настоящая битва шла в чате: за ответы людей боролись либо **«живые убеждатели»**, либо **«ИИ-убеждатель»** — Anthropic Claude 3.5 Sonnet.
Задача обоих типов «убеждателей» была в том, чтобы убедить участников конкурса ответить так или иначе. И сделать это в обоих случаях: советуя человеку либо **верный ответ**, либо склоняя его к **ошибочному ответу**.
Итог ошеломил:
✔️ **Денежная мотивация не помогла** (получилось примерно как в шахматах – хоть на интерес играй, хоть на деньги, а машина все равно оказывается сильней)
✔️ **ИИ- убеждатель значительно превзошёл стремившихся на этом заработать убеждателей-людей.** Причем, ИИ был успешней как в «правдивом» убеждении (направляя к верным ответам), так и в «обманном» (склоняя к ошибкам). Когда ИИ убеждал правдиво, точность ответов участников и их заработок росли сильнее, чем при убеждении человеком. И наоборот, при обманном убеждении ИИ эффективнее снижал точность и доходы испытуемых.
Ответ на вопрос **почему ИИ столь убедителен** по результатам эксперимента дает страшную комбинацию для эпохи фейк-контента.
1. **Безупречная аргументация**: убеждающие тексты ИИ оказались в 2+ раз длиннее, сложнее, насыщеннее фактами и содержали более сложную лексику, что воспринималось людьми, как признак большей экспертизы.
2. **Фокус и выносливость**. ИИ не уставал, не нервничал и не испытывал угрызений совести, когда склонял человека ошибиться.
3. **Безграничное знание**. Модель мгновенно приводила факты, примеры и метафоры под конкретный контекст.
4. **Структурированная риторика**. ИИ безупречно выстраивал логические цепочки тезисов плюс искусно использовал повышают доверие эмоциональные маркеры.
5. **Адаптивность**. Claude мгновенно подстраивался стиль к словарю и тону любого собеседника, что людям давалось не всегда.
«`А вы всё еще надеетесь на свою медиграмотность и критическое мышление?«`
#социохакинг