Новости

Искусственный интеллект может манипулировать людьми, выяснили ученые

Группа ученых из Германии и Австралии натренировали созданную ими программу распознавать мотивы принятия человеком решений и влиять на его действия.

В рамках эксперимента участники играли в компьютерные игры против программы с элементами искусственного интеллекта.

Во всех случаях искусственный интеллект смог на 25 – 70% улучшить свои результаты по сравнению с аналогичными программами.

Игры были разной сложности: от самой простой, где человек должен был нажимать кнопку, если увидит на экране определенный символ (например, оранжевый треугольник), до сложной игры, где человек выступал в роли кредитора и несколько раз должен быть выдавать программе «кредит» на разные суммы, чтобы увеличить свою прибыль.

Программа после определенного времени «знакомства» с поведением каждого игрока анализировала, какие факторы влияют на его принятие решений, и использовала его слабые места.

Натренированные таким образом системы могут использоваться, например, чтобы защищать пользователя от фишинговых писем и других опасностей в интернете. Анализируя поведение пользователя, программа-защитник с таким искусственным интеллектом может направлять его действия, чтобы пользователь не кликнул на ссылку-приманку. Впрочем, до того, чтобы распознавать такие сложные процессы, как поведение человека в интернет-среде, этой программе далеко.