Евросоюз полностью запретит искусственный интеллект (ИИ), который манипулирует человеческим сознанием, так как он представляет явную угрозу жизни и правам людей.
В том числе будут запрещены игрушки, использующие голосовые подсказки и поощряющие опасное поведение несовершеннолетних (в частности, призывающие к самоубийству или хулиганству).
Полный запрет касается и тех систем ИИ, которые используются для так называемого социального скоринга — то есть для моделирования поведения человека в соцсетях исходя из его пола, возраста и других характеристик.
Кроме того, будет ограничено использование искусственного интеллекта, который проводит проверку документов при пересечении границы, применяет биометрические данные и участвует в кредитной оценке заемщика. Такие системы ИИ теперь могут быть допущены на рынок только при предоставлении всей информации пользователю, высоком уровне безопасности данных и четком документировании всех процессов.
Из других нововведений – необходимость обязательно предупреждать клиентов чат-ботов, что они общаются не с живым человеком, а с ботом.
Группа ученых из Германии и Австралии ранее выяснила, что искусственный интеллект может манипулировать людьми. Они смогли натренировать созданную ими программу так, что она распознавала мотивы принятия человеком решений и влияла на его действия.