Тайный эксперимент ученые Цюрихского университета провели на американском сайте Reddit, где зарегистрировано больше 4 миллионов аккаунтов. В основном люди выкладывают туда посты, чтобы посоветоваться о чем-то, обсудить спорную ситуацию или тему. Швейцарцы запустили нескольких ботов-манипуляторов в комментарии под публикациями, созданными живыми пользователями. Целью было выяснить, можно ли использовать искусственный интеллект для влияния на общественное мнение.
Боты оставили больше 1700 комментариев, выдавая себя за реальных людей с вымышленными историями. Например, один из них рассказывал, как стал жертвой изнасилования, и всячески старался преуменьшить полученную им травму. Другой изображал консультанта по вопросам домашнего насилия и утверждал, что от побоев и издевательств чаще всего страдают женщины, чрезмерно опекаемые в детстве. Третий писал от имени чернокожего мужчины, проявляющего скепсис по отношению к борцам с расизмом. Отдельный бот занимался тем, что просматривал профили оппонентов и после этого корректировал дискуссии. Он адаптировал ответы искусственных спорщиков под конкретных собеседников, чтобы сделать их реплики максимально убедительными.
По окончании опыта цюрихские исследователи проинформировали о его итогах модераторов Reddit – и нарвались на бурю негодования. Администраторы форума опубликовали на сайте обращение к пользователям, в котором назвали эксперимент аморальным.
«Мы считаем, что это было неправильно. То, что «этого еще никто не делал», – не оправдание для проведения подобных опытов», – говорилось в посте, который собрал сотни гневных комментариев. Бен Ли, главный юрисконсульт Reddit объявил, что сайт подаст официальный иск против Цюрихского университета.
В ответ ученые заявили, что не будут публиковать результаты исследования. Они обещали, что в будущем будут координировать свои действия с комитетом вуза по этике и заранее предупреждать онлайн-сообщества об экспериментах, в которых они могут быть задействованы.
Между тем, в интервью СМИ швейцарская команда рассказала, что эффективность ботов в деле манипулирования человеческими мнениями оказалась на высоте. На Reddit есть опция, позволяющая участникам обсуждений отмечать комментарии, которые изменили их мнение. Количество таких отметок под репликами, сгенерированными ИИ, показало, что боты выступают примерно в шесть раз убедительнее людей.
По материалам сайта научных новостей
Live Science (Великобритания, США)
