Искусственный интеллект научился писать фальшивые обзоры

Ученые из Чикагского университета разработали нейросеть, которая генерирует обзоры ресторанов и отелей. Алгоритм обучали на тысяче реальных отзывов, найденных в интернете. В результате он научился писать тексты, практически неотличимые от настоящих, сообщает DTI.

"Мы провели исследование с 600 реальными пользователями сайтов отзывов. Люди не только не смогли отличить фальшивые рецензии, но и назвали их настолько же полезными, насколько и человеческие", - заявили разработки нейросети.

Уникальность достигается за счет того, что нейросеть составляет текст из отдельных слов, а не из нарезанных кусков текста. Искусственный интеллект даже дополняет рецензии “историями из жизни”.

Пока отличить фальшивку возможно лишь с помощью статистических методов - нейросеть выдает частота появления букв.

Как отмечают аналитики, создание такого робота разрушает бизнес по продаже отзывов и подрывает доверие людей к сайтам с обзорами - например, Yelp или TripAdvisor - а также к онлайн-ритейлерам, таким как Amazon.

Однако этим возможные проблемы не ограничиваются. Один из создателей нейросети Бен И. Чжао заявил: “Я думаю, что опасность для общества гораздо серьезнее. Это развитие искусственного интеллекта может пошатнуть нашу веру в то, что реально, а что нет. Начало - рецензии: верите ли вы в то, что кто-то написал о ресторане или товаре? Однако дальше могут быть сконструированы, например, целые записи в блогах. Дальше вам придется все сильнее задумываться, откуда появилась информация и как ее можно подтвердить. Я хочу, чтобы люди обратили на это внимание как на реальную и близкую угрозу".

Ранее сообщалось, что южнокорейское информагентство Yonhap представило автоматизированную систему, которая будет делать новости об играх Английской премьер-лиги по футболу.

Подписывайтесь на аккаунт LIGA.net в Twitter, Facebook и Google+: в одной ленте - все, что стоит знать о политике, экономике, бизнесе и финансах.