На отзывах держится если не весь интернет, то значительная его часть так точно. Отзывы о различных моделях устройств разных производителей, отзывы об автомобилях и запчастях, не говоря уже об отзывах посетителей ресторанов и кафе — все эти мнения служат средством оценки качества товаров и услуг. Отели, интернет-магазины, каталоги приложений — здесь везде есть, где почитать отзывы.
Маркетологи уже давно поняли, что хороший отзыв — это инструмент, позволяющий привлечь новых покупателей или пользователей. Ну а плохой отзыв — отличный способ отпугнуть клиентов от конкурента, что дает возможность привлечь их внимание к себе. Существуют целые компании, которые только и занимаются, что пишут отзывы. Их нанимают производители товаров и поставщики услуг. Те, кто попроще, пишут отзывы самостоятельно. Но теперь появился и третий вариант.
Исследователи из Чикагского университета на днях опубликовали детальнейший отчет о создании системы, которая способна писать отзывы в автоматическом режиме. Речь идет о полностью автоматической работе нейросети. Отличить результат от отзывов, которые оставляют пользователи, практически нельзя. Если брать «среднюю температуру по больнице», то отзывы машины получаются даже лучше человеческих, поскольку некоторые фидбеки, которые вроде бы оставляет человек, выглядят, как сгенерированные не самым мощным калькулятором.
В принципе, то, что пишут пользователи, покупатели, посетители, не слишком отличается друг от друга. Обычно это нечто вроде «Спасибо, приятное обслуживание, было классно». Более пространные комментарии оставляют гораздо реже. Авторы робота, которого научили писать отзывы, приводят пример его работы: «Мне очень понравилось это место. Я пришел сюда с моим братом, мы заказали пасту для вегетарианцев и она была вкусна. Пиво тоже было хорошим, а сервис — просто изумителен. Я определенно порекомендую это место всем, кто ищет, где бы отведать вкусный завтрак».
Ничего странного в этом отзыве нет, человеку он в глаза не бросится: такой же комментарий, как и тысячи других. Все это было написано нейросетью, обученной на тысячах других отзывов, которые уже были оставлены ранее людьми на сервисе Yelp. После того, как работа была завершена, исследователи провели тест — попросили обычных людей прочитать ревью, написанные роботом, вместе с отзывами людей, и выбрать, что писала машина, а что — человек. Как оказалось, добровольцы с заданием не справились, отличить одно от другого они попросту не смогли.
Сгенерированные нейросетью отзывы не могут идентифицировать и программы и сервисы, которые обычно отслеживают генерированный текст. Особенно это актуально для комментариев, которые были написаны нейросетью с особым тщанием — разработчики добавили функцию «максимальная уникализация текста». Уникализация в этом случае вовсе не вредит качеству написанного.
Море возможностей
То, что сделали разработчики нейросети, оставляющей отличные отзывы, может быть востребовано индустрией. Вполне вероятно, что разработка в этом направлении уже либо ведется, либо маркетологи используют нечто подобное, только никак свою работу не афишируя.
Пока что у нейросети, которую разработали представители Чикагского университета, есть лишь навык писать в Yelp (кстати, об этом сервисе есть целая серия в «Южном Парке»). Качественные комментарии в этой рекомендательной сети стоят от $1 до $10, что позволяет перевести нейросеть на коммерческую основу и зарабатывать кучу денег.
Ученые ничего такого делать не собираются, но гарантии того, что это сделают их коллеги или просто умелые разработчики, нет. Как и говорилось выше, есть вероятность того, что многие хорошие комментарии в самых разных сервисах и ресурсах уже пишутся с использованием нейросетей или других технологий.
В принципе, сама разработка не уникальна, ничего суперсложного в ней нет (об этом говорят сами разработчики). Так что некто, имеющий достаточно мощный опыт в данной сфере и соответствующее оборудование, может проделать ту же работу, получив тот же результат. И уж тем более ничего сложного нет в том, чтобы составить базу обучения для такой нейросети — отзывов полон Интернет.
Насколько это плохо?
Не то, чтобы это был конец света, нет. Но наличие большого количества нейросетей, которые будут создавать поддельные отзывы (пускай и хорошего качества) сведет на нет индустрию «серфисов фидбека» вроде того же Yelp. Если появится одна такая сеть, работающая на коммерческой основе, последуют и другие. Начнется демпинг цен на отзывы, после чего последует уже настоящий хаос. Кроме того, атаки на конкурентов будут использовать недобросовестные бизнесмены. И надо думать, по мере совершенствования нейросетей такого рода, комментарии, как положительные, так и отрицательные, будут литься рекой.
Обычный человек, потенциальный клиент заведения, придя на сайт отзывов, не сможет понять, где «липа», а где комментарии, которые оставили реальные отзывы. Так что необходимость в них просто отпадет. Представитель Yelp, тем не менее, уже поблагодарил специалистов за работу, сказав, что она послужит хорошим материалом для изучения. У Yelp есть система защиты от спамных комментариев, машинописных отзывов, так что теперь необходимо придумать и защиту от «почти человеческих» текстов, написанных нейросетью. Как это можно сделать, пока что неясно, но работа в ближайшее время будет вестись именно в этом направлении.
В качестве примера можно привести шесть отзывов, часть которых написана машиной, а часть — человеком. Попробуйте, пока читаете, отличить одни от других.
1. Это мой любимый итальянский ресторан. Мне нравится дегустационное меню, здесь все классное. Я предпочитаю карпаччо и спаржу. Жаль, что ресторан стал более известным, и в час пик стало сложнее зарезервировать столик;
2. Моя семья и я сам большие поклонники этого места. Обслуживающий персонал супер дружелюбный, а еда великолепная. Цыпленок очень хорош, чесночный соус отличный. Мороженое с фруктами тоже вкусное. Рекомендую!
3. Я прихожу сюда каждое Рождество, и мне очень нравится паста! Она достойна своей цены!
4. Отличная пицца, лазанья, лучше эскалопы, которые я ел. Десерт просто фантастический;
5. Еда здесь удивительная, порции гигантские. Сырный рогалик приготовлен отлично, свежий и вкусный. Обслуживание быстрое. Наше любимое место. Мы вернемся!
6. Я клиент уже около полутора лет, и могу сказать об этом месте только хорошее. Я всегда заказываю пиццу, но бифштекс по-итальянски тоже очень хорош, я впечатлен. Обслуживание выдающееся. Лучшее, которое я видел. Рекомендую.
Итак, 1 отзыв — реальный, 2 — фейк, 3-5 реальные, 6 -фейк.
Эксперты, которые ознакомились с разработкой своих коллег, посчитали, что эта технология может изменить структуру и принцип работы сайтов с отзывами. Кроме того, речь зашла и о «Скайнете», как же без него. «Я думаю, что многие люди фокусируются на сингулярности и Скайнете, как возможному проявлению опасности ИИ, но я считаю, что на самом деле все действительно хороший искусственный интеллект будет вести себя по другому».
Не только механическая работа
Крупные технологические компании постоянно занимаются обучением ИИ (слабой его формы) работать с текстами. Не только анализировать и структурировать, так сказать, по-машинному, но и понимать, в меру своих возможностей. Тот жe IBM Watson умеет понимать эмоциональную окраску текста, анализировать социальную составляющую, оценивать стиль изложения. Кроме того, умеют такие системы распознавать и классифицировать изображения.
Полное эмоциональное погружение, наверное, можно изобразить так
Эмоции, контекст написанного — нейросети и когнитивные системы это уже «понимают». Когнитивная система от IBM, ряд сервисов от «Яндекса», алгоритмы Google и некоторых других компаний. В ближайшем будущем эта тенденция будет лишь усиливаться. Все это появляется не вдруг, работа в этой сфере ведется уже многие годы и сейчас появляются первые значительные результаты.
По мере совершенствования технологий можно представить себе ситуацию, когда те же обзоры компьютерные системы будут писать, «осознавая» написанное и придавая тексту нужную эмоциональную окраску. Наверное, машины будущего смогут и оценивать рестораны самостоятельно, включая вкусовые качества блюд, а не просто составлять тексты обзоров. Но пока что это лишь фантазии.
Автор: Максим Агаджанов
