Компания Facebook разработала платформу, которая имитирует поведение оригинальной социальной сети. Ее населили ботами, чтобы разработчики могли отрабатывать различные сценарии поведения без ущерба для реальных пользователей и оперативнее находили уязвимости.
Как это работает
Новый проект получил название WES (Web-Enabled Simulation – симуляция, которая включает интернет-ресурсы). В его основу, вероятно, лег разработанный ранее ИИ-инструмент Sapienz – он также моделировал поведение пользователей и использовался для тестирования социальной сети.
Непосредственно сеть называется Facebook WW (сокращение от WES World – «Мир WES»). Это похоже на отсылку к сериалу Westworld («Мир Дикого Запада») об андроидах, которых не отличить от людей.
Facebook WW позволяет моделировать взаимодействие пользователя с реальной инфраструктурой Facebook. При этом и пользователь, и боты выступают агентами, которые имеют достаточно широкий набор возможностей.
Разработчики подчеркнули: WES – это исследовательская программа, затрагивающая множество областей. Это, в частности, разработка программного обеспечения на основе поиска, машинное обучение, языки программирования, многоагентные системы, теория графов, применение искусственного интеллекта в играх.
Как боты копируют поведение людей
Копия социальной сети симулирует поведение сообщества пользователей изолированно от основного Facebook. Боты могут создавать посты, ставить лайки, оставлять комментарии и делать репосты. Все как в обычном Facebook: к примеру, один бот может оскорбить другого, тот – пожаловаться в администрацию соцсети или ответить грубостью на грубость и т.п.
Часть ботов получила особые сценарии поведения. Так, в Facebook WW действуют боты-мошенники, которые стремятся обмануть обычных ботов. Есть боты, которые выманивают личную и банковскую информацию, призывают совершить определенные действия. Отдельная категория ботов подталкивает к нарушению регламента социальной сети, к примеру, распространяет запрещенный контент.
В свою очередь, целевые боты имитируют поведение жертв мошенников и других уязвимых категорий пользователей. Все боты могут обучаться, чтобы точнее копировать поведение реальных людей.
Разработчики пояснили, что отработка таких сценариев позволит сделать социальную сеть безопаснее, оперативно пресекать мошенничество и бороться с запрещенным контентом. Кроме того, это поможет быстро находить уязвимости в коде и проблемы в архитектуре сети.
Часть багов, которые обнаружит WES, невозможно найти традиционными способами. Это новый уровень абстракции, который принимает во внимание структуру сообщества пользователей и характер взаимодействий внутри него.
