Facebook клонировал себя и населил новую социальную сеть ботами

В параллельной социальной сети, скрытой от посторонних глаз, армия ботов из Facebook злоупотребляет платформой, чтобы найти скрытые недостатки в безопасности и тем самым дать возможность инженерам улучшить безопасность.

Фейковые пользователи пытаются обмануть ботов, публиковать нелегальный контент и красть личные данные в уменьшенной версии Facebook, в которой используется тот же код, что и в реальной платформе.

Как утверждает Facebook, «симуляция выполняется на самой реальной системе».

Когда бот обнаруживает уязвимость или ошибку на платформе, система автоматически рекомендует изменения инженерам Facebook. Они могут проверить исправления в симуляции, прежде чем вносить обновления в живую версию.

Facebook выпустил публикацию о симуляции, называемой «web-enabled simulation» (WES) в исследовательской статье, опубликованной в среду. Авторы описывают виртуальную социальную сеть, заполненную ботами, которые «имитируют взаимодействие реальных пользователей и социальное поведение в реальной инфраструктуре платформы, изолированной от пользователей».

Программные симуляции не являются новой идеей, но Facebook использует необычный подход к этой концепции.

Хотя большинство симуляций происходит во вновь созданных моделях реальности, WES работает поверх тех же строк кода, что и реальная платформа. Исследователи Facebook утверждают, что это более точно отражает все более сложные взаимодействия на платформе.

Facebook обучил ботов имитировать поведение человека, давая им вознаграждение, когда они выполняют действие. Затем инженеры выпускают ботов, чтобы проверить различные злоупотребления платформой.

Когда система имитирует мошенничество, один бот играет мошенника, а другой — его жертву. Бот-мошенник награждается за поиск подходящих целей, которые запрограммированы на то, чтобы демонстрировать поведение типичного пользователя.

Другие боты пытаются публиковать незаконный контент на теневом Facebook, нарушают правила конфиденциальности, такие как доступ к сообщениям. Система одновременно пытается обнаружить нарушителей правил, ищет способы их остановки и ищет ошибки, которые использовали боты. Она также может помечать новые проблемы, создаваемые обновлениями программного обеспечения, такие как изменение кода, которое позволило ботам получать доступ к личным фотографиям.

Однако система не безошибочна. Существует риск того, что виртуальный и реальный миры столкнутся, признают исследователи.

«Боты должны быть надлежащим образом изолированы от реальных пользователей, чтобы симуляция не приводила к неожиданным взаимодействиям между ботами и реальными пользователями», — предупреждают они.