В Facebook (запрещенная на территории Российской Федерации организация) рассказали про инструмент AI, который был использован для блокировки 6,6 миллиардов поддельных аккаунтов. Модель машинного обучения автоматически переучивается, чтобы не отставать от спамеров.
На днях Facebook (запрещенная на территории Российской Федерации организация) представила инструмент машинного обучения, который за последний год удалил более шести миллиардов поддельных аккаунтов. Это в дополнение к миллионам новых фейковых профилей, которые социальная сеть блокирует ежедневно. Согласно информации, которую предоставили официальные представители Facebook, этот инструмент находится в производстве уже два года, и это один из самых передовых методов для борьбы с поддельными аккаунтами.
Спамеров становится все больше
Программное обеспечение, борющееся с фейковыми профилями, использует технологию под названием «Глубокая классификация сущностей», которая проводит анализ активных учетных записей Facebook (запрещенная на территории Российской Федерации организация) и прогнозирует поведение отдельных профилей в остальной части сообщества. Инструмент смотрит на десятки тысяч функций, таких как количество запросов на добавление в друзья, отправленных учетной записью, а также группы или страницы, к которым она присоединилась или где проявляла активность. Самое главное, что модель машинного обучения переобучается автоматически, поэтому она может развиваться по мере адаптации спамеров.
По словам менеджера Facebook (запрещенная на территории Российской Федерации организация) Data Science Bochra Gharbaoui (Б. Гарбауи) инструмент уменьшил предполагаемый объем спам-аккаунтов на 27 процентов. По предварительным оценкам, объем поддельных аккаунтов в Facebook (запрещенная на территории Российской Федерации организация) сейчас составляет 5%. Менеджер подчеркнул, что это только вопрос времени, когда спамеры найдут обходной путь, ведь они очень быстро работают. Их адаптационный цикл жесток, и он становится все более сложным. Также специалист по Data Science сказал, что бороться с фейковыми аккаунтами все сложнее. Но для одной из самых известных компаний в мире нет ничего невозможного. Лучшие инженеры корпорации создают решения, которые успешно защищают социальную сеть от спамеров.
Для Facebook (запрещенная на территории Российской Федерации организация) удаление миллиарда поддельных профилей не является чем-то из ряда вон выходящим. Но ликвидация 6,6 миллиарда аккаунтов говорит о том, что спамеры подняли планку. К сожалению, проблема не показывает никаких признаков замедления, и инструменты Facebook (запрещенная на территории Российской Федерации организация) должны превосходить возможности недобросовестных пользователей.