Войти в систему
Войти с помощью соц. сетей:
Более 330 млн пользователей Twitter ежедневно публикуют сотни миллионов постов. Сервис популярен во всем мире из-за удобства: можно общаться с друзьями, следить за жизнью звезд и быть в курсе новостей.
Большое число пользователей и анонимность привлекают массу дезинформаторов и злоумышленников. Компания использует ИИ, чтобы обезопасить своих пользователей от вредительских ложных сведений.
В эпоху социальных сетей услышать могут каждого. И, разумеется, без любителей жареных фактов и обмана дело не обходится. С момента появления соцсетей в них слетаются всевозможные мошенники и демагоги, ведомые жадностью и другими низменными страстями. Дело доходило до обвинений во вмешательстве в выборы на государственном уровне. Троллинг зарубежных выборов попал в этом году в заголовки, а тем временем мелкие мошенники не дремлют и занимаются скрытым вымогательством. Исследование Gizmodo показало, что в фейковых аккаунтах они используют аватары ни о чем не подозревающих пользователей.
В соцсети легко выдать себя за кого угодно. Выдуманный ник и чужая фотография — вот и готова маска для организации финансовых пирамид, теорий заговора и террористической пропаганды. Исследователи Nite Fund находят миллионы фейковых новостей в Twitter. Но, как и большинство социальных сетей, компания не бездействует.
Когда общественность обеспокоилась последствиями, к которым приводит дезинформация в соцсетях, в Twitter стали активно отслеживать и удалять подозрительные аккаунты. Компания занялась разработкой инструментов машинного обучения для поиска спам-ботов, которых злоумышленники создают для подкрепления своих аргументов.
Еженедельно удаляется 10 млн аккаунтов, прежде чем на них кто-нибудь пожалуется. Их вычисляют по ряду признаков. Например, это связи с фейковыми новостными сайтами или действия, аналогичные уже выявленным ботам.
Подозрительные аккаунты переводят в доступ «только для чтения», то есть писать там нельзя. Далее Twitter просит владельца аккаунта подтвердить, что он человек, — с помощью телефонного номера и действующего электронного адреса. Мошенники используют сотни, а иногда и тысячи поддельных аккаунтов, и вовремя ответить на запрос Twitter иногда физически не успевают.
Twitter не обнародует признаки фейковых аккаунтов, чтобы те не нашли обходные пути. Скорее всего, алгоритмы реагируют на паттерны активности, которые свойственны уже выявленным злоумышленникам. Вероятно, это частота постов, подписки, одинаковые IP-адреса и анонимайзеры (технологии, скрывающие личность и местонахождение). Если кроме этих признаков в аккаунте публикуется информация с неблагонадежных сайтов, то он наверняка поддельный.
Twitter использует ИИ и с другими целями. Глубокое обучение определяет потенциально интересные для пользователя твиты и подсвечивает их в ленте. Каждый пост аккаунта, на который подписан пользователь, анализируется: насколько он популярный, как часто пользователь «лайкает» посты этого аккаунта и насколько он похож на другой контент, который понравился пользователю.
Большинство новшеств Twitter разрабатывает ее команда ИИ-специалистов Cortex.
За два месяца автоматическая система Twitter нашла и заблокировала 70 млн поддельных и подозрительных аккаунтов. Это на 214% больше, чем за аналогичный период предыдущего года. Количество жалоб на спам снизилось с 25 тыс. в день в марте 2018 года до 17 тыс. в день в мае 2018 года. Twitter приводит эту статистику, чтобы подтвердить эффективность превентивного удаления спама и фейковых аккаунтов — до того, как их увидят пользователи.
Это приносит пользу не только обществу, но и бизнесу. Рекламодатели платят за то, чтобы рекламу показывали живым людям, а не ботам.
Войти с помощью соц. сетей: