Социальная сеть «ВКонтакте» начала использовать инновационный алгоритм, способный определять опасные и мошеннические материалы, порнографию и спам.

Алгоритм присваивает картинкам специальный рейтинг, определяя, содержится ли в них противоправный или «опасный» контент, сообщает Информатор.

Алгоритм распознает на картинках объекты — людей, животных, растения. Выявленный «запрещенный» контент не попадает в поисковую выдачу и «умную» новостную ленту либо полностью блокируется. Технология также способна анализировать текстовые надписи на изображениях.

Если алгоритм распознает ту или иную картинку как «опасную», ее отправляют на проверку модераторам. Механизм помогает остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности.

Для борьбы с так называемыми «группами смерти» и суицидальным контентом предусмотрен отдельный сценарий. Если пользователь загружает картинку или упоминает хэштеги, которые ранее использовали в качестве призыва к суициду, «ВКонтакте» блокирует его страницу и предлагает сообщить о причинах публикации.

Инновационный алгоритм также способствует формированию умной ленты — когда новости в ленте показываются не в хронологическом порядке, а по приоритету пользователя.