Instagram будет блокировать оскорбительные комментарии

Разработчики Instagram представил улучшенную отзывы фильтр, который удаляет неприемлемые сообщения с использованием искусственного интеллекта.

Сам фильтр появился в приложении в сентябре прошлого года, но был устроен примитивно. Система просто удалил комментарии с слов и фраз, включенных в список оскорбительных. Пользователи могут добавлять свои собственные слова.

Теперь система стала "умнее". Использование машинного обучения для обнаружения неприемлемых комментариев, учитывая контекст ответа. Фильтр узнает, что в будущем, чтобы найти больше негативных сообщений и уменьшить количество ложных срабатываний системы. По данным сайта проводной, когда искусственный интеллект станет комментарий, он блокируется для всех пользователей, кроме человека, который его написал. Поэтому злоумышленник даже не будет знать, что его сообщение было скрыто от глаз общественности.

Фильтр теперь включен по умолчанию — предыдущий должен быть активирован вручную. При желании, вы можете отключить его через Instagram настройки. Возможность добавить свои собственные слова и фразы по-прежнему присутствует. Система пока работает только на английском языке, но со временем компания планирует расширить список языков.

Instagram также объявил о спам-фильтр — также на основе искусственного интеллекта. Как выяснилось, она появилась в октябре прошлого года, однако официально компания сообщила об этом только сейчас. Этот фильтр работает на девяти языках, включая русский.

Категория: Статьи