«Вы уверены, что хотите это опубликовать?» Instagram поборет буллинг искусственным интеллектом

Социальная сеть Instagram вводит новые функции, направленные на борьбу с оскорблениями (буллингом) в интернете, сообщается на сайте компании. 

Что случилось? Instagram собирается внедрить анализ постов перед размещением с помощью искусственного интеллекта. Это позволит уведомлять пользователя о том, что комментарий может быть воспринят как оскорбительный. 

Как это работает? Судя по скриншотам, после того как пользователь написал (но еще не опубликовал) комментарий «ты такая страшная и толстая», ему высвечивается сообщение: «Вы уверены, что хотите это опубликовать?» По словам разработчиков, тестирование показало, что это побуждает людей отменять публикацию и делиться чем-то «менее обидным».

Что еще? Социальная сеть скоро начнет тестировать функцию Restrict, с помощью которой можно будет ограничить возможность других пользователей комментировать публикации, не информируя их об этом. Они смогут оставлять комментарии, но их никто не будет видеть. Это щадящий аналог нынешней функции «черный список». 

Как это работает? Кликая на комментарий (который, например, вас унизил), вы сможете выбрать один из вариантов: ответить на него или ограничить пользователя. Соцсеть спросит, «есть ли у вас проблемы с этим юзером», и предложит его тайно забанить. 

Цитата. «Мы знаем, что издевательства — это проблема, с которой сталкиваются многие, особенно молодые люди. Мы несем ответственность за создание безопасной среды в Instagram», — гендиректор компании Адам Моссери.

https://instagram-press.com/blog/2019/07/08/our-commitment-to-lead-the-fight-against-online-bullying/