Следите за новостями

Цифра дня

На 43% вырос казахстанский рынок ecommerce в 2017 г

Google будет модерировать онлайн-комментарии с помощью искусственного интеллекта. Пока получается не очень

Попробовавшие Perspective указывают на несовершенство системы: она, например, отмечает в качестве оскорбительных хвалебные комментарии, в которых слова вроде «чертовски» используются для усиления эффекта.

28 февраля 2017 07:00, Computerworld.kz
Рубрики: Новости

Google и еще одна дочерняя структура компании Alphabet — технологический инкубатор Jigsaw совместно работают над проектом Perspective, системой искусственного интеллекта, предназначенной для выявления оскорбительных комментариев. Недавно выпущенный API системы позволяет получить количественную оценку, указывающую на вероятность восприятия заданного комментария в качестве оскорбительного.

Пользуясь этой функцией, можно будет разрабатывать системы автоматической фильтрации постов, выдачи предупреждений авторам перед публикацией и т. п. В Jigsaw рассматривают заявления о доступе к Perspective от заинтересованных разработчиков с описанием проектов, в которых планируется использовать API.

Попробовавшие Perspective указывают на несовершенство системы, сообщая что она, например, отмечает в качестве оскорбительных хвалебные комментарии, в которых слова вроде «чертовски» используются для усиления эффекта. Но разработчики обещают дорабатывать систему с учетом отзывов.

В создании Perspective принимали участие специалисты New York Times; в газете признаются, что просматривают лишь около 10% комментариев к публикациям, поскольку на сквозную модерацию ресурсов не хватает. В Google системой могут воспользоваться для автоматической фильтрации комментариев на YouTube.