← Разработка

Как вы относитесь к использованию ИИ в качестве инструмента модерации?

1 минуту, 5 секунд

Это всего лишь спекулятивный пост из-за недавнего интереса и достижений в области ИИ и машинного обучения.

Reddit может быть главным примером того, что концепция «сообществ с самостоятельной модерацией» (в основном использующих систему upvote / downvote) просто не работает так, как считалось.

Но что если мы уберем человеческий фактор?

Что если вместо этого мы вставим продвинутый ИИ, который мог бы правильно различать разные мнения в субредитах, основанных на обсуждении, перемешивать и отображать посты с целью создания разнообразия, даже усиливать правила сообщества и исключать комментарии, которые ничего не вносят в обсуждение? (Например, враждебные комментарии).

В основанных на изображениях субредитах исходная система повышения / понижения Reddit может остаться с добавлением модератора AI, который постоянно проверяет, не отклоняется ли сообщение от первоначального значения субредита.

Очевидно, что это довольно футуристический материал, но является ли ИИ ключом к настоящей альтернативе Reddit?

+4
16:17
56
16:23 (ред)
+2

Со временем, это неизбежно, и люди попробуют это. В ВКонтакте, Facebook в конечном итоге будет использовать гораздо более мощные фильтры, чем они делают сегодня. Но я не готов проголосовать сегодня за AI, которое делает само повышение / понижение. На Quore очень много ошибок случается из-за ИИ.

16:34 (ред)
+3

Я не думаю, что сегодня мы имеем надежные инструменты в плане контента. Нам надо определить токсичный коммент или нет, это затруднительно. ИИ используется там, где есть очень узкие правила игры. Reddit — беседы, обрывки фраз, реплики. Там это сложно. Проще в Q&A системах. Т.е. где есть изначально жесткие рамки, а они есть в Q&A системах, там проще. 

1. Это вопрос? Или это утверждение / заявление?

2. Вы читали правила?

3. Вы искали вопрос прежде чем задать его?

4. Вы только зарегистрировались, а начинаете свой вопрос/ответ с ссылки?

5. Вы не печатаете, а вставляете текст?

6. И т.д.

Робот вас пометит. Он может посмотреть слепок вашего экрана, и нет смысла менять ip. Он сообщит об этом персоналу (и тут он нужен). Но это Q&A, на Toxu.ru на уровне регистрации, первого поста это успешно работает. Мы убиваем 99.99% всего спама. Беседа сложнее, общение сложнее, это не вопросы и ответы. Я не видел еще ИИ, который может справится с контентом. Нападки это не спам, они могут быть очень тонки.

14:27 (ред)
+2

С месяц-два на реддите в рекабу проблема — множество контента уходит в предмод — реддит поставил сооб в особый режим и теперь все подозрительное сносится автоматически. А подозрительное почти все, что теряет смысл, при переводе на англ.

Вот тут роется собака — слишком велик и могуч русский разговорный язык, чтобы его могло расшифровать ИИ без помощи человека 

14:32
+2

Вот, вот. Это бесполезно пока. Только на очень, очень строгих сайтах… и то на стадии 1 ответа, и регистрации.

Загрузка...