← Разработка
Как вы относитесь к использованию ИИ в качестве инструмента модерации?
Это всего лишь спекулятивный пост из-за недавнего интереса и достижений в области ИИ и машинного обучения.
Reddit может быть главным примером того, что концепция «сообществ с самостоятельной модерацией» (в основном использующих систему upvote / downvote) просто не работает так, как считалось.
Но что если мы уберем человеческий фактор?
Что если вместо этого мы вставим продвинутый ИИ, который мог бы правильно различать разные мнения в субредитах, основанных на обсуждении, перемешивать и отображать посты с целью создания разнообразия, даже усиливать правила сообщества и исключать комментарии, которые ничего не вносят в обсуждение? (Например, враждебные комментарии).
В основанных на изображениях субредитах исходная система повышения / понижения Reddit может остаться с добавлением модератора AI, который постоянно проверяет, не отклоняется ли сообщение от первоначального значения субредита.
Очевидно, что это довольно футуристический материал, но является ли ИИ ключом к настоящей альтернативе Reddit?
Со временем, это неизбежно, и люди попробуют это. В ВКонтакте, Facebook в конечном итоге будет использовать гораздо более мощные фильтры, чем они делают сегодня. Но я не готов проголосовать сегодня за AI, которое делает само повышение / понижение. На Quore очень много ошибок случается из-за ИИ.
Я не думаю, что сегодня мы имеем надежные инструменты в плане контента. Нам надо определить токсичный коммент или нет, это затруднительно. ИИ используется там, где есть очень узкие правила игры. Reddit — беседы, обрывки фраз, реплики. Там это сложно. Проще в Q&A системах. Т.е. где есть изначально жесткие рамки, а они есть в Q&A системах, там проще.
1. Это вопрос? Или это утверждение / заявление?
2. Вы читали правила?
3. Вы искали вопрос прежде чем задать его?
4. Вы только зарегистрировались, а начинаете свой вопрос/ответ с ссылки?
5. Вы не печатаете, а вставляете текст?
6. И т.д.
Робот вас пометит. Он может посмотреть слепок вашего экрана, и нет смысла менять ip. Он сообщит об этом персоналу (и тут он нужен). Но это Q&A, на Toxu.ru на уровне регистрации, первого поста это успешно работает. Мы убиваем 99.99% всего спама. Беседа сложнее, общение сложнее, это не вопросы и ответы. Я не видел еще ИИ, который может справится с контентом. Нападки это не спам, они могут быть очень тонки.
С месяц-два на реддите в рекабу проблема — множество контента уходит в предмод — реддит поставил сооб в особый режим и теперь все подозрительное сносится автоматически. А подозрительное почти все, что теряет смысл, при переводе на англ.
Вот тут роется собака — слишком велик и могуч русский разговорный язык, чтобы его могло расшифровать ИИ без помощи человека
Вот, вот. Это бесполезно пока. Только на очень, очень строгих сайтах… и то на стадии 1 ответа, и регистрации.