MN
Параллельно ИИ анализирует всех участников, но неспешно. Думаю, через две недели дадим ИИ доступ ко всем аккаунтам.
не получится ли так, что обработав сообщение 20-ти летней давности он решит наказать? ))))

Vol
DeMo_azov
Спасибо, пофиксено.

Слишком рано я дал доступ нейросетке к модерации

Vol
не получится ли так, что обработав сообщение 20-ти летней давности он решит наказать? ))))
Я ограничу область его поиска.

Деятельнось Gort-a. Бан за одно сообщение с песней "Вот и помер дед Максим".

Только пользователь сообщение в тред с музыкой запостил - а кто-то УЖЕ донос написал (была плашка сверху, про донос), а этот Gort вскорости сообщение потер!

Если кому интересно, на текущий момент Gort (очень очень лениво) мониторит:

1) сообщения свежезарегистрированных пользователей
2) сообщения, за которые модераторы поставили замечания и удалили - по итогам я получу отчет, где он не сходится с модераторами.
3) выборочно - сообщения активных пользователей, составляя их профиль (с ним пользователи познакомятся через две недели )

Анализ сообщений Gort делает на предмет:

1) рекламы
2) токсичности
3) флуда
4) неуважения к администрации/модераторам
5) оффтопа (но это очень опционально).

Область действий над аккаунтами Gort'a пока ограничена джуниорами (причем не всеми, на всех ресурсов пока нет), видимо, пост в примере Бензол удалил за флуд.

В целом анализ за пару недель, очевидно, у него еще неточный, т.к. я его сегодня подключил на 5 минут к модерации и он сразу решил ошибочно ограничить пользователей. Будем его настраивать дальше

Но уже очевиден тот факт, что он будет более строгим, чем обычные модераторы, которые могут пропустить сообщение, пожалеть пользователя, сделать ему последнее китайское предупреждение, потом разбанить, а Gort всей этой человеческой субъективности лишен, он смотрит только на цифры анализа.

MN
Gort всей этой человеческой субъективности лишен

Вот же ж гад.

Добавление от 19.03.2025 17:08:

Прошу простить!

мне вот такое выдал:[skipped] Вроде, рассосалось само, но как-то напрягает.
Я процитированных им фраз не писал и вообще лоялен к ресурсу, посему весьма удивился...
И что делать в такой ситуации, кому жаловаться в забаненом на ровном месте виде?

Исправлено: MN, 19.03.2025 17:16

Лакоб, на текущий момент настройки скриптов и нейросети я сам отслеживаю ошибки, поэтому ограничения с вашего аккаунта я снял сразу.

После финального подключения к модерации, возможно, будет создана отдельная тема для ошибок, но если её будут использовать для бессмысленных апелляций по анализу (типа "да, я написал 'вы - уроды', но это не хамство, это факт!"), то и она будет закрыта, чтобы ресурсы не тратились зря. Анализ, к примеру токсичности, проводится точно, спорить с ним бессмысленно. А если человек не принимает культурных норм (например, что нельзя людей называть "уродами"), то спорить тут не о чем (Gort такого в итоге забанит).

MN

В условиях ограниченных ресурсов может быть, разумно отправить нового администратора помогать модерировать 54-й форум? Там достаточно много токсичных, хамских, грубых сообщений, на которых он мог бы поучиться. А если кого-то там забанит по ошибке, то и не жалко.

MN
Если бы не было ограничений по доступу, то скорость проверки была выше.
Попробуй LLM Manus: необычный ИИ
Ограничений по доступу вроде нет. Ну, кроме того, что нужно приглашение. Говорит, что количество токенов неограниченно.
Только, если будут вопросы, давай в той теме - немного увеличим наполняемость

Ясно, будем надеяться, обучится.
Напрягает только, что в отличие от людей банит сразу, без предупреждений/замечаний.

Махмуд Отар-Мухтаров
А если кого-то там забанит по ошибке, то и не жалко.
предлагаю банить по-форумно: может в флудилке его и надо забанить, а в тематичсеком он полезен будет.

MN
. Анализ, к примеру токсичности, проводится точно, спорить с ним бессмысленно.
без предупреждений? может стоит дать человеку пару дней на исправление сообщения? остынет, поправит...

Махмуд Отар-Мухтаров
В условиях ограниченных ресурсов может быть, разумно отправить нового администратора помогать модерировать 54-й форум?

В приоритете - джуниоры - спамеры, кто постит рекламу. Затем проверка на токсичность в технических форумах (чтобы дискуссии в них проводились корректно). И уже потом разговорные форумы.

Из-за ограничений я смогу прикрутить к Gort'у возможность ведения диалогов в темах только в самом конце, так что он будет еще долго неразговорчивый, но будет озвучивать сообщения об ограничениях в момент бана

Vol
без предупреждений?
Если модераторы ставили предупреждения, удаляли сообщения, банили, но человек это всё игнорировал, то зачем тянуть?
А если не ставили, тогда можно начать с предупреждений

Добавление от 19.03.2025 17:39:

В ближайшее время я всё-таки прикручу проверку новых регистраций, чтобы регистрации спамеров удалялись быстрее. Тут возможны некорректные срабатывания, т.к. в Профиле разрешено указывать свой сайт, писать о себе (рекламировать себя, компанию), но запрещено делать такие сообщения в темах. Поэтому обычно проверку делали только после первых сообщений.

Добавление от 19.03.2025 18:23:

С января я использую нейросети (в виде чата) как помощника в анализе сообщений пользователей. Уже несколько раз была ситуация, когда модератор делает замечание, участник подаёт апелляцию, я обращаюсь к нейросети за анализом, она подтверждает вердикт модератора (например, про токсичность).

Нейросеть также помогает в анализе сомнительных сообщений. Обычно я их удаляю без замечаний и банов. Позже нейросеть подгоняет анализ, что вот тут была токсичность, тут оскорбления и т.д, и по итогам я добаниваю авторов (кто такой стиль практикует давно).

Широкое применение нейросети останавливает только нулевой бюджет (нейросеть сейчас мониторит, пожалуй, 0.05% конференции). В противном случае я бы прикрутил анализ всего, что у нас пишется, с функцией автозамены

MN
пост в примере Бензол удалил за флуд
Ну это-то понятно, там как бы нецензурный ролик, может нарушает правила. А почему наказание за это - сразу бан бессрочно во всех форумах?
Начальник, ты адекватный, а этот новоназначенный перегибает палку. Лучше бы ты свое сознание реплицировал и загрузил в облако.
Если всех арестантов расстрелять, кто будет норму лагеря по показу рекламы, посещаемости выполнять? Сам Gort?

На этой неделе по рекомендациям Gort'a я удалил около 25 тысяч пользователей из базы данных участников конференции. Также, после анализа сообщений в разных темах по рекомендации Gort'a я временно забанил десяток участников. Нейросеть думает, что наша система предупреждений - чрезмерно мягкая и не помогает установить порядок.

Если кому интересно, как выбиралось имя для нейросети
Часть никнеймов уже была занята, поэтому выбор был невелик

Бонусом кадры из фильма 2008 года, откуда были взяты аватары для аккаунта.

MN
после анализа сообщений в разных темах по рекомендации Gort'a я временно забанил десяток участников. Нейросеть думает, что наша система предупреждений - чрезмерно мягкая и не помогает установить порядок.
Прочитал чат и прямо увидел, о ком он говорит.

Chudik
Таких участников не один, выше просто как иллюстрация.

В другой теме, по мотивам происходящего в ней, я попросил наш диалог с нейросетью срезюмировать, вышло так:



В итоге, мои изначальные предположения относительно действий ИИ оказались верны: она значительно жестче, чем текущие модераторы и я.

Теперь осталось выяснить прав ли я относительно действий пользователей после того нейросеть получит функции модерации: через сколько дней участники начнут делать петиции, чтобы убрать нейросеть и вернуть модераторов, которых можно разжалобить и договориться?

MN
она значительно жестче, чем текущие модераторы и я
Система абсолютно логична и лишена человеческих эмоций. Кстати, очень близко к позиции Биомеха. Тот тоже часто чисто формально решал вопросы. Поэтому я и предлагал дать ей возможность понаблюдать за действиями модераторов из топа опроса. Возможно спрашивать о причиниах того или иного решения, когда решение модератора отличается от того, как сделал бы он сам.

Chudik
Я не стал бы давать нейросети возможности обучаться на нашем форуме (а такой возможности пока и нет), с целью не повторять наших возможных ошибок, а использовать мировой опыт.

Кстати, в аттаче, что нейросеть рекомендует делать с этим 5-м форумом. Он доживает последние недели в текущем виде.
Я бы еще опубликовал её рекомендации лично мне, но не стану (с веселым настроением это частично озвучено в форуме "Юмор" ).

MN
Он доживает последние недели в текущем виде.
Подключишь автоответчика?

Кстати неплохое наказание, сделать так, чтобы участник писал сообщения, но другие пользователи их не видели, а наказанный этого бы не знал.