Roblox улучшил фильтрацию брани и продолжает искать способы защитить детей
Игровая платформа объявила о внедрении в чаты нового инструмента проверки и автоматической фильтрации речи на основе ИИ. В то же время компания продолжает судебные споры по вопросам безопасности детей
Администрация Roblox выпустила 5 марта заявление, в котором анонсировала внедрение в чаты игроков новый ИИ-инструмент проверки речи. Данная технология, целью которой называют «защиту детей», будет доступна на всех языках, поддерживаемых в настоящее время инструментами автоматического перевода платформы (сейчас их 14 — ред.).
Главной новой чертой механизма было названо автоматическое перефразирование. Если раньше бранные слова и фразы в оригинальном сообщении пользователя цензурировались символами «####», то теперь новый фильтр сам переписывает весь текст. До адресата доходит лишь отредактированный вариант, все участники игрового чата получают в этот момент уведомление о зафиксированной попытке нарушения правил вежливого общения на платформе.
Также в компании сообщили, что разрабатывают методы распознавания замаскированных нецензурных выражений. Например, тех, в которых некоторые буквы замены цифрами или знаками препинания; общий смысл при этом угадывается все равно. По словам администрации, сейчас количество ложных распознаваний брани при публикации или запросе сообщений сократилось в 20 раз.
Как уточняет MediaPost, в это же самое время Roblox работает более чем с 130 судебными исками по вопросам безопасности несовершеннолетних пользователей. По результатам расследований несколько десятков человек в США были арестованы в последние месяцы по обвинениям в педофилии. Во всех этих уголовных делах фигурировала деталь: преступники вышли на своих жертв через знакомство в Roblox, выдав себя за их родственников путем обмана возрастной модерации.
Служба безопасности компании пообещала доработать механизм и прокомментировала: «Процесс потребует много времени». В январе 2026 г. начало функционировать разделение пользователей на 6 возрастных групп. Однако пока что сохраняется ненулевая вероятность ошибки распознавания или обмана системы. На территории РФ Roblox заблокирован. В западных странах все больше ведутся разговоры о введении возрастного ценза на чат-боты и соцсети, контент которых «вызывает привыкание».
