ЕС запретил нейросетям предсказывать поведение полиции и манипулировать человеком

Сегодня в Евросоюзе вступил в силу «первый в мире всеобъемлющий нормативный акт» об искусственном интеллекте. Он должен одновременно стимулировать развитие ИИ в ЕС и обеспечивать защиту основных прав людей.

«Регламент направлен на создание согласованного внутреннего рынка искусственного интеллекта в ЕС, стимулируя освоение этой технологии и создавая благоприятную среду для инноваций и инвестиций», — отметили в Европейской комиссии.

Закон классифицирует все основанные на ИИ системы и инструменты по уровню риска — от низкого до неприемлемого. В перечень запрещенных технологий вошли платформы и приложения искусственного интеллекта, которые манипулируют поведением человека и позволяют компаниям проводить социальный скоринг, а также программы, прогнозирующие поведение полиции. Кроме того, в этот список вошли некоторые виды использования биометрический систем. Например, распознавание эмоций на рабочем месте и систем предиктивной аналитики для профилактики правонарушений.

В список ИИ с минимальным риском попали системы рекомендаций с поддержкой искусственного интеллекта и фильтры нежелательной почты. 

«Эти системы не несут обязательств по Закону об искусственном интеллекте из-за их минимального риска для прав и безопасности граждан. Компании могут добровольно принять дополнительные кодексы поведения», — указали в Европейской комиссии. 

Также закон об искусственном интеллекте вводит правила для моделей искусственного интеллекта общего назначения, которые предназначенные для выполнения широкого спектра задач, таких как генерация текста. 

Большинство правил документы начнут применяться 2 августа 2026 г. Однако запреты на «неприемлемые» системы вступят в силу через шесть месяцев, а правила для ИИ-моделей общего назначения — через год.

Кроме того, комиссия создала Пакт об искусственном интеллекте, чтобы сократить переходный период до полного внедрения закона. Эта инициатива предлагает разработчикам ИИ добровольно принять ключевые обязательства документа раньше установленных законом сроков.

Члены Евросоюза должны до 2 августа 2025 г. назначить национальные компетентные органы, которые будут осуществлять надзор за применением правил для ИИ-систем. Европейская комиссия будет ключевым органом по реализации закона. 

Компании, не соблюдающие установленные правила, будут оштрафованы. Штрафы могут составлять до 7% от мирового годового оборота за использование запрещенных приложений искусственного интеллекта, до 3% за нарушения других обязательств и до 1,5% за предоставление неверной информации.

Ранее Роспотребнадзор заявлял, что создаст свои предложения для законодательного регулирования по защите прав потребителей ИИ-решений. Для этого в том числе будет изучен опыт Евросоюза.