В США одобрили законопроект о предотвращении катастроф, вызванных ИИ
Законодатели штата Нью-Йорк одобрили законопроект, который должен предотвратить использование передовых моделей искусственного интеллекта от OpenAI, Google и Anthropic в ситуациях, угрожающих жизни и здоровью людей, пишет TechCrunch.
Документ направлен на то, чтобы не допустить происшествий, в которых могут пострадать более 100 человек. Также уточняется, что нужно препятствовать нанесению ущерба в размере свыше $1 млрд.
Ограничения могут коснуться OpenAI, Google и Anthropic. Законопроект получил название RAISE. Это старт движения за безопасность ИИ, пишет издание. Тенденция к быстрому развитию ИИ возникла в стране на фоне инноваций от Кремниевой долины и работы администрации Трампа. Теперь сторонники безопасности применения искусственного интеллекта считают, что это первый шаг к тому, чтобы принять в Америке набор обязательных стандартов прозрачности для передовых лабораторий ИИ.
Документ теперь рассмотрит губернатор Нью-Йорка Кэти Хокул, которая может подписать его, отправить на доработку или наложить вето. Если документ все же примут, то компании по разработке ИИ должны будут публиковать подробные отчёты о безопасности своих передовых моделей. Кроме того, нужно будет информировать о кражах данных.
