Anthropic призвал замедлить развитие искусственного интеллекта

Генеральный директор компании Anthropic (создатель семейства языковых моделей Claude) Дарио Амодеи призвал лидеров на рынке нейросетей «замедлить темпы совершенствования возможностей моделей ИИ». Об этом сообщает TechCrunch со ссылкой на слова Амодеи.

«Прогресс будет казаться быстрым, и мы должны разумно использовать выигранное время», — отметил он. Глава Anthropic признался, что пришел к такому выводу из-за двух фактов: недавнего взлома стартапа HuggingFace искусственным интеллектом и того, что ИИ в последние месяцы «развивается значительно быстрее благодаря растущей способности создавать следующее поколение нейросетей».

Дарио Амодеи заявил, что разработчики ИИ должны задействовать независимых регуляторов, чтобы они следили за безопасностью в этой сфере, и скоординировать «общие стандарты безопасности, а также темп бесконтрольного развития ИИ».

Это не первый случай, когда крупный игрок на рынке ИИ призывает замедлить развитие нейросетей. Несколько дней назад стало известно, что компания OpenAI (разработчик нейросети ChatGPT) изучает возможность замедлить разработку передовых технологий искусственного интеллекта.