Список консалтинговых услуг Accenture пополняется оценкой безопасности передовых ИИ-моделей Anthropic. Компании объявили о партнёрстве, в рамках которого специалисты Accenture станут встроенными сторонними оценщиками. Каждая сторона вложит в этот проект не менее $1 млрд в течение ближайших пяти лет.
Источник изображения — engadget.com
Партнёрство — один из первых шагов плана по замедлению темпов разработки ИИ, который неделей ранее предложил глава Anthropic Дарио Амодеи. В его подходе из трёх пунктов всем компаниям, создающим «передовой ИИ», предлагается дать сторонним оценщикам «постоянный доступ уровня сотрудника» — чтобы те следили за соблюдением практик безопасности, сообщали об инцидентах и оценивали «выравнивание» моделей.
По словам Anthropic, оценщики Accenture смогут «наблюдать за тем, как модели формируются в ходе обучения, отслеживать решения об их создании и развёртывании и напрямую общаться с сотрудниками». В компании отмечают, что у Accenture есть опыт внедрения ИИ в бизнесе и госсекторе в разных отраслях.
Вместе с тем сама идея встроенных оценщиков нова: пока нет единых стандартов ни по объёму их полномочий, ни по уровню доступа, ни по процедуре сообщения о проблемах. Anthropic обещает работать не только с Accenture и в ближайшие недели назвать других оценщиков, а сама Accenture будет сотрудничать и с другими ИИ-компаниями.
Партнёрство вписывается в более широкую дискуссию о безопасности ИИ: по мере роста возможностей передовых моделей всё чаще звучат призывы к независимому надзору. Договорённость Anthropic и Accenture может стать одним из первых практических примеров того, как такой внешний контроль устроен на деле.
