Министерство торговли США в середине мая скорректировало опубликованную на своем сайте информацию о соглашении с Google, xAI и Microsoft, связанном с тестированием их моделей искусственного интеллекта на уязвимости. В результате публичная страница, где ранее был доступен анонс этого проекта, больше не открывается в прежнем виде.
Что изменилось на сайте ведомства
Ранее по ссылке можно было перейти к сообщению о планах по проверке ИИ-моделей на риски безопасности. Теперь при попытке открыть страницу пользователь видит уведомление: «Sorry, we cannot find that page.» (дословно: «Извините, мы не можем найти эту страницу»).
Позже выяснилось, что прежняя ссылка перенаправляет на ресурс, относящийся к Центру по стандартам и инновациям в области ИИ (Center for AI Standards and Innovation) — государственному подразделению, которое отвечает за проведение соответствующих проверок.
Какой механизм тестирования заложен в соглашении
О договоренностях ведомство сообщило 5 мая. Суть инициативы сводится к следующему: компании должны передавать новые модели ИИ до их публичного запуска. Это позволит сотрудникам и исследователям правительства провести оценку моделей на наличие потенциальных уязвимостей и других слабых мест, которые могут быть использованы злоумышленниками.
Подобные проверки обычно включают анализ того, как система реагирует на вредоносные запросы, может ли она утекать чувствительными данными, а также насколько предсказуемыми и контролируемыми остаются ее действия в сценариях, представляющих угрозу.
Почему вопрос безопасности ИИ стал приоритетом
В Соединенных Штатах усиливается обеспокоенность тем, что особенно мощные системы искусственного интеллекта могут нести риски для национальной безопасности. В контексте обсуждений упоминаются и разработки, связанные с Anthropic — в частности, модель Mythos.
Логика доступа правительства к продвинутым моделям до релиза заключается в том, чтобы заранее выявить возможные угрозы. Среди опасений, которые озвучиваются чиновниками, — не только кибератаки, но и потенциальное неправомерное использование технологий в военных целях.
Что означает «проверка на уязвимости»
- Киберриски: оценка того, может ли модель быть использована для автоматизации атак, фишинга или обхода защит.
- Утечки и неправильное поведение: анализ возможности несанкционированного раскрытия данных и выполнения опасных инструкций.
- Контроль и предсказуемость: тестирование того, насколько система сохраняет безопасные границы в сложных сценариях.
Почему страницу могли удалить
На текущий момент неясно, по какой причине именно публикация на сайте Министерства торговли исчезла из прежнего раздела. Официальных разъяснений в доступных материалах не приводилось.
Реакция властей
Представители Министерства торговли и администрации президента США (Белого дома, в контексте «Trump White House») не дали немедленных комментариев на запрос по этому поводу.