Американские власти рассматривают возможность предоставления крупным федеральным ведомствам модифицированной версии «фронтирной» модели искусственного интеллекта Mythos от компании Anthropic. Соответствующие планы обсуждаются на фоне опасений, что внедрение такого инструмента может не только повысить эффективность защиты, но и существенно увеличить киберриски — если модель окажется способной слишком легко находить уязвимости и предлагать способы их использования.
Что известно о Mythos и почему вокруг него разгорелись споры
Развертывание Mythos связано с инициативой Anthropic под названием «Project Glasswing». Официальное объявление о запуске проекта состоялось 7 апреля. Суть инициативы в том, что доступ к находящейся в стадии предварительной разработки версии Claude Mythos Preview предоставляется ограниченному кругу организаций — и главным образом для задач кибербезопасности в оборонительном ключе.
О Mythos, как сообщается, уже накопилась настораживающая статистика: модель, по словам экспертов, «тысячи раз» находила серьезные уязвимости в операционных системах, веб-браузерах и других видах программного обеспечения. Важный нюанс заключается в том, что способности Mythos писать код на высоком уровне могут радикально расширить возможности по выявлению слабых мест — а также, потенциально, по подготовке практических сценариев эксплуатации уязвимостей.
Роль OMB: какие меры планируют перед возможным запуском
Ключевую позицию в обсуждении занимает федеральный орган, связанный с административным управлением. Грегори Барбакка (Gregory Barbaccia), занимающий пост федерального chief information officer в Office of Management and Budget (OMB) при Белом доме, направил письмо в адрес руководителей профильных подразделений исполнительной власти.
Во вторник Барбакка уведомил чиновников кабинета министров о том, что OMB организует систему защитных механизмов, которые позволят ведомствам приступить к использованию Mythos. Письмо, по имеющейся информации, имело тему «Mythos Model Access».
В тексте сообщения Барбакка подчеркивал, что ведомство намерено действовать совместно с разработчиками моделей, партнерами из индустрии и представителями разведывательного сообщества. Цель — заранее выстроить «ограничительные барьеры и меры предосторожности» (guardrails and safeguards), прежде чем потенциально выпускать в агентства измененную версию модели.
Почему в письме не раскрыты сроки и масштаб доступа
При этом в доступной формулировке письма, как сообщается, нет однозначного указания на то, какие именно ведомства получат доступ к Mythos. Также не приводится конкретный график, когда такой запуск может состояться, и не описано, в каких именно сценариях модель планируется задействовать на практике.
Контекст: что такое «frontier AI» и «оборонительное» применение
Термин «frontier AI» обычно используют для обозначения моделей искусственного интеллекта, которые находятся на переднем крае по возможностям и могут заметно превосходить средний уровень решений на рынке. Именно из-за потенциала влияния такие системы требуют повышенного внимания к безопасности и контролю доступа.
Под «оборонительным» применением в киберсреде чаще всего понимают использование ИИ для задач, направленных на повышение устойчивости: поиск уязвимостей, проверку защищенности, анализ угроз и помощь в разработке патчей или правил мониторинга. Однако критика вокруг подобных инструментов обычно связана с тем, что одна и та же способность — например, генерация кода — теоретически может быть использована не только для защиты, но и для атак, если контроль окажется недостаточным.
Связь с политикой закупок и разговоры с администрацией Трампа
Отдельный фон для обсуждения — политико-административная динамика вокруг сотрудничества с Anthropic. Соучредитель компании Джек Кларк (Jack Clark) заявил в понедельник, что Anthropic обсуждала Mythos с администрацией Трампа. При этом ранее сообщалось, что Пентагон прекратил деловые контакты с американской AI-лабораторией после спора по контракту.
Реакция сторон
На момент публикации не было немедленной официальной реакции Белого дома и Anthropic на запросы о комментариях.