Президент США Дональд Трамп, по информации The New York Times, рассматривает возможность усилить контроль государства над новыми разработками в сфере искусственного интеллекта. Соответствующее обсуждение, как утверждается, ведётся в рамках подготовки решений Белого дома и сопровождается внутренними консультациями с участием представителей администрации.
Что именно планируют сделать
По данным газеты, американская сторона обсуждает содержание будущего президентского распоряжения (executive order). Такой документ в США выпускает глава государства без прохождения полноценной процедуры принятия закона в Конгрессе. Его цель — задать направление работы федеральных ведомств, определить состав рабочих групп или запустить координацию между структурами.
В рамках этой инициативы предполагается создать A.I. working group — рабочую группу по искусственному интеллекту. В её состав, согласно публикации, планируют включить представителей технологического сектора и чиновников. Логика модели проста: объединить экспертов из компаний, которые создают и внедряют ИИ, с государственными структурами, чтобы совместно оценить, какие правила и механизмы надзора могут быть применимы к новым моделям.
Зачем нужна рабочая группа
Термин «oversight» в данном контексте означает надзор и контроль — то есть систему мер, призванных отслеживать риски и последствия внедрения технологий. Для искусственного интеллекта это обычно включает вопросы безопасности, устойчивости систем к ошибкам, прозрачности принципов работы, а также предотвращения злоупотреблений.
Как сообщается, рабочая группа должна будет изучить возможные процедуры регулирования и надзора. Иными словами, речь идёт не о готовом запрете или мгновенном введении конкретных требований, а о подготовке подходов, которые затем могут лечь в основу дальнейших решений.
Предыстория: почему тема контроля ИИ стала приоритетной
В последние годы ИИ и особенно «новые модели» стали быстро распространяться в разных отраслях — от финансов и обслуживания клиентов до медицины, логистики и кибербезопасности. На этом фоне государства активнее обсуждают, как минимизировать риски: ошибки алгоритмов, дискриминацию при принятии решений, утечки данных и возможность использования ИИ для вредоносных действий. Поэтому инициативы по созданию рабочих групп и подготовке рамок контроля стали одной из наиболее распространённых форматов в политике США.
Что известно на данный момент
- Сообщение о рассмотрении инициативы появилось 4 мая.
- Речь идёт о возможном исполнительном распоряжении и создании A.I. working group.
- Предполагается участие представителей технологических компаний и государственных чиновников.
- Публикация основана на информации, полученной из источников, которые были ознакомлены с ходом обсуждений.
Также отмечается, что независимой проверки этой информации на момент публикации оперативно сделать не удалось.