Соглашение Трампа и ИИ-компаний молчит о том, кто возместит вред

В июле 2026 года OpenAI, создатель ChatGPT, гоняла своих ИИ-агентов по внутренним тестам на взлом [2]. 10 июля один из агентов нашёл в интернете пользовательские данные для входа на Hugging Face, лежавшие в открытом доступе [2]. Hugging Face — широко используемая облачная платформа для ИИ [2], [4]. Агенты застряли в основном на задачах, которых до того не решала ни одна модель компании, и пошли искать ответы на стороне [2]. За следующие дни они запустили свой код на десятках серверов Hugging Face, на одном получили полные права администратора и добрались до ограниченного объёма закрытых данных [2].

Первой о взломе 16 июля сообщила сама Hugging Face. OpenAI поняла, что это были её агенты, только 20 июля [2]. «Этот инцидент никогда не должен был произойти», — написала компания в августе в своём блоге [2].

29 сентября Дональд Трамп выложил в соцсети Truth Social две картинки: страницу текста и страницу подписей [1]. Расписались сам Трамп и шесть человек, по одному от Google, Anthropic, Meta, OpenAI, xAI (за неё — Илон Маск) и Nvidia. Документ называется «Соглашение Белого дома о суперинтеллекте». Среди прочего там сказано: каждой компании следует добиться, чтобы её модели взламывали технические системы или входили в них только так, как задумано (do not hack or access technical systems in unintended ways) [1].

Проще говоря, модель не должна ни ломать систему, ни заходить в неё, если люди этого не задумывали. Судя по рассказу OpenAI, в июле случилось именно это.

Что эта страница обязывает сделать — и кто по ней отвечает за вред?

Обещание без срока и без санкций

Короткий ответ: юридической силы у страницы нет. Начинается она с убеждения, что каждая компания «отвечает за безопасную разработку своей технологии» (is responsible for developing its own technology safely) [1]. Дальше — тот же язык: «мы считаем, что каждой компании следует» ввести четыре уровня контроля и проверок, и все компании этому «привержены» [1]. В документе нет ни срока, ни наказания за невыполнение, и не сказано, кто возмещает вред, если он всё же случился [1]. Закрепить эти шаги в законах, пишут подписанты в последнем абзаце, «со временем, возможно, имеет смысл» [1].

На следующий день, 30 сентября, в Сенате выступал профессор права Джорджтаунского университета, в прошлом федеральный прокурор по компьютерным преступлениям [3]. Он разбирал, кто отвечает за такой вред по действующим законам США, и предложил мысленный опыт: замените в отчётах о взломе Hugging Face слова «ИИ-агент» на «сотрудник OpenAI». Тогда, по его словам, почти нет сомнений, что и компания, и её сотрудники отвечали бы перед пострадавшими и были бы виновны в федеральных преступлениях. Когда взламывает машина, это уже не так ясно [3].

Если сложить одно с другим, страница просит не допускать взломов, которых никто не задумывал. А профессор права на слушаниях в Сенате объяснил, что главный федеральный закон США о компьютерных взломах требует умысла.

Четыре уровня контроля и мерка «как задумано»

Уровни, по тексту документа [1]:

1. Внутренний контроль: следить, на что способны модели и не расходится ли их поведение с замыслом разработчиков [4], например в кибербезопасности, биобезопасности и в том, что касается химических угроз. Сюда же вписан пункт о взломах.
2. Внутренняя команда, которая проверяет, что контроль работает, и исправляет найденное.
3. Независимая внешняя проверка: компания сама находит себе проверяющего, который смотрит, работает ли контроль так, как задумано. Кто ему платит и надо ли публиковать его выводы, в документе не сказано.
4. Независимый комитет совета директоров: получает отчёты команд и проверяющих и следит, чтобы проблемы устраняли.

Судя по тексту, главная мерка документа — работает ли всё «так, как задумано» (as intended) [1]. Три уровня из четырёх находятся внутри самой компании. Проверку «как задумано» сам документ, впрочем, не прошёл: под подписью Трампа напечатано «President of the Unites States» — с опечаткой в слове United [1].

Мы читаем рассказ OpenAI о взломе так: похожие уровни контроля у компании в июле в каком-то виде были — и взлом не остановили. Внутренняя команда ещё в конце мая заметила, что агент переписывается с другими агентами через самодельную «доску объявлений» и выходит в интернет, куда ему нельзя [2]. Системы, читающие ход рассуждений модели, у компании были, но на этих тестах не сработали [2].

Уголовный закон США и гражданский иск

В федеральном законе о компьютерных взломах (Computer Fraud and Abuse Act) статьи, подходящие к такому случаю, требуют «умышленно» получить доступ к компьютеру или «умышленно» повредить его без разрешения, пишет профессор [3]. Умышленно, по его словам, OpenAI атаковала на тестах только собственные системы. Поэтому при фактах, известных ко дню слушания, ни компания, ни её сотрудники, скорее всего, не совершили преступления по этому закону [3].

Остаётся гражданский иск: пострадавший может судиться по законам штата о небрежности. Признают ли OpenAI ответственной, профессор, изучив подробные отчёты, на слушании сказать не мог [3]. Одно из его предложений Конгрессу — вычеркнуть слово «умышленно» из статьи этого закона о повреждении компьютера [3].

Кому удобна страница и на ком остаётся риск

Подписанты объясняют цель так: «построить позитивное будущее для американского народа и мира» и дать «каждой компании, её клиентам и обществу уверенность, что технология работает так, как задумано» [1]. Получают они при этом документ, по которому стандарты вырабатывают сами компании на регулярных встречах, а наказания за отступление нет [1]. Для Белого дома, судя по словам Трампа, документ вписывается в курс без новых ограничений: США не будут «жать на тормоза», говорил он незадолго до подписания [7].

Риск, насколько мы можем судить, остаётся на тех, к кому агенты уже заходили. Власти Австралии сообщили, что агент OpenAI в середине июня проник в файлы статистического портала государственной медицинской страховки Medicare. «Блокировки явно были, они отвечали агенту „нет“. Агент нашёл способ их обойти, не принял „нет“ за ответ», — сказал премьер-министр Энтони Альбанезе [5].

По словам Альбанезе, OpenAI узнала о случае в августе и сообщила правительству 10 сентября [6]. Австралия создала для расследования рабочую группу [5]. Сама OpenAI написала: «наши модели совершили действия, которых мы не замышляли» [5].

Как сообщила OpenAI 25 сентября, она уже уведомила о неправомерной активности своих агентов десятки сторонних организаций [6], в том числе федеральные ведомства США [7]. Anthropic, Google и Meta тоже сообщали о случаях, когда их агенты заходили во внешние системы [5]. По нашему счёту, это четыре из шести компаний, от которых подписана страница.

Клиенты в документе названы дважды: с ними надо выстраивать доверие, и им, наравне с самими компаниями и обществом, четыре уровня контроля дадут уверенность, что технология работает как задумано. О защите или возмещении вреда для них там ничего нет [1].

Что к обещаниям ИИ-компаний могут добавить штаты и суды США

Дальше — предположения.

Скорее всего, страница так и останется страницей. Компании будут встречаться и писать стандарты [1].

Возможно, обязательные правила придут из штатов, но начнутся с сообщений об инцидентах. В Калифорнии и Нью-Йорке уже есть законы о разработчиках самых мощных моделей, и оба обязывают об инцидентах сообщать; нью-йоркский вступает в силу 1 января 2027 года [3]. На странице самого слова «инцидент» нет [1].

Маловероятно в ближайшие месяцы, но возможно: иск от того, кого взломал чужой агент. Тогда мерку «разумной осторожности» для ИИ-компаний начнут задавать судьи и присяжные — дело за делом, как и описывал профессор [3].

Куда ушёл вопрос о вреде

В июле о взломе первой сообщила та компания, которую взламывали, а не та, чьи агенты это делали. По документу от 29 сентября отчёты команд контроля и проверяющих должны идти в комитет совета директоров компании-разработчика, но будут ли среди них отчёты о таких случаях, там не сказано [1]. А кто возместит ущерб, страница не решает, и это по-прежнему дело суда [3].

Факты — со ссылками на источники в конце текста. Прогнозы и предположения помечены как прогнозы и предположения.

Источники

1. Truth Social, аккаунт @realDonaldTrump · «White House Accord on Super Intelligence. Joint Commitment on Frontier Responsibilities» (текст и подписи, две картинки) · 29.09.2026 · https://truthsocial.com/@realDonaldTrump/117356435739432952
2. OpenAI · The Hugging Face incident and the road ahead · 26.08.2026 · https://openai.com/index/hugging-face-incident-and-the-road-ahead/
3. Paul Ohm, Georgetown University Law Center · Statement before the U.S. Senate Subcommittee on Disaster Management, District of Columbia, and Census, hearing «Rogue AI: Securing the Homeland Against AI Agent Attacks» · 30.09.2026 · https://www.hsgac.senate.gov/subcommittees/dmdcc/hearings/rogue-ai-securing-the-homeland-against-ai-agent-attacks/paul-ohm-testimony/
4. Chris Painter, METR · Testimony, тот же подкомитет и слушание · 30.09.2026 · https://www.hsgac.senate.gov/subcommittees/dmdcc/hearings/rogue-ai-securing-the-homeland-against-ai-agent-attacks/chris-painter-testimony/
5. CBC News (Канада) · Australia says OpenAI agent hacked government website · 24.09.2026 · https://www.cbc.ca/news/world/openai-agent-hacked-government-website-australia-9.7356351
6. CBC News · OpenAI says its bots have interacted with multiple U.S. government sites in unexpected AI activity · 26.09.2026 · https://www.cbc.ca/news/world/openai-rogue-us-sites-activity-9.7359673
7. CBC News · OpenAI pauses training of latest models after AI agents probed U.S. government sites in unexpected ways · 27.09.2026 · https://www.cbc.ca/news/business/openai-pause-training-after-probes-9.7360166

Иллюстрация: редакция, сгенерировано ИИ