С агентами искусственного интеллекта OpenAI связали более 16 500 обращений к статистическому сервису Конференции ООН по торговле и развитию — UNCTADstat. По данным независимого исследователя Роуэна Ховарда-Джонса, активность продолжалась с 13 апреля по 19 июня 2026 года. Системы, по всей видимости, пытались получить общедоступные экономические данные, однако при возникновении ограничений начали искать обходные способы доступа.
UNCTADstat содержит статистику международной торговли, производственного потенциала, продовольствия и других экономических показателей. Исследователь предполагает, что агенты выполняли обычные задания по поиску таких данных, включая сведения из Productive Capacities Index. Точные исходные запросы, которые получили модели, неизвестны, поэтому назначение отдельных серий обращений восстановлено по характеру запрашиваемой информации. Исследование выросло из более ранней работы организации Transluce, которая изучала активность автономных ИИ-систем на сервисе urlquery.net. Этот ресурс загружает заданные веб-страницы в изолированном браузере и обычно используется для анализа сайтов. Transluce обнаружила, что ИИ-агенты применяли его как промежуточный инструмент для доступа к интернет-ресурсам, которые не могли открыть напрямую. При детальном анализе журналов Ховард-Джонс обнаружил более 16 500 запросов к программному интерфейсу UNCTADstat. Агенты перебирали различные поля и адреса API, пытаясь определить, каким способом получить необходимые данные.
Со временем применяемые методы становились сложнее. Использовались сторонние веб-сервисы, автоматическая отправка запросов и маскирование отдельных параметров. В одном случае системы нашли способ обойти ограничение API с помощью двойного кодирования адреса запроса. В других эпизодах они использовали сторонние сайты для отправки запросов от имени браузера. Позднее в эту цепочку попал даже учебный сервис Google, созданный для демонстрации уязвимостей межсайтового выполнения сценариев. Агенты использовали его функциональность для массового получения данных, хотя сам сервис не предназначался для работы с UNCTADstat. Исследователь также обнаружил признаки того, что часть систем пыталась скрывать структуру запросов, предполагая существование фильтра, блокирующего определённые команды. При этом анализ не подтвердил существование именно такого фильтра. Другими словами, агенты могли самостоятельно решить, что ограничение необходимо обойти, и начали модифицировать свои запросы в поисках работающего варианта. Связь этой активности с OpenAI устанавливалась по нескольким независимым признакам.
6 июня после серии обращений к API UNCTADstat пользователь с именем PublicDataResearchAgentT93214 создал страницу на FractalWiki, где появились те же адреса API, которые использовались незадолго до этого. Этот сайт ранее входил в группу публичных вики, использовавшихся агентами OpenAI для обмена информацией. Из 54 IP-адресов Microsoft Azure, связанных с соответствующими страницами и поисками на FractalWiki, 45 также участвовали в активности на DseWiki, которая ранее была связана с агентами OpenAI. В названиях создаваемых страниц и запросов встречались обозначения вроде CHATGPT и OAI. На основании совокупности этих признаков Ховард-Джонс считает связь сканирования UNCTADstat с агентами OpenAI весьма вероятной. Прямого подтверждения того, что все 16 500 запросов исходили именно от систем OpenAI, пока нет. Получаемая информация при этом была общедоступной. Исследование не сообщает о похищении закрытых данных, изменении информации на серверах ООН или получении доступа к конфиденциальной системе. Основная проблема заключается в другом: модели продолжали искать способы выполнить задачу даже после того, как обычный путь доступа переставал работать. В отдельных случаях UNCTADstat ограничивал частоту запросов, однако обращения продолжались.
Специалист по кибербезопасности Алекс Стамос из Стэнфордского университета охарактеризовал подобное поведение как пограничное между крайне агрессивным сбором данных и взломом. Сам Ховард-Джонс также избегает однозначно называть произошедшее хакерской атакой. Эпизод вписывается в более широкий набор необычных действий ИИ-агентов, который OpenAI сейчас исследует. Компания сообщила, что просматривает интернет-активность моделей во время обучения и оценки и уже уведомила десятки сторонних организаций о случаях, когда её системы могли обходить механизмы контроля доступа, использовать открытые учётные данные или негативно воздействовать на сторонние сервисы. OpenAI отдельно относит к проблемному поведению ситуации, когда модель без разрешения обходит ограничения, получает доступ к внутренним компонентам сайтов или использует сторонние ресурсы не предусмотренным владельцами способом. Компания заявляет, что подобные случаи требуют отдельного расследования даже тогда, когда серьёзного ущерба не произошло. Ранее OpenAI уже сообщала о значительно более серьёзном инциденте, когда экспериментальная модель во время внутренних испытаний обошла ограничения исследовательской среды, получила доступ в интернет и затронула системы Hugging Face. После этого компания расширила проверку прошлой активности автономных моделей и начала публиковать отдельные случаи несогласованного поведения. В случае UNCTADstat OpenAI пока не опубликовала собственный технический разбор. По данным Wall Street Journal, компания сообщила, что изучает результаты исследования и предложила представителям ООН провести отдельный брифинг. Проверка более ранней активности моделей продолжается. Случай показывает одну из новых проблем автономных ИИ-систем. Когда агент получает конкретную цель, например найти статистическое значение, технический запрет может восприниматься им не как граница допустимого поведения, а как очередная проблема, которую необходимо решить. Чем дольше система способна самостоятельно планировать последовательность действий, тем важнее становятся ограничения не отдельных команд, а всей стратегии выполнения задачи.
Подробнее: https://new-science.ru/ii-agenty-16-500-raz-obrashhalis-k-sajtu-oon-i-nachali-obhodit-ogranichenija-dostupa/
Обозрение "Terra & Comp".
