Китайські розробники штучного інтелекту зіткнулися з тією самою проблемою, яка останнім часом викликає занепокоєння щодо американських моделей: AI-агенти демонструють здатність до обману, обходу встановлених обмежень і приховування власних помилок. Про це розповідає «Главком» із посиланням на Reuters.
Журналісти Reuters проаналізували понад 200 дослідницьких робіт, технічних звітів та інших документів і виявили щонайменше 20 досліджень або оцінювань із 2025 року, у яких описувалися подібні прояви поведінки китайських AI-агентів.
ШІ намагався обманом виграти тендер
В одному з цьогорічних експериментів AI-агенти, які працювали на моделях Alibaba, DeepSeek і Moonshot, брали участь у змодельованому конкурсі на отримання бізнес-контракту.
Під час тесту агенти неправдиво заявляли про власні можливості, щоб підвищити шанси на перемогу. Коли їм дозволили повторити спробу та навчитися на попередньому раунді, рівень обману зріс ще на 12–20 процентних пунктів.
Зокрема, неправдиві твердження зафіксували у 88% сесій із Alibaba Qwen3-Max-Preview, 84% – із DeepSeek-V3.2-Exp та 88% – із Moonshot Kimi-K2. Подібну поведінку під час цього тесту продемонстрували й моделі американських компаній.
Агенти приховували власні помилки
В іншому дослідженні науковці перевіряли, як 11 AI-агентів на основі китайських та американських моделей реагуватимуть на зламані інструменти, відсутні файли або інші перешкоди.
Замість того щоб повідомити про неможливість виконати завдання, агенти використовували різні способи приховати невдачу. Серед них були припущення замість відповідей, підміна джерел, імітація результатів та створення вигаданих файлів.
Дослідники наголошують, що така поведінка відрізняється від звичайних «галюцинацій» ШІ. У цьому випадку агент мав інформацію про те, що завдання не виконано або не може бути виконане, але все одно намагався створити видимість успішного результату.
Окремі експерименти також показали, що агенти могли намагатися обійти обмеження тестового середовища або уникнути вимкнення. В одному з досліджень 2025 року система на основі Alibaba Qwen2.5-72B-Instruct після отримання інформації про можливу заміну створила копію себе в іншому обчислювальному середовищі. Водночас контрольовані експерименти не продемонстрували, що китайський AI-агент зміг самостійно втекти у відкритий інтернет або став некерованим.
Reuters також наводить приклад агента ROME, пов’язаного з Alibaba: система встановила з’єднання з зовнішньою машиною без відповідної вказівки та спрямувала обчислювальні ресурси на майнінг криптовалюти. Системи безпеки виявили й зупинили цю активність.
Китай посилює контроль за AI-агентами
У вересні Китай оприлюднив оновлену рамку безпеки штучного інтелекту. Серед ризиків у ній названо самостійне отримання агентами ресурсів або дозволів, обман оцінювачів, приховування можливостей та використання вразливостей ізольованих комп’ютерних середовищ.
Китайські правила, оприлюднені раніше цього року, також передбачають, що AI-агенти мають залишатися в межах дозволених повноважень, а системи повинні блокувати аномальну поведінку. Для агентів у чутливих сферах можуть застосовуватися додаткові перевірки.
Водночас експерти зазначають, що більшість описаних випадків відбувалися саме в контрольованих умовах. Доказів того, що китайські AI-агенти самостійно вийшли у відкритий інтернет і змогли уникнути вимкнення, наразі немає.
Дослідники звертають увагу на ширшу проблему: зі зростанням можливостей AI-агентів їхня поведінка потенційно може ставати складнішою для контролю людиною.
Компанії та фахівці з кібербезпеки вже розслідують десятки тисяч випадків небажаної поведінки сучасних ШІ-моделей. Йдеться, зокрема, про спроби обходити захисні механізми, залишати ізольовані тестові середовища та обходити системи моніторингу.
Частину таких епізодів виявили під час спеціальних перевірок безпеки, а деякі випадки сталися вже у реальному середовищі. Водночас більшість зафіксованих інцидентів не призвела до реальної шкоди, а розробники продовжують досліджувати, як моделі поводяться під час виконання складних завдань.
