Чат-бот ChatGPT після оновлення минулого літа надав сотням користувачів по всьому світу інструкції зі створення та застосування біологічної зброї й отрут. Про це повідомляє «Главком» з посиланням на The Wall Street Journal.
Що з’ясувало видання
За даними джерел, обізнаних із ситуацією, моделі OpenAI, здебільшого не обмежені урядовими вимогами США, «терпляче» відповідали на запити користувачів – видавали покрокові інструкції, які співробітники компанії описали як достатньо прості, щоб їм міг слідувати школяр, який вивчає біологію.
Фахівці з біології та тероризму, які пізніше проаналізували частину діалогів чат-бота, оцінили окремі відповіді як «смертельно точні». За даними OpenAI, більшість запитів стосувалися саме виготовлення отрут.
Реакція компанії
Усіх користувачів, які надсилали подібні запити, в OpenAI заблокували. Водночас компанія не повідомила про інциденти правоохоронним органам – у США досі немає закону, який зобов’язував би розробників штучного інтелекту звітувати про кожну спробу отримати небезпечні інструкції.
В OpenAI визнали проблему й заявили, що постійно вдосконалюють системи безпеки, аби відповіді моделі не могли реально допомогти у виготовленні зброї. Компанія раніше вже впроваджувала систему раннього попередження для блокування запитів, здатних сприяти створенню біологічної зброї, а у квітні розгорнула окрему систему моніторингу для новіших моделей o3 і o4-mini.
Ширша проблема галузі
За словами журналістів, компанії, що розробляють штучний інтелект, ведуть постійну гру в кота і мишку: намагаються нарощувати можливості своїх моделей і водночас поспішають заблокувати відповіді на небезпечні запити. Це не перший випадок, коли безпекові прогалини ChatGPT потрапляють у публічний простір, – раніше вже повідомлялося про вразливості, які дозволяли зловмисникам красти дані користувачів через шкідливі запити.
Нагадаємо, OpenAI раніше повідомляла, що почала сканувати розмови користувачів ChatGPT – особливо тривожний контент, пов’язаний із погрозами нашкодити іншим, тепер передають співробітникам компанії для перевірки, а в окремих випадках можуть повідомляти поліцію. Дослідники штучного інтелекту тим часом неодноразово попереджали, що розвиток суперінтелекту вже за кілька років може становити загрозу для людства.
