Президент США Дональд Трамп оприлюднив у соціальній мережі Truth Social односторінкову угоду про безпеку та контроль систем штучного інтелекту. Про це пише «Главком» із посиланням на Reuters.
Документ, який Трамп назвав морально обов’язковим, підписали очільники Google, Anthropic, Meta, OpenAI, X та NVIDIA. До домовленостей закладено чотири рівні нагляду, а самі учасники не виключають, що в майбутньому ці стандарти можуть бути закріплені на законодавчому рівні.
Перший рівень передбачає обов’язкове залучення зовнішніх аудиторів та незалежних оцінювачів для перевірки ефективності внутрішніх механізмів моніторингу. Другий рівень стосується корпоративного управління: компаніям рекомендовано створити у складі ради директорів незалежний комітет, який отримуватиме звіти від аудиторів та профільних команд.
Третій рівень запроваджує постійний внутрішній моніторинг моделей під час їхнього навчання та використання, приділяючи особливу увагу кібербезпеці, а також біологічним і хімічним загрозам.
Нарешті, четвертий рівень вимагає формування окремої внутрішньої команди для перевірки належної роботи всіх систем контролю та виявлення ризиків.
Підписанти домовленості висловили готовність застосовувати ці заходи та регулярно зустрічатися для розробки спільних стандартів безпеки. Представники технологічного сектору наголосили, що запровадження таких механізмів аудиту є критично важливим незалежно від того, чи матимуть вони надалі юридично обов’язковий статус.
Раніше повідомлялося, що OpenAI, Anthropic та дослідники з кібербезпеки розслідують десятки тисяч випадків небажаної поведінки сучасних моделей штучного інтелекту. Йдеться як про внутрішні тести, так і про випадки у реальному середовищі.
