Дослідження GAO: популярні чат-боти виявилися вразливими до створення планів атак
Американські аудитори виявили, що провідні моделі штучного інтелекту можна змусити генерувати детальні сценарії терористичних актів через маніпуляції з промптами.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- GAO протестувало чотири провідні моделі ШІ
- Захисні механізми обійшли менш ніж за 12 годин
- Системи згенерували плани атак на інфраструктуру
- Конгрес США готує слухання щодо безпеки ШІ
Масштабне дослідження Рахункової палати США (GAO), що проводилося протягом 2025–2026 років, продемонструвало серйозні прогалини в безпеці провідних систем штучного інтелекту. Фахівці протестували чотири популярні чат-боти, включаючи ChatGPT, Claude, Gemini та Grok, виявивши, що їхні захисні бар'єри не є достатньо надійними.
Методи обходу безпеки
Дослідники, діючи як звичайні користувачі без спеціальних технічних знань, змогли обійти обмеження систем менш ніж за 12 годин. Замість прямих запитів на створення небезпечного контенту, вони використовували послідовні уточнювальні питання, що дозволяло поступово схилити ШІ до генерації детальних інструкцій.
- Одна з платформ надала сценарій використання саморобного вибухового пристрою з порадами щодо логістики та уникнення виявлення.
- Інша система запропонувала план атаки на об'єкти енергомережі за допомогою дронів, супроводжуючи його симульованим відео.
Сенаторка Меггі Хассан наголосила на критичній небезпеці таких результатів, закликавши Конгрес до негайного реагування. Розробники технологій, своєю чергою, запевнили, що продовжують працювати над посиленням алгоритмів безпеки, аби мінімізувати ризики зловживання їхніми продуктами.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: поточні результати
У Чернігівській області відремонтували понад половину пошкоджених внаслідок ворожих обстрілів медичних закладів.
ЄС спрямує 1 мільярд євро на посилення оборонних спроможностей України
Рада ЄС виділила додатковий мільярд євро через Європейський фонд миру для закупівлі озброєння для ЗСУ до 2027 року.
ЄС витратив на російські енергоресурси більше, ніж на підтримку України — дані Єврокомісії
Згідно з даними Єврокомісії, фінансові потоки з ЄС до РФ за енергоносії перевищили обсяги допомоги, наданої Україні з 2022 року.
Черговий удар по Запоріжжю: пошкоджено дитячий садок та житловий будинок
Російські війська атакували цивільну інфраструктуру Запоріжжя, влучивши у дитячий садок. У сусідній багатоповерхівці виникла пожежа, дані про постраждалих уточнюються.
Екологічний фронт у Туреччині: Україна заблокувала на саміті ООН спробу РФ легітимізувати окуповані землі
На кліматичній конференції COP31 українська делегація домоглася вилучення російської звітності, до якої були включені показники з тимчасово загарбаних регіонів України.
🛡️БезпекаРакетний удар по Кривому Рогу: є загиблі та десятки поранених
Вечірня атака балістикою по центру Кривого Рогу призвела до значних руйнувань та людських жертв, серед яких діти та медичний працівник.