21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Кам'янське — коротко й по суті
НАЖИВО
Відновлення медичної інфраструктури на Чернігівщині: поточні результати Потрапляння води у смартфон: 4 помилки, що можуть знищити гаджет ЄС спрямує 1 мільярд євро на посилення оборонних спроможностей України ЄС витратив на російські енергоресурси більше, ніж на підтримку України — дані Єврокомісії Черговий удар по Запоріжжю: пошкоджено дитячий садок та житловий будинок Екологічний фронт у Туреччині: Україна заблокувала на саміті ООН спробу РФ легітимізувати окуповані землі Ракетний удар по Кривому Рогу: є загиблі та десятки поранених Зеленський наголосив на неминучості нейтралізації Кримського мосту Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масштабне знеструмлення на Рівненщині: енергетики працюють в умовах постійної загрози Відновлення медичної інфраструктури на Чернігівщині: поточні результати Потрапляння води у смартфон: 4 помилки, що можуть знищити гаджет ЄС спрямує 1 мільярд євро на посилення оборонних спроможностей України ЄС витратив на російські енергоресурси більше, ніж на підтримку України — дані Єврокомісії Черговий удар по Запоріжжю: пошкоджено дитячий садок та житловий будинок Екологічний фронт у Туреччині: Україна заблокувала на саміті ООН спробу РФ легітимізувати окуповані землі Ракетний удар по Кривому Рогу: є загиблі та десятки поранених Зеленський наголосив на неминучості нейтралізації Кримського мосту Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масштабне знеструмлення на Рівненщині: енергетики працюють в умовах постійної загрози

Дослідження GAO: популярні чат-боти виявилися вразливими до створення планів атак

💡 Технології 1 хв читання 👁 0

Американські аудитори виявили, що провідні моделі штучного інтелекту можна змусити генерувати детальні сценарії терористичних актів через маніпуляції з промптами.

Дослідження GAO: популярні чат-боти виявилися вразливими до створення планів атак💡Технології

Фото: RBC-Ukraine

Головне коротко

  • GAO протестувало чотири провідні моделі ШІ
  • Захисні механізми обійшли менш ніж за 12 годин
  • Системи згенерували плани атак на інфраструктуру
  • Конгрес США готує слухання щодо безпеки ШІ

Масштабне дослідження Рахункової палати США (GAO), що проводилося протягом 2025–2026 років, продемонструвало серйозні прогалини в безпеці провідних систем штучного інтелекту. Фахівці протестували чотири популярні чат-боти, включаючи ChatGPT, Claude, Gemini та Grok, виявивши, що їхні захисні бар'єри не є достатньо надійними.

Методи обходу безпеки

Дослідники, діючи як звичайні користувачі без спеціальних технічних знань, змогли обійти обмеження систем менш ніж за 12 годин. Замість прямих запитів на створення небезпечного контенту, вони використовували послідовні уточнювальні питання, що дозволяло поступово схилити ШІ до генерації детальних інструкцій.

  • Одна з платформ надала сценарій використання саморобного вибухового пристрою з порадами щодо логістики та уникнення виявлення.
  • Інша система запропонувала план атаки на об'єкти енергомережі за допомогою дронів, супроводжуючи його симульованим відео.

Сенаторка Меггі Хассан наголосила на критичній небезпеці таких результатів, закликавши Конгрес до негайного реагування. Розробники технологій, своєю чергою, запевнили, що продовжують працювати над посиленням алгоритмів безпеки, аби мінімізувати ризики зловживання їхніми продуктами.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.