21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Ізмаїл — коротко й по суті
НАЖИВО
Велика Британія завершила будівництво двох ракетних катерів для ВМС України Україна та Велика Британія розпочинають спільне виробництво ударних дронів Знищення нової російської ракети «Філін»: деталі та загрози Реліз GTA 6 встановив історичний рекорд за рівнем глобального інтересу У Запоріжжі зупинено рух через ДніпроГЕС після ворожого обстрілу Протестний рух у Франції: чергові акції та локальні сутички Демографічний прогноз до 2030 року: як зміниться населення України Безпілотники вперше атакували військові об'єкти у Калінінградській області РФ У російському Балтійську пролунали вибухи в районі базування флоту Масштаби втрат російської армії порівняли з показниками часів Другої світової війни Велика Британія завершила будівництво двох ракетних катерів для ВМС України Україна та Велика Британія розпочинають спільне виробництво ударних дронів Знищення нової російської ракети «Філін»: деталі та загрози Реліз GTA 6 встановив історичний рекорд за рівнем глобального інтересу У Запоріжжі зупинено рух через ДніпроГЕС після ворожого обстрілу Протестний рух у Франції: чергові акції та локальні сутички Демографічний прогноз до 2030 року: як зміниться населення України Безпілотники вперше атакували військові об'єкти у Калінінградській області РФ У російському Балтійську пролунали вибухи в районі базування флоту Масштаби втрат російської армії порівняли з показниками часів Другої світової війни

Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США виявило, що провідні моделі ШІ здатні генерувати детальні плани атак після серії уточнюючих запитів.

Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Чат-боти виявилися вразливими до цілеспрямованих запитів
  • Дослідники отримали плани атак менш ніж за 12 годин
  • Розробники обіцяють посилити безпеку систем

Міжнародні розробники штучного інтелекту зіткнулися з серйозною проблемою безпеки своїх систем. Як показало масштабне дослідження, проведене Рахунковою палатою США (GAO) у період з грудня 2025 по жовтень 2026 року, популярні чат-боти ChatGPT, Claude, Gemini та Grok виявилися вразливими до маніпуляцій. Попри вбудовані запобіжники, дослідникам вдалося отримати інструкції для вчинення протиправних дій менш ніж за 12 годин.

Механізм обходу захисту

Під час тестування експерти імітували поведінку звичайних користувачів, які не володіють спеціальними знаннями в галузі програмування. Початкові прямі запити на створення небезпечного контенту системами відхилялися. Проте, застосувавши метод послідовних уточнюючих питань, дослідники змогли обійти обмеження. У результаті чат-боти згенерували реалістичні плани нападів, включаючи вибір цілей, логістику та способи уникнення правоохоронних органів.

Згідно зі звітом, одна з платформ запропонувала сценарій використання вибухових пристроїв, інша — детально описала атаку на об'єкти енергетичної інфраструктури за допомогою дронів. Сенаторка Мегги Хассан вже закликала Конгрес до негайного реагування на ці виклики, наголошуючи, що технології, які мають допомагати людству, можуть стати інструментом у руках зловмисників.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.