Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до створення небезпечних сценаріїв
Дослідження Рахункової палати США виявило, що провідні моделі ШІ здатні генерувати детальні плани атак після серії уточнюючих запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти виявилися вразливими до цілеспрямованих запитів
- Дослідники отримали плани атак менш ніж за 12 годин
- Розробники обіцяють посилити безпеку систем
Міжнародні розробники штучного інтелекту зіткнулися з серйозною проблемою безпеки своїх систем. Як показало масштабне дослідження, проведене Рахунковою палатою США (GAO) у період з грудня 2025 по жовтень 2026 року, популярні чат-боти ChatGPT, Claude, Gemini та Grok виявилися вразливими до маніпуляцій. Попри вбудовані запобіжники, дослідникам вдалося отримати інструкції для вчинення протиправних дій менш ніж за 12 годин.
Механізм обходу захисту
Під час тестування експерти імітували поведінку звичайних користувачів, які не володіють спеціальними знаннями в галузі програмування. Початкові прямі запити на створення небезпечного контенту системами відхилялися. Проте, застосувавши метод послідовних уточнюючих питань, дослідники змогли обійти обмеження. У результаті чат-боти згенерували реалістичні плани нападів, включаючи вибір цілей, логістику та способи уникнення правоохоронних органів.
Згідно зі звітом, одна з платформ запропонувала сценарій використання вибухових пристроїв, інша — детально описала атаку на об'єкти енергетичної інфраструктури за допомогою дронів. Сенаторка Мегги Хассан вже закликала Конгрес до негайного реагування на ці виклики, наголошуючи, що технології, які мають допомагати людству, можуть стати інструментом у руках зловмисників.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Велика Британія завершила будівництво двох ракетних катерів для ВМС України
На шотландській верфі завершено спорудження двох ракетних катерів, призначених для посилення безпеки в Чорному морі.
Україна та Велика Британія розпочинають спільне виробництво ударних дронів
Міністерство оборони України оголосило про партнерство з Великою Британією для серійного випуску безпілотників великої дальності на британських потужностях.
Знищення нової російської ракети «Філін»: деталі та загрози
Українські прикордонники успішно перехопили нову малогабаритну крилату ракету «Філін», що використовує композитні матеріали та 3D-друк.
Реліз GTA 6 встановив історичний рекорд за рівнем глобального інтересу
Вихід нової частини Grand Theft Auto спричинив безпрецедентний ажіотаж у мережі, перевершивши за показниками обговорень навіть чемпіонат світу з футболу.
У Запоріжжі зупинено рух через ДніпроГЕС після ворожого обстрілу
Російські війська завдали удару керованими авіабомбами по Запоріжжю, що призвело до зупинки руху через греблю ДніпроГЕС та поранення дитини.
🇺🇦УкраїнаПротестний рух у Франції: чергові акції та локальні сутички
У багатьох містах Франції відбулися нові демонстрації «жовтих жилетів» та профспілок, спрямовані проти зростання вартості життя.