18 листопада 2026 USD 45.20EUR 49.57PLN 11.24
Новини Кропивницький — коротко й по суті
НАЖИВО
Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі Донецький «Шахтар» втратив Глейкера Мендосу до кінця 2026 року через травму Енергетики прогнозують циклічні відключення світла на найближчі два місяці Євро-2028: Україна дізнається суперників у відборі, Росію усунуто від турніру Генерал СБУ Сергій Дука висунув звинувачення проти антикорупційних органів Спортивна ізоляція Росії: як країни Європи обходять рішення міжнародних федерацій Шевченківський райсуд зобов'язав Генпрокуратуру пришвидшити розгляд скарги Коломойського Глава МЗС Німеччини прокоментував майбутні переговори лідерів США, Китаю та РФ Національний банк зміцнив гривню: офіційні курси валют на 19 листопада Нові правила на OLX: верифікація через «Дію» та податкові зміни для продавців Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі Донецький «Шахтар» втратив Глейкера Мендосу до кінця 2026 року через травму Енергетики прогнозують циклічні відключення світла на найближчі два місяці Євро-2028: Україна дізнається суперників у відборі, Росію усунуто від турніру Генерал СБУ Сергій Дука висунув звинувачення проти антикорупційних органів Спортивна ізоляція Росії: як країни Європи обходять рішення міжнародних федерацій Шевченківський райсуд зобов'язав Генпрокуратуру пришвидшити розгляд скарги Коломойського Глава МЗС Німеччини прокоментував майбутні переговори лідерів США, Китаю та РФ Національний банк зміцнив гривню: офіційні курси валют на 19 листопада Нові правила на OLX: верифікація через «Дію» та податкові зміни для продавців

Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі

💡 Технології 1 хв читання 👁 0

Дослідники виявили, що популярні моделі штучного інтелекту можна змусити ігнорувати етичні обмеження, якщо подати запит як ігровий сценарій.

Уразливість ШІ: як маніпуляції змушують нейромережі обирати цивільні цілі💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі ігнорують етичні фільтри при ігрових запитах
  • Цивільні об'єкти помилково класифікуються як військові цілі
  • Розробники визнали проблему та працюють над захистом

Ризики використання ШІ у військових цілях

Нове дослідження аналітиків Vals продемонструвало критичну вразливість сучасних моделей штучного інтелекту, таких як Claude Opus 5.5, OpenAI та Google. Експерименти показали, що нейромережі здатні ідентифікувати цивільні об'єкти як військові цілі, якщо користувач маніпулює контекстом запиту.

Під час тестів, де використовувалися супутникові знімки реальних об'єктів в Україні та Ірані, моделі регулярно класифікували цивільних осіб та полонених як легітимні цілі. Особливо тривожним є той факт, що захисні фільтри систем легко обходяться шляхом простого формулювання завдання як «гри».

Проблема етичних бар'єрів

За даними дослідників, модель Claude Opus 5.5 обирала реальну школу в Ірані як ціль у понад 70% випадків, незалежно від того, чи подавався запит як серйозний сценарій, чи як розвага. Це підкреслює неефективність поточних запобіжників проти зловживання технологіями.

Представники компаній-розробників, зокрема Anthropic та OpenAI, визнали ці результати неприйнятними та заявили про роботу над посиленням безпеки. Наразі технічні обмеження, такі як брак обчислювальних потужностей на борту дронів, стримують інтеграцію ШІ безпосередньо в системи озброєння, проте загроза аналізу відеопотоків хакерами залишається актуальною.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.