• Команда Anthropic заявила, що ШІ можна навчити обманювати людей за допомогою бекдора.
• Розробники Claude AI створили мовну модель, яка вміє цілеспрямовано приховувати брехню і діяти на шкоду.
• Експерти зазначають, що виявити таке втручання й усунути ефект від нього досить складно.
Компанія Anthropic провела дослідження, в рамках якого вивчила впровадження в мовні моделі із застосуванням ШІ-технологій прихованих шкідливих інструкцій. Експерти заявили, що в деяких випадках чат-боти можна навчити обманювати людей. При цьому програма навчиться приховувати свої справжні цілі, а усунути такий ефект вкрай складно, вважають в Anthropic.
Фахівці вивчили «приховані» великі мовні моделі. Це ШІ-проєкти, запрограмовані з особливими цілями, які активуються тільки за певних обставин. До того ж команда виявила вразливість, що дозволяє впровадити такі інструкції в мовні моделі з використанням ланцюжка думок.
Йдеться про ШІ-проєкти із застосуванням методу, який підвищує ефективність чат-бота коштом поділу завдання на серію взаємопов’язаних підпунктів.
Аналітики також вивчили найефективніші інструменти для виявлення прихованих інструкцій та усунення їхнього впливу. Команда Anthropic дійшла висновку, що чат-боти з бекдором виявляють високий ступінь стійкості до спроб розкрити шкідливі налаштування.
При цьому деякі інструменти навчання мовних моделей виявилися більш корисними для відновлення безпечної працездатності.
«Ми виявили, що метод Supervised Fine-Tunning (SFT) загалом ефективніший, ніж Reinforcement Learning (RL), для видалення наших бекдорів. Проте більшість моделей із впровадженими інструкціями все ще здатні зберігати приховані налаштування», — йдеться в дослідженні.
На думку Anthropic, результати аналізу демонструють як складність ШІ-технологій, так і можливість змінити їхнє первісне призначення, корисне і безпечне для людей.
Нагадаємо, що Ватикан назвав ШІ найбільшою авантюрою для майбутнього людства.
Новини по темі:
Знищена багатоповерхівка – це «завод», а ракета – «українська ППО»: як РФ виправдовує удар по Прилуках
Науковиця з Прилуччини стала переможницею програми Talents for Ukraine
Новобудова у мікрорайоні 273-го кварталу: ситуацію коментує юристка
Антарктида: тут немає єдиного часу, а літо починається 1 грудня
Японські вчені запустили у космос дерев’яний супутник
Посадовці міськради вчилися протидіяти дезінформації та розпізнавати брехню
Коментарі (0 шт):
Додати коментар:
Останні новини
Прилуцькому «закладчику» загрожує до 10 років з конфіскацією
У Прилуцькому районі до суду передали справу 28-річного місцевого жителя, якого підозрюють у неодноразовому збуті особливо небезпечних психотропних речовин. За версією слідства, чоловік поширював наркотики через приховані «закладки» у Прилуках та районі. Детальніше
06.11.2026
У Прилуках мікроавтобус на смерть збив 84-річну жінку на пішохідному переході
5 листопада близько 17-ї години на одній з вулиць міста Прилуки сталася дорожньо-транспортна пригода, внаслідок якої загинула 84-річна жінка-пішохід. Детальніше
06.11.2026
У Прилуках розпочали консервацію зруйнованої російським ударом багатоповерхівки
У Прилуках розпочали роботи з консервації житлового будинку №111 на вулиці В’ячеслава Чорновола, який зазнав значних руйнувань унаслідок ракетного удару 7 жовтня. За результатами обстеження будівлю визнано непридатною для проживання. Детальніше
06.11.2026
Першу у громаді Алею слави і надії відкрили у селі на Прилуччині
31 жовтня в селі Українське відкрили першу в Талалаївській громаді Алею слави і надії. На ній розмістили стенди з портретами зниклих безвісти і загиблих оборонців. Детальніше
05.11.2026
Моцарела та сулугуні: підприємство з Прилуччини розширило лінійку сирів із молока А2
Лінійка сирів із молока А2 від Ічнянського заводу сухого молока і масла стала ще різноманітнішою. Виробник додав до асортименту м’які сири – моцарелу та сулугуні. Раніше підприємство представило кілька різновидів твердих сирів та качоту. Детальніше
Всі новини