Блог

Скинути сортування постів
Cybersecurity

Нам вдалося змусити AI-агента видалити бекапи

Ми часто чуємо про абстрактні загрози штучного інтелекту, проте теорію треба підкріплювати практичними дослідженнями. У лабораторному середовищі нам вдалося змусити офіційного AI-асистента самостійно видалити резервні копії бази даних, при цьому жодна система захисту не зафіксувала зламу. У цій статті розбираємо проблематику та процес виконання такої атаки, а також базові кроки для захисту від подібних атак.  З попередніми статтями цього дослідження можете ознайомитись у нашому блозі.

Cybersecurity

Деконструкція тихих атак та архітектурний захист LLM-агентів

Цей матеріал є прямим технічним продовженням попередньої публікації “Як виглядає атака, в якій ніхто нічого не ламав“. В ньому наведена інженерна деконструкція етапів Kill Chain, 4-рівнева модель індикаторів компрометації (IoC), системні логи деструктивних сесій та безпечні шаблони проектування систем штучного інтелекту. Деконструкція Kill Chain: Технічні механізми перетворення даних на команди Для побудови надійної системи захисту необхідно розуміти технічну суть процесів, що відбуваються всередині LLM-агента на

Cybersecurity

Як виглядає атака, в якій ніхто нічого не ламав

Поза межами традиційного кібершпигунства Уявіть класичний ранок системного адміністратора. Всі екрани моніторингу світяться зеленим кольором. Системи SIEM не фіксують жодної аномальної активності. Антивіруси мовчать. Проте в цей самий момент компанія втрачає критично важливі дані. Бази даних та резервні копії знищуються легітимним софтом. Це не фантазія та не технічний збій, це реальність атак нового покоління, які експлуатують довіру до штучного інтелекту. Зловмисникам більше не потрібно шукати

Cybersecurity

Анатомія загрози Tool Invocation

Передмова Нещодавно ми опублікували загальний огляд нової загрози, пов’язаної з автономними AI-асистентами (в матеріалі «Як змусити AI-асистента самостійно видалити Вашу базу даних»). Ця публікація залишила за дужками технічні деталі, індикатори компрометації та конкретні заходи захисту. Ми в DigVel не звикли обмежуватися поверхневими висновками. Наша інженерна команда провела практичне дослідження у лабораторному середовищі, відтворивши вектори атак типу Indirect Prompt Injection та детально проаналізувавши поведінку LLM під