Хакери здобули доступ до секретів штучного інтелекту OpenAI

Компанія OpenAI зазнала атаки минулого року. Зловмисник отримав доступ до інформації про штучний інтелект, але не до самих систем. Ця подія викликала занепокоєння щодо можливого викрадення технологій штучного інтелекту й рівня безпеки OpenAI.

Компанія OpenAI, розробник ChatGPT, зазнала хакерської атаки минулого року. Зловмисник отримав доступ до внутрішніх форумів, де співробітники обговорювали новітні технології штучного інтелекту. Інформація про ядро штучного інтелекту не постраждала, стверджують в OpenAI. Компанія вирішила не повідомляти публічно про інцидент, оскільки дані клієнтів і партнерів не були викрадені.

Однак ця подія викликала занепокоєння в деяких співробітників OpenAI щодо можливості викрадення технологій штучного інтелекту з боку Китаю або інших країн. Також виникли питання щодо рівня безпеки OpenAI та потенційних ризиків штучного інтелекту.

Після витоку інформації співробітник OpenAI Леопольд Ашенбреннер висловив стурбованість недостатнім захистом компанії від викрадення секретів іноземними державами. Він стверджує, що був звільнений за розголошення конфіденційної інформації, але вважає це рішення політично мотивованим.

Представники OpenAI заперечують зв’язок звільнення Ашенбреннера з його заявами про безпеку. Вони зазначають, що цінують його внесок у роботу компанії, але не погоджуються з його оцінкою рівня безпеки компанії.

Стурбованість щодо безпеки штучного інтелекту

Останнім часом питання безпеки штучного інтелекту привертає дедалі більше уваги. Деякі експерти вважають, що сучасні технології штучного інтелекту не становлять значної загрози національній безпеці. Інші ж побоюються потенційного використання штучного інтелекту для створення біозброї або втручання в комп’ютерні системи.

OpenAI та інші компанії вже вживають заходів для підвищення безпеки своїх розробок. OpenAI створила комітет із безпеки, до складу якого входить колишній генерал армії США Пол Накасоне. Компанія також інвестує в розвиток систем захисту.

Державні органи США розглядають можливість регулювання сфери штучного інтелекту. Частина фахівців припускає, що до реальних загроз, пов’язаних зі штучним інтелектом, ще далеко. Тим часом Китай активно розвиває власні системи штучного інтелекту й незабаром може стати лідером у цій галузі.

Дискусії щодо контролю та безпеки штучного інтелекту, імовірно, набиратимуть обертів у майбутньому.

Джерело: nytimes.com

Що кажуть фахівці DigVel

Цей випадок зламування в компанії OpenAI демонструє важливість кількох аспектів кібербезпеки:

• Захист конфіденційної інформації: хоча хакер не отримав доступ до кодів або клієнтських даних, викрадення інформації з внутрішніх обговорень також може нести ризики. Така інформація може містити стратегії, методології та інші дані, якими можна скористатися для зворотного інжинірингу або створення фішингових кампаній.
• Інсайдерські загрози: інцидент підкреслює важливість управління інсайдерськими загрозами. Звільнення співробітника через витік інформації показує, що навіть усередині організації можуть бути ризики, які потрібно контролювати.
• Відсутність повідомлення органам влади: нерозголошення інформації про зламування органам влади може бути ризикованим рішенням. Це може обмежити можливості для отримання допомоги з боку правоохоронних органів та інших державних структур, які спеціалізуються на кібербезпеці.
• Загрози для національної безпеки: викрадені дані можуть використовуватися для створення подібних систем за кордоном, що може становити загрозу для національної безпеки, особливо в контексті розвитку технологій штучного інтелекту в інших країнах, як-от Китаї.
• Стратегія захисту даних: важливо мати комплексну стратегію захисту даних, що охоплює як технічні засоби (шифрування, багатофакторну автентифікацію тощо), так і організаційні заходи (навчання співробітників, внутрішні політики безпеки тощо).
• Швидке реагування: виявлення інцидентів і швидке реагування на них є критично важливими. У цей процес входять виявлення порушень, їхній аналіз і прийняття заходів для мінімізації шкоди та запобігання повторенню подібних інцидентів.
• Розробка політик і процедур: організації повинні мати чітко визначені політики та процедури для роботи з інцидентами безпеки, що містять усі етапи: виявлення, реагування, повідомлення та відновлення.

Цей інцидент є нагадуванням, що безпека є постійним процесом, який вимагає уваги, ресурсів і стратегічного підходу. Додатково рекомендуємо виконати кілька захисних заходів:

• Розробити та впровадити розширені системи моніторингу й аналізу журналів для своєчасного виявлення інцидентів безпеки.
• Проводити регулярні аудити безпеки й тестування на проникнення для оцінювання вразливостей.
• Організувати навчання персоналу для підвищення обізнаності щодо кібербезпеки.
• Розробити стратегію реагування на інциденти, у яку входитимуть процедури повідомлення відповідних органів.

З впровадженням цих рекомендацій, а також розбудовою загальної надійної системи захисту вам може допомогти команда DigVel. Зверніться до нас прямо зараз!