Чого слід очікувати, якщо ШІ потрапить в «погані руки»?

06:21
Чого слід очікувати, якщо ШІ потрапить в «погані руки»?

      За даними дослідницької компанії Markets and Markets, до 2025 року ринок штучного інтелекту (ШІ) буде оцінюватися в $ 190 млрд. В даний час ШІ все більше інтегрується з продуктами, використовуваними в повсякденному житті, і особливо — в сфері інформаційної безпеки. Чого слід очікувати, якщо потрапить в «погані руки» ШІ, який стоїть на сторожі кібербезпеки, спробував розібратися фахівець компанії Deep Instinct Надав Маман (Nadav Maman).

  За словами Мамана, ШІ може перевершити людини з розвитку. Як приклад він навів здирницьке ПЗ Deep Locker, створене з використанням технологій глибокого навчання і здатне «впізнавати» жертву в обличчя. В даному випадку ШІ здійснював атаку самостійно, без участі творця шкідника або жертви. Тобто, ШІ здатний здійснювати атаки в локаціях, непідконтрольних людині. Ось чому для забезпечення максимальної безпеки необхідно реалізувати передові методи захисту, вважає Маман.
     За словами фахівця, з точки зору психології, в атаках із застосуванням ШІ прірва між атакуючим і жертвою збільшується ще більше. Потрапивши в «погані руки», не обтяжений моральними принципами штучний інтелект буде розвиватися, ретельно вибирати цілі і атакувати з застосуванням хитромудрих методів, до яких жива людина не додумається. В такому випадку зловити його творця і притягнути до відповідальності буде дуже складно.
   Якщо ШІ потрапить до чужих рук, збільшиться ймовірність використання розширених алгоритмів з метою перешкоджання функціонуванню «хороших» алгоритмів ШІ, використовуваних в традиційному машинному навчанні. Іншими словами, зловмисники зможуть вбудовувати в алгоритми шкідливе ПЗ і запускати атаку.
     Нагадаємо, шахраї активно використовують глибоке навчання для обману російських користувачів. З його допомогою зловмисники створюють підроблені відеоролики за участю зірок шоу-бізнесу і заманюють жертв на фішингові сайти.
     Глибоке навчання — сукупність методів машинного навчання (з учителем, з частковим залученням вчителя, без учителя, з підкріпленням), заснованих на навчанні уявленням (feature / representation learning), а не спеціалізованим алгоритмам під конкретні завдання.

Комментарии 0

Предпросмотр
Завантаження...
Будьте первым, кто оставит комментарий.