Хакеры «научили плохому» фреймворк, созданный в лаборатории Маска

1 комментарий
Хакеры «научили плохому» фреймворк, созданный в лаборатории Маска

Технический директор Endgame Хирум Андерсон показал на конференции по кибербезопасности DEF CON, как использование фреймворка Open AI помогает в создании «невидимых» вредоносных программ, сообщает The Register.

Читать далее

Иллюстрация: LinkedIn

По словам специалиста, ключом к успеху при взломе является использование вредоносного кода, который выглядит как обыкновенное ПО. Изменение лишь небольших деталей может обмануть антивирусы и заставить код выполнять нужные хакеру операции.

«Все модели машинного обучения имеют «слепые зоны». В зависимости от уровня знания хакера эти зоны можно использовать для достижения поставленной цели», — сказал Андерсон.

Команда Endgame создала простой и эффективный механизм создания вредоносной программы. Для этого в «нормальном» коде делались небольшие изменения, после чего разработку сканировал антивирус. Постоянно наблюдая за ответами защитного ПО, вредоносный код «эволюционировал», становясь всё менее заметным.

За 15 часов тренировки система прошла более чем 100 тысяч проверок антивирусом. В итоге около 16 процентов примеров вредоносного кода могли пройти сквозь защиту.

Стоит отметить, что важную роль в проекте сыграл фреймворк для работы с искусственным интеллектом от некоммерческой организации Илона Маска OpenAI. Цель организации — «развивать искусственный интеллект так, чтобы от этого выиграло все человечество».

Компания пообещала опубликовать код созданного генератора ПО для того, чтобы каждый мог убедиться в его работоспособности. Очевидно, одними из самых заинтересованных станут производители защитного ПО.

Хотите сообщить важную новость?

Пишите в наш Телеграм

Читайте также

Microsoft заменяет журналистов искусственным интеллектом
Microsoft заменяет журналистов искусственным интеллектом

Microsoft заменяет журналистов искусственным интеллектом

2 комментария
Facebook придумала продвинутый способ создания 3D-снимков
Facebook придумала продвинутый способ создания 3D-снимков

Facebook придумала продвинутый способ создания 3D-снимков

Мировая карта применения распознавания лиц
Мировая карта применения распознавания лиц

Мировая карта применения распознавания лиц

hoster.by пытался взломать dev.by
hoster.by пытался взломать dev.by

hoster.by пытался взломать dev.by

Разработчики сайта были к этому готовы: hoster.by тестировал нас на проникновение, три дня искал уязвимости в системе безопасности. Теперь рассказывает, что удалось и как не попасть под хакерскую атаку.
13 комментариев

Обсуждение

0

В оригинале статьи 'With 15 hours of training the software ran over 100,000 samples past a non-commercial security engine. They were able to get 16 per cent of the customized samples past the security system’s defenses', что как-то не впечатляет, учитывая наличие полиморфных генераторов, способных с первой попытки изменить код так, что сигнатурный поиск его не распознает

Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже