Тест фаерволов на защиту от внутренних атак II - Тесты и сравнения - Форумы Anti-Malware.ru Перейти к содержанию
Сергей Ильин

Тест фаерволов на защиту от внутренних атак II

Recommended Posts

Сергей Ильин

Мы в низком старте нового теста фаерволов на защиту от внутренних атаке (аля самозащита).

Если кто-то вдруг забыл, то это такой вот тест http://www.anti-malware.ru/forum/index.php?showtopic=19500

В этот раз мы хотим провести тест на Windows 7 x86, а осень повторить его уже для Windows 7 x64.

Набор методов атаки для теста мы практически не будем менять. Несколько из тех, что были в прошлый раз для XP, не работают на Window 7. Несколько мы думаем добавить. В итоге общий набор методов для атак будет около 40.

Сейчас основной вопрос в том, кого тестировать, а кого нет. Прошлый список хочет несколько оптимизировать.

Avast! Internet Security

AVG Internet Security

Avira Internet Security

BitDefender Internet Security

Comodo Internet Security

DefenseWall Personal Firewall

Dr.Web Security Space

Eset Smart Security

F-Secure Internet Security

G DATA Internet Security

Jetico Personal Firewall

Kaspersky Internet Security

McAfee Internet Security

Microsoft Security Essentials

Norton Internet Security

Online Armor Premium Firewall

Online Solutions Security Suite

Outpost Security Suite Pro

Panda Internet Security

PC Tools Internet Security

Trend Micro Titanium Internet Security

ZoneAlarm Internet Security Suite

Я предлагаю убрать их теста Online Solutions Security Suite как непопулярный. Также под вопросом DefenseWall, т.к. в прошлом году многие протестовали против его сравнения с традиционными антивирусными продуктами.

Буду рад услышать любые комментарии по методике теста и списку участников.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Snejoker

1) Предлагаю перенести тестирование на Windows 7 x86 на осень. А на х64 сейчас.

2) А встроенный виндовый файрволл будет тестироваться? Или он тоже не распространенный?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
KIS_fan

есть ещё MalwareDefender и PrivateFirewall > имеют HIPS

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
KIS_fan

Оффтоп

Не хотите обновить тест на самозащиту продукта ? А то последний тест был сделан 2 года назад.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин
  Цитата
1) Предлагаю перенести тестирование на Windows 7 x86 на осень. А на х64 сейчас.

Не получится технически. Для х64 нужно переписывать ряд утилит. Это время. Поэтому и решили сделать сначала на x86. Популярность этих версий 7-ки примерно одинакова.

  Цитата
2) А встроенный виндовый файрволл будет тестироваться? Или он тоже не распространенный?

Будет и он есть в списке - Microsoft Security Essentials (+ штатный фаервол Windows).

  Цитата
Не хотите обновить тест на самозащиту продукта ? А то последний тест был сделан 2 года назад.

Данные тест во многом дублирует тест на самозащиту. Поэтому для не уверен, что мы будет его повторять.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
VIKING

Хотелось бы увидеть в списке новые лица, например TrustPort IS 2013 ...

Очень хотелось бы увидеть объективный результат....

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
amid525
  VIKING сказал:
Очень хотелось бы увидеть объективный результат....

Это как?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
VIKING

Очень просто =

Хотелось бы увидеть работу АВ в оптимальных режимах теста...

Его реальные возможности, соответственно все плюсы и минусы...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
priv8v

1. Предлагаю пересмотреть подход к случаям, когда ав-комплекс крэшится (даже какая-то его часть, хоть GUI). Продукт частично грохнулся - самозащита плохая, функционал нарушен - все, 0 баллов. Даже если тестовое действие было заблокировано. А ничего что он при этом вообще всю деятельность в системе заблокировал? то, что теперь все запрещено (или наоборот, все разрешено). А то нет логики - если позорно упав нечаянно всю систему заблокировал - это плюс один, а если корректно обработал хук и спросил у юзера "а что тут делать?" - 0.5 балла. Выходит лучше падать или вообще все лочить.

2. Ситуация с запросом - допустим, продукт спросил об попытке установки драйвера двумя способами. Итого он получит 1 балл. А тот продукт, который один способ тупо заблочил или вообще не обработал (просто самозащита не дает работать такому способу, а хуки на это не поставлены и корректно обработать данный кейс в случае атаки не на него а на систему он не сможет), а второй пропустил - тоже получит 1 балл.

3. Одно дело, когда антивирус на дефолтных настройках молча подавляет попытку TerminateProcess, а другое, когда спрашивает о недокументированной загрузке неподписанного драйвера - т.к если тупо заблочить, то у юзера софт может не работать (какие-нибудь там даемон_тулзы и прочая фигня). Т.е вопрос вопросу рознь. Одно дело когда вопрос на каждый чих как от OSSS и другое дело, когда вопросы о каких-то реально критичных событиях. Причем алерты тоже разные бывают - бывает что если приложение недоверенное (тестовые кейсы, например, ведь их нет в базе чистых и вообще они подозрительны), то алерт угрожающий и по его тексту и внешнему виду понятно что надо бы запретить если не уверен.

4. Если на дефолтных настройках продукт тупо блокирует все кейсы, то это, простите, тупая заточка. Если все эти действия блочить, то как с таким продуктом работать - половина софта корректно работать не будет, т.к продукт все лочит тупо. Т.е еще раз предлагаю пересмотреть политику начисления баллов продукту, который спрашивает.

5. В каких-то продуктах есть правила для приложений, где-то нет. Есть базы чистых, предустановки и на выход в сеть и на поведение в системе для большинства популярных программ и т.д... - так вот при тестировании все это не учитывается ведь. Т.е кто-то все тупо молча лочит хорошей самозащитой, но при этом нужных хуков в системе у него не поставлено...

6. Немного странно видеть когда продукт, у которого поставлены хуки на все что можно (все кейсы или заблочит молча или спросит) оказывается по тесту хуже того у которого и технологий то таких нет - треть пропускает т.к он не дорос еще до таких хуков. Логика такая - если у продукта стоят такие хуки, то на дефолтных настройках есть много правил (ну, кроме как у OSSS и еще схожего вендора) которые определяют его активность в системе, а вот если приложение неизвестно (тестовый кейс, зловред), то на особо хитрое мутное действие может быть и алерт - т.к файл юзер сам скачал и запустил, кто его знает, может этот функционал ему нужен...

  • Upvote 10

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Сергей Ильин
  Цитата
1. Предлагаю пересмотреть подход к случаям, когда ав-комплекс крэшится (даже какая-то его часть, хоть GUI). Продукт частично грохнулся - самозащита плохая, функционал нарушен - все, 0 баллов. Даже если тестовое действие было заблокировано. А ничего что он при этом вообще всю деятельность в системе заблокировал? то, что теперь все запрещено (или наоборот, все разрешено). А то нет логики - если позорно упав нечаянно всю систему заблокировал - это плюс один, а если корректно обработал хук и спросил у юзера "а что тут делать?" - 0.5 балла. Выходит лучше падать или вообще все лочить.

ИМХО слишком жестко получается. По факту же крушение GUI, например, может не нарушать работу защитных функций антивируса. В последнем тесте за крушение того же GUI не снималось баллов. Замечу, что это было сделано по обратным просьбам, что мол неправильно снимать баллы за креш какого-то GUI или другого незначительного процесса, атака то предотвращена.

  Цитата
2. Ситуация с запросом - допустим, продукт спросил об попытке установки драйвера двумя способами. Итого он получит 1 балл. А тот продукт, который один способ тупо заблочил или вообще не обработал (просто самозащита не дает работать такому способу, а хуки на это не поставлены и корректно обработать данный кейс в случае атаки не на него а на систему он не сможет), а второй пропустил - тоже получит 1 балл.

Понимаю о чем вы. Здесь логика такая, что идеалогически не хочется поощрять тех, что пугает юзеров страшными алертами по поводу и без. Так можно сделать поделку, которая будет ругаться на каждый чих и выиграть тест. И так было куча криков по поводу DefenseWall, который блочит все, не имея анализа контекста событий.

  Цитата
3. Одно дело, когда антивирус на дефолтных настройках молча подавляет попытку TerminateProcess, а другое, когда спрашивает о недокументированной загрузке неподписанного драйвера - т.к если тупо заблочить, то у юзера софт может не работать (какие-нибудь там даемон_тулзы и прочая фигня). Т.е вопрос вопросу рознь. Одно дело когда вопрос на каждый чих как от OSSS и другое дело, когда вопросы о каких-то реально критичных событиях. Причем алерты тоже разные бывают - бывает что если приложение недоверенное (тестовые кейсы, например, ведь их нет в базе чистых и вообще они подозрительны), то алерт угрожающий и по его тексту и внешнему виду понятно что надо бы запретить если не уверен.

Предлагаете веса для разных кейсов сделать?

  Цитата
4. Если на дефолтных настройках продукт тупо блокирует все кейсы, то это, простите, тупая заточка. Если все эти действия блочить, то как с таким продуктом работать - половина софта корректно работать не будет, т.к продукт все лочит тупо. Т.е еще раз предлагаю пересмотреть политику начисления баллов продукту, который спрашивает.

Такой всего один - DefenseWall, но у него такая логика работы. Точнее полтора, есть еще параноидальный Comodo. И их поэтому хотели в прошлый раз убрать из теста и отчета.

  Цитата
5. В каких-то продуктах есть правила для приложений, где-то нет. Есть базы чистых, предустановки и на выход в сеть и на поведение в системе для большинства популярных программ и т.д... - так вот при тестировании все это не учитывается ведь. Т.е кто-то все тупо молча лочит хорошей самозащитой, но при этом нужных хуков в системе у него не поставлено...

Помню кто-то предлагал попробовать поставить несколько приложений и записать сколько алертов пользователю будет выведено. Это будет маркером параноидальности (дебильности) продукта.

Делаем? Если да, то давайте решим какие программы берем для этого, много не нужно, тут нужно показать качественно различия в подходах вендоров.

  Цитата
6. Немного странно видеть когда продукт, у которого поставлены хуки на все что можно (все кейсы или заблочит молча или спросит) оказывается по тесту хуже того у которого и технологий то таких нет - треть пропускает т.к он не дорос еще до таких хуков.

Разве это не проблемы вендоров? Каждый сам выбирает для своего продукта логику работы.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
  Сергей Ильин сказал:
И так было куча криков по поводу DefenseWall, который блочит все, не имея анализа контекста событий.

Моя программа блокирует только ту активность, что может быть вредоносной либо потенциально опасной. Без, за редчайшим исключением, запроса к пользователю. И только для тех процессов, что могут быть потенциально опасными. Ну а криков было по одной причине- я выиграл тест. Ты думаешь, если бы я тест проиграл, хоть кто-нибудь издал бы хоть писк? :D

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik

Криков было, потому как на каждый инсталлятор был запрос доверия. Под "каждый", конечно, подразумевается на офис и флеш.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
  Umnik сказал:
Криков было, потому как на каждый инсталлятор был запрос доверия.

И это неправда. Запрос на выбор зоны возникает только в случае запуска неизвестного файла, лежащего внутри одной из папок "Зоны загрузки". По методологии, для DefenseWall запуск производился с флешки (по умолчанию в недоверенных по понятным причинам), а она вне "Зоны загрузки", так что никаких запросов в данном случае быть не могло в принципе.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
priv8v
  Цитата
ИМХО слишком жестко получается. По факту же крушение GUI, например, может не нарушать работу защитных функций антивируса. В последнем тесте за крушение того же GUI не снималось баллов. Замечу, что это было сделано по обратным просьбам, что мол неправильно снимать баллы за креш какого-то GUI или другого незначительного процесса, атака то предотвращена.

Крэш ГУИ = потеря функциональности. Как в такой системе работать можно? Ворд сможет документ сохранить или 1С? Какие еще запросы втихую подавятся продуктом? Если скрэшился - значит кривая реализация такого хука или вообще его нет и он выжил лишь потому, что драйвер и не атаковали - он продолжает поэтому работать и все лочить, а технологии ТАКОЙ защиты на самом деле нет. За крэш ИМХО нужно 0 давать (а еще лучше даже отнимать очков:) )

  Цитата
Понимаю о чем вы. Здесь логика такая, что идеалогически не хочется поощрять тех, что пугает юзеров страшными алертами по поводу и без. Так можно сделать поделку, которая будет ругаться на каждый чих и выиграть тест.

Если говорить про того, кто все похучил и все блочит - это комод и Дефенс Валл (у последнего такова логика работы и к нему претезий нет, все правильно делает). Согласен, что одно дело все повязать хуками (как комод), а другое дело это уметь фильтровать и не надоедать юзеру тупыми непонятными алертами. И тут смущает вот что:

1. От продукта Х два вопроса = 1 балл. От продукта Y один провал и одна блокировка = 1 балл. Т.е результат такой же.

2. Алерт алерту рознь - есть опасные действия в системе, которые тупо лочить нельзя, иначе у юзера даемон_тулзы, дефрагментаторы, твикеры, хард_утилиты, бэкаперы и прочее не будет работать - потому нужно бы спросить. Если это на дефолтных настройках тупо залочено, то нафига такой продукт вообще нужен?

3. Максимальные настройки - тут логика этих настроек у некоторых продуктов разная, кто-то подразумевает, что какие-то действия через настройку можно просто запретить без алертов, а на какие-то будут выдаваться предупреждение, тем более тут от правил зависит для приложений.

Печально, что выхода нормального из этого без исследования логики самого продукта и того насколько у него много правил для приложений и т.д нет, а в тесте это отразить как-нибудь надо. Потому предлагаю на выбор следующие варианты (можно сделать из них коомбинацию):

1. Давать за запрос не 0.5 баллов, а 0.7, например.

2. Ранжирование того что спросил - если спросил чисто про атаку на самого себя, то это одно, а вот если запросил за загрузку неподписанного драйвера, то это нормально. Обычно такой алерт будет отличатся особой страшностью - красный цвет, большие понятные надписи, что если разрешить, то будет жо_па и т.д

3. За запрос в максимальном режиме вообще не снимать баллы - на то режим и максимальный чтобы все блочить (блочить то, что явно настроено в настройках что надо блочить), а на все остальное опасное спрашивать. Так что в этом режиме (максимальный) запросы это вполне нормально!

  Цитата
Предлагаете веса для разных кейсов сделать?

Хорошо бы сделать. Например увеличение баллов за прохождение адвансед левела (самых сложных экзотичных функций).

  Цитата
Такой всего один - DefenseWall, но у него такая логика работы. Точнее полтора, есть еще параноидальный Comodo. И их поэтому хотели в прошлый раз убрать из теста и отчета.

Тестировать Дефенс рядом с классическими продуктами смысла нет. Любой нормальный продукт с кучей хуков (OSSS, KIS, OSS, Comodo) можно за несколько строк кода и пары настроек превратить в такую же песочницу - для того, чему явно не устанавливается статус доверенного все что похучено нафиг блочить, а доверенному все разрешать. Но они работают ведь не по такой логике, а сами решают что блочить, а что нет, и иногда у юзера спрашивают. Т.е песочницу надо с другими сравнивать.

Пусть меня Илья поймет правильно - на его продукт я не наезжаю, но при разной логике работы и при таком тестировании тестить бессмысленно - ежу понятно, что Дефенс все похучил и все запрещает - толку тут тестировать то? Проверять не забыл ли Илья какую-то экзотическую функцию похучить что ли? Все и так верят, что не забыл.

  Цитата
Помню кто-то предлагал попробовать поставить несколько приложений и записать сколько алертов пользователю будет выведено. Это будет маркером параноидальности (дебильности) продукта.

Делаем? Если да, то давайте решим какие программы берем для этого, много не нужно, тут нужно показать качественно различия в подходах вендоров.

обязательно надо. потом предложу список приложений, пусть мозги отдохнут, а то много букв что-то я напечатал, кипеть начали... :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
KIS_fan
  priv8v сказал:
[...]

3. За запрос в максимальном режиме вообще не снимать баллы - на то режим и максимальный чтобы все блочить (блочить то, что явно настроено в настройках что надо блочить), а на все остальное опасное спрашивать. Так что в этом режиме (максимальный) запросы это вполне нормально!

[...]

Поддерживаю! В прошлом тесте по такой методике в максимальном режиме, аж 7 продуктов (вместо двух) набрали бы 100% результат.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
priv8v
  Цитата
Помню кто-то предлагал попробовать поставить несколько приложений и записать сколько алертов пользователю будет выведено. Это будет маркером параноидальности (дебильности) продукта.

Делаем? Если да, то давайте решим какие программы берем для этого, много не нужно, тут нужно показать качественно различия в подходах вендоров.

Сергей Ильин, давайте без запары для тех, кто будет делать тест и без экзотики, чтобы заточек не было - что-то простое и распространенное. Предлагаю ставить три браузера: Лиса, Хром, Опера. Поставить их и зайти на какие-нибудь пару сайтов в интернете и посмотреть сколько и каких алертов будет от продукта (разумеется, на дефолтных настройках). Кто-то нормально даст поставить и сам создаст правила для выхода в сеть, а кто-то про каждый чих спросит и будет спрашивать разрешение для захода на каждый сайт...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik
  Илья Рабинович сказал:
И это неправда. Запрос на выбор зоны возникает только в случае запуска неизвестного файла, лежащего внутри одной из папок "Зоны загрузки". По методологии, для DefenseWall запуск производился с флешки (по умолчанию в недоверенных по понятным причинам), а она вне "Зоны загрузки", так что никаких запросов в данном случае быть не могло в принципе.

Я так и сказал - любого. Потому что почти все новое ПО у пользователя лежит в зоне загрузки :) Он же его только что скачал. На крайняк - принес на флешке, которая тоже... ;)

Илья, идеология твоего продукта известна всем. Также всем известно, что на ПО, "полученное" из браузера и со сменного носителя, будет запрос. Но это здесь, а за пределами АМ - нет. В итоге люди получают не то, что ожидают. СМИ не рассказывают, как на самом деле ведет себя DW.

Вот в этом главная причина возмущения.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
  Umnik сказал:
Илья, идеология твоего продукта известна всем.

Да вот выясняется, что нет.

  Umnik сказал:
Также всем известно, что на ПО, "полученное" из браузера и со сменного носителя, будет запрос.

Из браузера- только в случае запуска из одной из папок "Зоны загрузки". Со сменного носителя- запроса не будет, сменные носители вне "Зоны загрузки". Накати на виртуалку и посмотри сам, как там всё работает.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik
  Цитата
Из браузера- только в случае запуска из одной из папок "Зоны загрузки".

Да это же дефолтный вариант для браузеров. Они все ее используют.

  Цитата
Со сменного носителя- запроса не будет, сменные носители вне "Зоны загрузки". Накати на виртуалку и посмотри сам, как там всё работает.

Если изменил логику - так скажи. У тебя сменные носители, а затем и сеть, были в зоне Untrusted.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Илья Рабинович
  Umnik сказал:
Если изменил логику - так скажи. У тебя сменные носители, а затем и сеть, были в зоне Untrusted.

Я ничего не менял. Ты просто путаешь "Недоверенную зону" и "Зону загрузок". Одно к другому никакого отношения не имеет. Вообще. И ещё раз говорю- поставь программу и проверь, как всё работает.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Umnik

Речь не о терминологии, а о том, что программы по умолчанию не будут trusted.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Killer

@В этот раз мы хотим провести тест на Windows 7 x86, а осень повторить его уже для Windows 7 x64.@

Можно нескромный вопрос?:) А почему тесты проводятся не устаревших ОС? Когда была w7, тесты проводились на XP, когда вышла и уже год как существует W8, тесты проводятся на W7? Не успеваете? В обычных условиях и не на этом форуме я бы не спрашивал, но выж как никак:

%%%

Anti-Malware.ru - первый в России независимый информационно-аналитический

центр, полностью посвященный информационной безопасности.

%%%

а?

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Alex_Goodwin
  Цитата
А почему тесты проводятся не устаревших ОС?

Тесты проводятся на самых массово используемых системах.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
Killer

Мне кажется, что в таком случае нужно тестировать обе оси. Потому что обходить самую передовую ОС из линейки win - мне кажется не правильно.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты
alamor

Killer windows 8 стоит пока у довольно ограниченного количества пользователей и то у многих из них стоит пока только на виртуалке ;).

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

  • Сообщения

    • PR55.RP55
      Изменения для драйверов Windows 11: новые сертификаты и отказ от метаданных https://www.comss.ru/page.php?id=16408
    • demkd
      Если нет пользовательского реестра для пользователя то будет сообщение в логе, остальное не надо видеть и тем более удалять - это дело пользователя.
    • PR55.RP55
      Увидит ли такое uVS И должно быть удаление ? O27 - Account: (Bad profile) Folder is not referenced by any of user SIDs: C:\Users\TEMP
      O27 - Account: (Bad profile) Folder is not referenced by any of user SIDs: C:\Users\Михаил Акаминов
      O27 - Account: (Hidden) User 'John' is invisible on logon screen
      O27 - Account: (Missing) HKLM\..\ProfileList\S-1-5-21-1832937462-987109255-1306349959-1002.bak [ProfileImagePath] = C:\Users\Михаил (folder missing)
    • santy
      Не увидел твое сообщение во время, а исправление до *.14 как раз было бы во время для решения проблемы с  dialersvc.
    • demkd
      Небольшое исправление, следующее обновление будет чисто интерфейсным и можно будет выпускать v5.0 ---------------------------------------------------------
       4.99.14
      ---------------------------------------------------------
       o Исправлена ошибка при подключении к удаленному компьютеру с Win11:
         в удаленную систему не передавалась база известных файлов.

       o Функция защиты от внедрения потоков работала неправильно если параметр bFixedName не был указан
         в settings.ini или он был равен 0.
       
×