Kamenem úrazu není ani tak kvalita provedení samotného testu, ale právě slabiny v metodice. Obecně platí, že čím jednodušší metodika, tím méně pracné uskutečnění testu. Největším plynoucím problémem je ale především to, že takové výsledky jsou na míle vzdálené výsledkům z reálného světa, tedy kdy se o kvalitách řešení přesvědčí sám uživatel. provést opravdu kvalitní srovnání bezpečnostního řešení je totiž velmi nákladné a zdlouhavé.
Když pomineme skutečnost, že realita versus výsledky testů asi nikdy nebudou zcela slučitelné, máme zde minimálně organizace, jako jsou Virus Bulletin, AV-Comparatives.org, AV-test.org, které mají s testováním dlouhodobější zkušenosti. Avšak v médiích se každou chvíli objevuje i mnoho menších testů, úzce specializovaných. Příkladem může být Matousec.com, který v pravidelných intervalech zveřejňuje žebříček nejlepších personálních firewallů na trhu. Proč se ale v tomto testu někteří renomovaní výrobci vždy umísťují až na konci, což zcela neodpovídá obecnému povědomí o daném produktu? Následuje jedno z možných vysvětlení.
Pravidelný test firewallů na serveru matousec.com je prezentován jako Firewall Challenge, ale
specializuje se primárně na funkcionalitu typickou pro tzv. behaviour blockers (alias HIPS), a nikoliv pro firewall (tj. filtrace odchozí/příchozí
komunikace, popř. filtrování jejího obsahu).
Behaviour blocker je přitom aplikace, která monitoruje chod operačního
systému a podezřelou činnost (např. pokus o změnu startovací stránky
prohlížeče, přidání nové lišty do Internet Exploreru...). Tuto funkcionalitu
v některých případech přebraly právě osobní firewally, ovšem čistě z
definice pojmu firewall jde o zcela neslučitelnou funkcionalitu. Pak stačí, aby bezpečnostní řešení nepodporovalo funkci behaviour blocker), a nemůže tak v principu v tomto testu obstát. V metodice jmenovaného testu se dále dočtete to, že během testu není použit žádný škodlivý kód a je zcela vypnut rezidentní štít každého testovaného antiviru. Kdo si pořizuje antivirus, aby vypnul rezidentní štít a nepoužíval ho k odchytu škodlivého kódu?
I proto se organizace AMTSO (Anti-Malware Testing Standards Organization) snaží prosadit standardizované postupy pro testování bezpečnostních produktů. Například v dokumentu „Whole Product Protection Testing Guidelines“ naráží na velký problém mnoha testů, a to že se autoři snaží testovat pouze jednu izolovanou část produktu a ostatní funkce jednoduše vypnou. Výsledkem je zcela zkreslený pohled na produkt. Výrobci totiž dnes navrhují svůj software jako vzájemně propojený organizmus, kdy komunikace jednotlivých modulů zcela zásadně ovlivňuje míru poskytované ochrany. Zároveň se organizace AMTSO snaží posuzovat objektivnost jednotlivých testů (tj. píšou na ně recenze).
Autor pracuje jako technical director ve společnosti Eset software.