LLM

Seznam, který uveřejnil OWASP, zdůrazňuje dopady a rozšířenost nejkritičtějších zranitelností nalezených v aplikacích umělé inteligence, založených na velkých jazykových modelech (LLM).

Vektorové databáze a vyhledávání nejsou nové, ale vektorizace je nezbytná pro generativní AI a práci s modely LLM. Přinášíme vše, co potřebujete vědět.

Letní vydání SecurityWorldu je doslova nabité informacemi, které uvítají všichni bezpečnostní experti. Těšit se můžete například na rady týkající se toho, jak reagovat na stínová nasazení nástrojů umělé inteligence, jak bezpečně nasadit velké jazykové modely, jak se připravit na ransomwarové útoky, aby vás neskolily, či jak chytře zabezpečit cloudové služby, které ve firmě využíváte. A to je jen zlomek toho, co vám nejnovější vydání přináší.

Kybernetičtí zločinci začali ve velkém využívat umělou inteligenci, a to výrazně nad rámec úprav phishingových zpráv. A jejich možnosti rychle rostou.

Nové bezpečnostní nástroje jsou určené zejména pro detekci útoků typu prompt injection, odhalit by ale měly i různé halucinace, které patří mezi klíčové problémy současné GenAI, a dokonce i zajistit vyšší ochranu velkých jazykových modelů (LLM).

Výzkumníci na Stanford University vyvinuli mobilního robota Aloha (A Low-cost Open-source Hardware System for Bimanual Teleoperation), který vzbudil v oboru robotiky i v médiích velkou pozornost.

Projekt Purple Llama, jehož cílem je vytvořit pro vývojáře open source nástroje, které umožní vyhodnotit důvěryhodnost a bezpečnost generativních modelů umělé inteligence ještě před jejich veřejným nasazením, představila Meta.

ChatGPT od OpenAI byl prvním vážně populárním nástrojem generativní umělé inteligence, ale pravděpodobně nebyl nejlepší. Je čas rozšířit si obzory v oblasti umělé inteligence.