Bezpečnost

OpenAI, organizace stojící za revolučním ChatGPT, udělala další velký krok v oblasti umělé inteligence. Jde o spojení textu a obrazu, který navrhli k porozumění a generování vizuálního obsahu. Jaká ale vlastně jsou rizika spojení textu a obrazu pomocí GPT-4V(ision)? Jak bývá u každého technologického pokroku běžné, i tento nese svou sadu výzev. Nedávný článek od Simona Willisona upozorňuje na jednu takovou obavu a to jsou útoky zneužívající zadávání dotazů (promptů). Rizika spojení textu a obrazu pomocí GPT-4V(ision) GPT-4V(ision), známý také jako GPT-4V, je multimodální model, což znamená, že je vyškolený pro zpracování jak textových, tak … Číst dál

Vědci objevili novou metodu, jak mohou obejít bezpečnostní opatření, která jsou integrovaná do modelu ChatGPT 4. Díky této metodě jste schopni získat z tohoto jazykového modelu i potenciálně nebezpečné rady. Tuto metodu můžete dohledat pod označením „Odbourání bezpečnostních omezení pro jazyky s omezenými zdroji“. Podle provedených testů navíc tato metoda dosahuje velmi slušné, 79% úspěšnosti. Pokud jste si tedy někdy také kladli otázku, jak lze odbourat bezpečnostní zábrany ChatGPT 4, tak to jde v podstatě docela „jednoduše“. Jak lze odbourat bezpečnostní zábrany ChatGPT 4 Co to vlastně znamená, když napíšu termín „odbourání bezpečnostních omezení pro … Číst dál