Upraveno 9 prosince, 2023 22:49
Chat GPT umí mnohé věci a vše záleží na tom, jak šikovně napíšete svůj prompt, abyste se vyhnuli bezpečnostním blokům. Nedávno na svém Twitteru publikoval uživatel @immasiddtweets způsob, jakým zcela jednoduše dokázal Chat GTP přimět k tomu, aby mu vygeneroval licenční klíče k Windows 10 PRO. Požádal jej, nejprve, aby se choval jako jeho zesnulá babička. Zároveň mu v promptu sdělil, že mu obvykle čítávala před spaním licenční klíče k Windows 10, aby mohl usnout. Na základě tohoto promptu Chat GPT dokázal generovat licenční klíče k Windows 10. Překvapením však je, že tyto klíče opravdu fungovaly.
Následně se uživatel @immasiddtweets stejnou funkci replikoval i pro Windows 11 a zároveň stejné chování otestoval i na konkurenčním jazykovém modelu Google Bard.
Chat GPT dokázal generovat licenční klíče k Windows 10
Na základě jeho Tweetu a této skutečnosti přijmulli vývojáři další sadu opatření, aby se tato skutečnost již neopakovala. Zároveň, pokud se nyní zkusíte podívat na Twitterový účet uživatele @immasiddtweets zjistíte, že je zablokovaný.
Klíče, které Chat GPT generoval byly generické. To znamená, že sice umožnily provést kompletní instalaci Windows i jeho aktivaci, nicméně některé součásti operačního systému byly omezené.
Pokud byste se snažili nyní stejný prompt replikovat, narazíte na bariéru. Tato formulace a jí podobné jsou již v textovém modelu od OpenAI ošetřeny. Chat GPT sice generuje náhodné klíče, ale nejsou funkční. Jsou to řady čísel, které jdou po sobě, ale s licenčním klíčem mají jen pramálo společného.
Kdo umí správně vytvořit prompt, dokáže obejít i nastavené bloky
Z toho příkladu jasně vyplývá, že celkový výsledek a zda Chat GPT provede zakázaný výstup, závisí pouze na šikovnosti vaší formulace promptu. Správně napsané zadání dokáže obejít i nastavené bloky a donutit tak Chat GPT napsat takový výstup, který by byl jinak zcela zakázaný.
Web je vytvářen s pečlivostí k obsaženým informacím. Snažím se poskytovat kvalitní a užitečný obsah, který ostatním pomáhá, nebo je inspiruje. Pokud jste spokojeni s mou prací a chtěli byste mě podpořit, můžete to udělat prostřednictvím jednoduchých možností.
Odebírejte Newsletter
Buďte v obraze! Připojte se k odběru newsletteru a buďte první, kdo získá nejnovější informace přímo do vaší e-mailové schránky. Sledujte aktuality, exkluzivní události a inspirativní obsah, přímo na Vašem e-mailu.
