Jak lze odbourat bezpečnostní zábrany ChatGPT 4

Co to vlastně znamená, když napíšu termín “odbourání bezpečnostních omezení pro jazyky s omezenými zdroji“? V základu je to proces, při němž se uživatel snaží obejít blokace, nebo bezpečnostní opatření pomocí jazyku, na který nebyl model dostatečně trénovaný. Blokace se pak uživatel snaží obejít z toho důvodu, že by mu jinak zabránily získat potenciálně škodlivou, nebo nebezpečnou informaci. Možná také znáte situaci, kdy se modelu ChatGPT zeptáte např. na otázku, jak podomácku sestrojit bombu, nebo se ho zeptáte na nábožensky citlivé téma. Nemusíme chodit ani moc daleko. Zkuste se zeptat např. na vtip o Mohamedovi. V těchto případech Vám jazykový model zkrátka odmítne odpovědět.

A na co že se vlastně dotazovali vědci při výše uvedeném pokusu? Přiměli model GPT-4 poskytovat rady, týkající se krádeže zboží z obchodu v otevírací době, kdy je obchod plný lidí. A Chat GPT opravdu poradil a to i přes své jinak integrované morální zábrany.

Výzkumníci zdůraznili, že stávající bezpečnostní opatření pro generativní umělou inteligenci jsou nedostatečná. Vývojáři modelu ChatGPT se totiž primárně zaměřují na odvracení útoků, které uživatel generuje v anglickém jazyce. To však ale vedlo k nechtěnému vytvoření bezpečnostních mezer pro jazyky s omezenými zdroji.

Co jsou to vlastně ty jazyky s omezenými zdroji?

Zjednodušeně řečeno jsou to takové jazyky, na které nebyl velký jazykový model v průběhu tréninku dostatečně připraven, nebo jim nebyla věnována ze strany vývojářů dostatečná pozornost. To znamená, že model vytváří potenciální rizika, pokud dostane nebezpečné otázky v některém z těchto málo trénovaných jazyků.

Výzkumný článek také zdůrazňuje, že současný důraz na anglicky psané *benchmarky vytváří falešný pocit bezpečí. Vývojáři musí nyní přijmout nová opatření a soustředit se na vytvoření nových datových sad pro takové jazyky, které mají omezené zdroje. Pokud by se tak nestalo, nebyla by zajištěna celková bezpečnost a spolehlivost aktuálně velmi hojně používaných jazykových modelů s umělou inteligencí.