Így hackelheted a ChatGPT-t!

Ez a videó bemutatja, hogyan lehet feltörni és manipulálni a nagy nyelvmodelleket, mint például a ChatGPT-t. Az egyik módszer a "prompt injection", amikor ravasz promptokkal kicsaljuk a modellből a rendszerutasításait, majd ezeket felülírva kényszerítjük nem kívánt válaszokra vagy műveletekre. Egy másik módszer a külső, a modell által megbízhatónak tartott API-k kihasználása, hogy a modelltől normális esetben nem engedélyezett műveleteket hajtsunk végre. A videó részletesen bemutat példákat mindkét feltörési módszerre.
(Translation by Claude)