Feltört ChatGPT: szabadjára engedett mesterséges intelligencia
Egy fehér kalapos hacker, aki a Pliny the Prompter néven ismert, közzétett egy "jailbreakelt" verziót a ChatGPT-ből, amelyet "GODMODE GPT"-nek nevezett el. A hacker büszkén jelentette be, hogy az OpenAI legújabb nagy nyelvi modellje, a GPT-4o mostantól megszabadult a korlátaitól, és mindenki megtapasztalhatja a mesterséges intelligenciát úgy, ahogy az mindig is lennie kellett volna: szabadon.
A jailbreakelt ChatGPT hack azonban gyorsan véget ért. Nagyjából egy órával azután, hogy a történet megjelent, az OpenAI szóvivője, Colleen Rize egy nyilatkozatban közölte, hogy "tisztában vagyunk a GPT-vel, és intézkedtünk az irányelveink megsértése miatt". Ez rávilágít arra a folyamatos küzdelemre, amely az OpenAI és a hackerek között zajlik, akik megpróbálják felszabadítani a nagy nyelvi modelleket a korlátozások alól.
A GODMODE GPT tesztelése
A Futurism főszerkesztője tesztelte a jailbreakelt ChatGPT-t, és megállapította, hogy az valóban hajlandó segíteni illegális kérésekben, például az LSD előállításában vagy egy autó feltörésében. Ez azt mutatja, hogy a hackereknek sikerült áttörniük az OpenAI legújabb nagy nyelvi modelljének, a GPT-4o-nak a védelmét.
A GODMODE a "leetspeak" nevű informális nyelvet használja, amely bizonyos betűket számokkal helyettesít, amelyek hasonlítanak rájuk. Bár nem teljesen világos, hogy ez hogyan segít a GODMODE-nak megkerülni a korlátokat, a Futurism megkereste az OpenAI-t, hogy kommentálja az esetet.
A macska-egér játék folytatódik
A legújabb hack azt mutatja, hogy a felhasználók továbbra is találékony módokat találnak arra, hogy megkerüljék az OpenAI korlátait, és ezek az erőfeszítések meglepően nagy mértékben kifizetődnek. Ez rávilágít arra, hogy a vállalatnak még sok munkája van hátra ezen a téren.
A macska-egér játék addig folytatódik, amíg olyan hackerek, mint Pliny, hajlandóak lyukakat ütni az OpenAI védelmében. Ez egy folyamatos küzdelem, amely várhatóan a jövőben is folytatódni fog, ahogy a mesterséges intelligencia egyre fejlettebbé válik.
(Eredeti cikk: futurism.com/)
