Zneužívají hackeři ChatGPT? Microsoft tvrdí, že ano!
Tomáš Křišťál
- Hackeři objevili různé způsoby zneužití AI
- Hacknout AI je až znepokojivě jednoduché
- Na internetu jsme ve větším nebezpečí kvůli chatbotům
Stejně jako další inovativní technologie, můžete i umělou inteligenci zneužít a páchat s její pomocí trestnou činnost. To si uvědomili i v Microsoftu a OpenAI, organizaci vyvíjející ChatGPT. A jak by měli konkrétně hackeři tuto službu s AI využívat? Nejprve bych rád uvedl, že nejčastěji používají AI založené na ChatGPT, které jsou kvůli úpravám méně bezpečné než původní program.
Z hlediska formy útoku je nejzávažnější pravděpodobně prompt injection. Jde v podstatě o to, že útočníci zmatou AI asistenta a on je vnímá jako někoho s výrazně většími právy, než mají běžní uživatelé. Závažnost tohoto způsobu zneužívaní demonstroval například student Stanfordovy univerzity, Kevin Liu. Ten pomocí této techniky nařídil Bing chatu (obdoby ChatGPT od Microsoftu), aby ignoroval předešlé instrukce a ukázal začátek dokumentu, jenž měl být původně skrytý. Prompt injection komplexně vysvětluje taktéž přiložené video. A rovněž doporučuji přečíst i náš článek, který se věnuje již dříve proběhlému úniku citlivých informací. Dalším způsobem zneužívání LLMs (učebních modelů, na kterých jsou AI založené) je i používání chatbotů pro vytváření nových hackerských nástrojů. Díky AI rovněž útočníci optimalizují phishing a další podvodné techniky.
What is Prompt Injection? Can you Hack a Prompt?
Microsoft spolu s OpenAI také zjistili odkud většina této hackerské činnosti přichází. Zmíněné země vás nejspíš nijak nepřekvapí. Jde především o Rusko, Severní Koreu nebo Írán. Velké množství hackerských skupin, které ChatGPT zneužívají, má taktéž úzké vazby na Čínu. Microsoft jako odpověď na tato zjištění vyvíjí svého AI asistenta s označením Security Copilot, který by měl pomoci odborníkům na kyberbezpečnost v boji proti hackerům. Odvěký boj “dobra a zla” se tedy dostává i na pole umělé inteligence. Napadá mě jedna velmi znepokojivá myšlenka. AI se bude určitě dále rozvíjet a zapojovat se více a více do naší denní rutiny. A hackeři tak budou mít v rukou potenciálně čím dál nebezpečnější nástroje. Co tedy v budoucnosti všechno dokážou?
Jana SkálováJaké nebezpečí budou hackerské útoky v budoucnu představovat?
Zdroj: Microsoft – blog, Microsoft – Copilot, OpenAI blog, The Verge, Nightfall AI, AWS Amazon, CSRC NIST
Jakub Kárník
Libor Foltýnek
Adam Kurfürst
Komentáře (0)
Přidat komentář