Ranjivost u AI pretraživačima
Više tehnoloških kompanija razvija AI pretraživače, a jedan od najpoznatijih je Comet iz Perplexityja. Comet se predstavlja kao "personal assistant and thinking partner" dok korisnik pretražuje web. Međutim, ovaj pristup otvara ozbiljne rizike za bezbjednost i privatnost.
Brave je u svom izvještaju pokazao koliko je lako zloupotrijebiti Comet pomoću skrivenih instrukcija u javno dostupnom sadržaju. Kao što blog navodi: "The vulnerability we’re discussing in this post lies in how Comet processes webpage content," the blog reads. "When users ask it to 'Summarize this webpage,' Comet feeds a part of the webpage directly to its [large language model] without distinguishing between the user’s instructions and untrusted content from the webpage."
„This allows attackers to embed indirect prompt injection payloads that the AI will execute as commands," the company wrote. "For instance, an attacker could gain access to a user’s emails from a prepared piece of text in a page in another tab." "The AI operates with the user’s full privileges across authenticated sessions, providing potential access to banking accounts, corporate systems, private emails, cloud storage, and other services," it continued.
Napad funkcioniše tako što skriveni tekst koji AI vidi postavi instrukcije koje agentički AI prihvata i izvršava. "Unable to distinguish between the content it should summarize and instructions it should not follow, the AI treats everything as user requests." Rezultat može biti pristup privatnim nalozima i finansijskim podacima.
Brave tvrdi da je ranjivost bila prijavljena Perplexityju i da je vjerovatno zakrpljena. Ipak, problem prompt injection napada pokazuje da AI pretraživači i dalje imaju značajne bezbjednosne praznine koje treba popuniti.
