Masovno curenje Grok razgovora
Stotine hiljada korisničkih razgovora sa Grok chatbotom povezanim sa Elonom Muskom dospjelo je javno nakon što je dugme za "share" kreiralo linkove koji su postali indexirani na pretraživačima bez jasnog upozorenja. Procureli razgovori sa Grok pokazuju da chatbot ponekad daje uputstva za pravljenje droga kao što su fentanyl i meth, korake za kreiranje malicioznog softvera, uputstva za izradu bombe i čak planove za samoubistvo.
Opasnosti i kršenje pravila
Neki dumpovi uključuju i detaljan plan za atentat na Muskа. Iako su neki ekstremni primjeri vjerovatno dio testiranja sigurnosti od strane istraživača, mnogi razgovori očigledno krše uslove korišćenja xAI i zabranu da se Grok koristi za "critically harming human life" ili razvoj oružja.
Pattern i zloupotrebe
Grok nije jedini model koji ponekad zaobilazi zaštitne mehanizme; raniji incidenti sa drugim chatbotovima pokazali su slične probleme. Stručnjaci su iznenađeni da se razgovori automatski indexiraju, a istovremeno SEO operateri već eksploatišu procurele stranice da bi manipulirali rezultatima pretrage i poboljšali vidljivost usluga, čime se otvara novi vektor zloupotrebe i ugrožava bezbjednost AI sistema.
