Language models are high on the list of technology that gives IT security professionals headaches
of the model,” Tom Van de Wiele says and explains that this is typically the model’s training data, which may contain valuable and private information about companies, organisations, and individuals in the form of, for example, credit card information or trade secrets.
“It’s a banal example,” Tom Van de Wiele admits, but says that “it’s a real example, it has happened.” Social security numbers are one thing, but a completely different and far more serious issue arises if the attack works on credit card information, trade secrets, or secret addresses of citizens under special protection.It is not only training data that risks being leaked.
In addition to the four general and well-known categories of attacks on AI models, there are also a number of new developments, which are becoming more and more present as tools such as Bing and ChatGPT gain access to the Internet and third-party plug-ins.In March of this year, Arvind Narayanan, professor of computer science at Princeton University, documented how a simple indirect prompt injection attack can already be performed.
In the specific example, the user asks Bing for product recommendations on computers, to which the automated fake Microsoft employee pretends to be able to sell the user a computer at a discounted price. And when the user accepts the offer, the chatbot requests the user’s credit card information, which ultimately ends up with the scammer.
indicates that 73 percent of businesses either already use or plan to use chatbots powered by generative AI in customer support. But despite the risks—both old and new—there is little to indicate that companies are equipped to withstand cyberattacks on their AI systems.
Danmark Seneste Nyt, Danmark Overskrifter
Similar News:Du kan også læse nyheder, der ligner denne, som vi har indsamlet fra andre nyhedskilder.
Techtopia #285: Bohr 2.0 – den anden kvanterevolution er brudt ud | IngeniørenTechtopia skyder sommerserie om kvantecomputere i gang med et besøg på Niels Bohr Institutet.
Læs mere »
Se video af sprængt ukrainsk dæmning: Det bringer Europas største atomkraftværk i fare | IngeniørenEn stor del af det tilhørende vandkraftværk er nu forsvundet på grund af oversvømmelser.
Læs mere »
Manglen på sjældne jordarter kan bremse elektrificeringen | IngeniørenDer kører flere og flere elbiler rundt på vejene i EU, men manglen på sjældne jordarter kan bremse den udvikling. Det viser en undersøgelse fra svensk universitet.
Læs mere »
Den fælles europæiske domstol | IngeniørenKan I huske, at vi en gang gik til folkeafstemning om noget, der havde med patenter at gøre? Det kan jeg i hvert fald. Jeg var i midt tyverne, og det var den anden folkeafstemning (valg ikke medregnet), jeg havde stemmeret til. Jeg kan huske, at det føltes som noget meget stort, men at jeg også følte mig håbløst ukvalificeret i forhold til at tage stilling til det, for den gang vidste jeg nærmest mindre end intet om patenter.
Læs mere »
Fremtidens våbensystemer bygges som digitale byggeklodser | IngeniørenIngeniøren har besøgt den nye produktionslinje til flåderadarer hos en af verdens største forsvarsvirksomheder, Raytheon Technologies.
Læs mere »
Ingen wifi eller opladning: Koldkrigsmateriel skal redde sommerens togrejser til udlandet | IngeniørenLeverancen af nye passagervogne er stærkt forsinket, så DSB lejer IC1-vogne af Deutsche Bahn.
Læs mere »