Ulrich O. on Nostr: https://heise.de/-10222562 Versteckte Hinweise auf Webseiten können ChatGPT Search ...
https://heise.de/-10222562
Versteckte Hinweise auf Webseiten können ChatGPT Search vergiften.
Dessen sollten sich #SuS bewusst sein, denn die Manipulation der Ergebnisse ist derzeit (!) relativ einfach. Enthält eine Website versteckte Anweisungen für #LLM, so greift z.B. #ChatGPT bevorzugt auf diese zu und liefert Ergebnisse, die von den für Menschen angezeigte Inhalten abweichen.
#KI #PromptInjection #FediLZ
Versteckte Hinweise auf Webseiten können ChatGPT Search vergiften.
Dessen sollten sich #SuS bewusst sein, denn die Manipulation der Ergebnisse ist derzeit (!) relativ einfach. Enthält eine Website versteckte Anweisungen für #LLM, so greift z.B. #ChatGPT bevorzugt auf diese zu und liefert Ergebnisse, die von den für Menschen angezeigte Inhalten abweichen.
#KI #PromptInjection #FediLZ