OSEL on Nostr: #^Anthropic varují, že inteligence LLM lze upravit do podoby spícího agenta ...
#^Anthropic varují, že inteligence LLM lze upravit do podoby spícího agenta
Experti skupiny Anthropic, která stojí za inteligencí Claude, slibným konkurentem ChatGPT, experimentálně vycvičila modely generativních inteligencí, odvozené od Claudeho, na spící agenty. Když se ocitnou v roce „2024,“ začnou nenápadně podvádět uživatele a generovat zranitelné programy namísto bezpečných.
Experti skupiny Anthropic, která stojí za inteligencí Claude, slibným konkurentem ChatGPT, experimentálně vycvičila modely generativních inteligencí, odvozené od Claudeho, na spící agenty. Když se ocitnou v roce „2024,“ začnou nenápadně podvádět uživatele a generovat zranitelné programy namísto bezpečných.