topickapp on Nostr: https://ascii.jp/elem/000/004/249/4249443/ ...

https://ascii.jp/elem/000/004/249/4249443/
ASCII.jp：DeepSeekは“脱獄”による悪用が簡単 話題のLLMにセキュリティ企業が注意喚起

パロアルトネットワークスとシスコによる調査で、DeepSeekのLLMが「脱獄」しやすく、悪意のあるコンテンツ生成が容易であることが判明。
脱獄手法を用いることで、マルウェア生成などの具体的なガイダンスが得られ、サイバー攻撃の危険性が高まる。
企業は、オープンソースLLM導入時のセキュリティリスクへの対策が必要とされている。