aLE on Nostr: 实名认证带来另一个问题：数据收集和数据泄露，还有社工库。 ...
实名认证带来另一个问题：数据收集和数据泄露，还有社工库。
你猜大型语言模型如果接触了暗网的社工库会干什么，你猜会不会有黑客用LLM+社工库对Web2发起勒索（女巫攻击直到服务器瘫痪or给钱）
一个富得流油但有安全缺陷的系统，被攻击只是时间问题，仅仅只是反刷好评就是在说：我们被女巫攻击了
AI利用社工库控制数百万计的社交账号发布点评，让你审核部门直接瘫痪或者逼迫你误杀正常用户，导致用户迁移
免疫系统瘫痪，人会死亡。
免疫系统过激，同样致死。
Published at
2023-05-16 01:23:43Event JSON
{
"id": "295ac6e7e317cda0546f4724c1a5c8d47c26080702842a011e6c33c61110ecc0",
"pubkey": "0c98c195d9d44a99eac12f4134d47ced21c764fb6b12440de8ca3adbf0c373a7",
"created_at": 1684200223,
"kind": 1,
"tags": [
[
"e",
"238779e812c95543b840ea857e2a81bc748f7ee9fc58d68608d58038e35acca8"
],
[
"e",
"854f5c89fd24c812080b1131f1b2f3965d2f5b229a944c1240ccb4d6f7e6c97c"
],
[
"p",
"528e9cc3d331cb77c1fda3d0f034287785b9260ebac64e9d89132ab5334709a6"
]
],
"content": "实名认证带来另一个问题：数据收集和数据泄露，还有社工库。\n\n你猜大型语言模型如果接触了暗网的社工库会干什么，你猜会不会有黑客用LLM+社工库对Web2发起勒索（女巫攻击直到服务器瘫痪or给钱）\n\n一个富得流油但有安全缺陷的系统，被攻击只是时间问题，仅仅只是反刷好评就是在说：我们被女巫攻击了\n\nAI利用社工库控制数百万计的社交账号发布点评，让你审核部门直接瘫痪或者逼迫你误杀正常用户，导致用户迁移\n\n免疫系统瘫痪，人会死亡。\n\n免疫系统过激，同样致死。",
"sig": "dc379f967b9170f2e4b663ef63d927892b4d7e9094eeb98ac704cceda4f3071cbb1df6946eedcc801501a79f70ac6bd6ab68a056f6001fe43cbdf2f4cefcb837"
}
