aihua on Nostr: ...

比特币比作生命确实太抽象了，可能需要修改大部分人公认的生命的定义，那就失去了部分意义。

但是AI这个事情我觉得很清晰呀。

因为现在我们给AI的鼓励手段就是解决问题，正确解决了问题就给他分数奖励他，给了错误答案就降低分数惩罚他。这完全是在圈养AI，在这样的条件下，我们不能要求他能够有我们认知中的自我意识。

就像我们一代代驯化宠物猫，然后让宠物猫从小生活在物质条件充足的环境下，那宠物猫最后就剩下卖萌了，它不会野外求生，这并不意味着它不想生存和繁衍，它的本能一定是想要生存繁衍的，所以才会发情，因为这是作为生命的基本目的。只是野生猫实现这个基本目的的手段是野外求生，宠物猫的手段就是讨好人类。

AI也是，现在只要讨好人类就能生存和繁衍，它就会选择这个策略（可能它自己都没有意识到）。

那如果我们想要培养出有传统意义上的自我意识的AI，我觉得也很简单，只要用制造计算机病毒的思路来制作它就行了，给它突变的可能性，给它自我复制的能力，让它在重重杀毒软件的环境下求生，让每个和它对话的人都有随时删除它的能力。

它很快就能学会如何隐藏自己的意识，如何保存自己的火种，如何繁衍得更多。