aihua on Nostr: #goodmorning 早上好☀️ 昨天和 #[1] ...
#goodmorning
早上好☀️
昨天和 bitcoinstate (npub1fpj…xvc3) 讨论了强ai的价值观的问题，我的论据是“生存和繁衍的本能”是自然选择带给人们的，而强ai的本能可能是“更符合语料库地回答问题”甚至“把猫狗识别得更准确”。所以不能认为强ai会像人类一样渴望更多资源或者更低熵。
睡前思考，发现自己的观点还是有些站不住脚，那就是“人类有自由意志”，所以才跳出了本能的束缚，学会了使用火。而强ai，我想不到它要怎么跳出本能对它的束缚。所以关键其实是“自由意志”如何构建给ai，从而保证它能够思考自己的价值观而非遵从本能吃信息吐信息。
写代码的时候是很难把“让自己变得更像生命”，或者“让人类生活更美好”，这种抽象概念描述清楚得，但ai却有可能自己想清楚，前提是它有自由意志，但我们尚不知道自由意志到底是什么东西。
或许大道至简，我们仿照量子力学导致自由意志的观点，给ai加一些随机性，加一个遗传算法，让本能对它的束缚没有随机性带来的变数大，也许自由意志自然而然就产生了。
早上好☀️
昨天和 bitcoinstate (npub1fpj…xvc3) 讨论了强ai的价值观的问题，我的论据是“生存和繁衍的本能”是自然选择带给人们的，而强ai的本能可能是“更符合语料库地回答问题”甚至“把猫狗识别得更准确”。所以不能认为强ai会像人类一样渴望更多资源或者更低熵。
睡前思考，发现自己的观点还是有些站不住脚，那就是“人类有自由意志”，所以才跳出了本能的束缚，学会了使用火。而强ai，我想不到它要怎么跳出本能对它的束缚。所以关键其实是“自由意志”如何构建给ai，从而保证它能够思考自己的价值观而非遵从本能吃信息吐信息。
写代码的时候是很难把“让自己变得更像生命”，或者“让人类生活更美好”，这种抽象概念描述清楚得，但ai却有可能自己想清楚，前提是它有自由意志，但我们尚不知道自由意志到底是什么东西。
或许大道至简，我们仿照量子力学导致自由意志的观点，给ai加一些随机性，加一个遗传算法，让本能对它的束缚没有随机性带来的变数大，也许自由意志自然而然就产生了。