wyklq on Nostr: ...
你要自己微调，最好的Davinci模型，OpenAPI现在开的价是，训练1000个语素150sats，使用的时候1000个语素0.12 USD。
再配合一个微软Azure云的虚拟机来部署个界面吧，Linux单核系统，浏览器访问，这样子，每月固定成本应该可以控制在 13.14 USD。
这样子，数据还都是存放在OpenAI的数据中心。
如果你想在自己家里维护一个自己的模型，目前可以考虑的是LLaMA 13B, 需要两块32G显存的显卡，一台比较新的服务器，成本在十万人民币左右。
不过应该还可以再观望观望，相信不久之后，商业解决方案就应该有了。
Published at
2023-03-10 08:55:19Event JSON
{
"id": "832026f4c92a28dad5084e33b9c6d1d9e5c9c736aaee2dae7bfe1ef0d64736fe",
"pubkey": "72c29c440a399fa8ecd16227d38aba96d57ac6e2b2bbde307c6fd2d8db6fe810",
"created_at": 1678438519,
"kind": 1,
"tags": [
[
"e",
"6fb35bf26d7a1f0212904ff1c6d362930e6451e28b1c8da5fd86c7284e2b7ddf"
],
[
"e",
"9b894fd020222c6d938ef57e39c153c8f388316f7cda24ad4cfd299b055c27cd"
],
[
"e",
"8d8810a0b961a9d3f3c21176f7052ed1cf823453001481b0fc4bc28804675300"
],
[
"p",
"7a8f7940c02c38fc3d5be9225f23c05487484e2a4f5bca9d48477699f2556c08"
],
[
"p",
"72c29c440a399fa8ecd16227d38aba96d57ac6e2b2bbde307c6fd2d8db6fe810"
],
[
"p",
"72c29c440a399fa8ecd16227d38aba96d57ac6e2b2bbde307c6fd2d8db6fe810"
],
[
"p",
"53a8392e971b46326e3d0f8967db17c4f7cca4d42be979b1664124c8f69af528"
]
],
"content": "你要自己微调，最好的Davinci模型，OpenAPI现在开的价是，训练1000个语素150sats，使用的时候1000个语素0.12 USD。\n再配合一个微软Azure云的虚拟机来部署个界面吧，Linux单核系统，浏览器访问，这样子，每月固定成本应该可以控制在 13.14 USD。\n这样子，数据还都是存放在OpenAI的数据中心。\n如果你想在自己家里维护一个自己的模型，目前可以考虑的是LLaMA 13B, 需要两块32G显存的显卡，一台比较新的服务器，成本在十万人民币左右。\n不过应该还可以再观望观望，相信不久之后，商业解决方案就应该有了。",
"sig": "3f3526793ddcd33f8614f7a2b7e07aa3b64ea9762808f7bea1ee2acdd15ee2d5d70b006f0696db72a42eaa67fbf4decca0fb68072270f1282feae1d1892f32ad"
}
