What is Nostr?
SASANO Takayoshi /
npub1j3u…lq0w
2024-08-24 05:10:40

SASANO Takayoshi on Nostr: signed 16bitの数値4つを、それぞれ32bit ...

signed 16bitの数値4つを、それぞれ32bit float化した後に32768で割るという演算…多分SIMD命令いくつかでやれると思うんだけど、予め用意しておいた演算結果のテーブルを4回引くのとどっちが速いのかなーと悩んでる。

テーブル引きだとデータキャッシュが荒れることも考えないといかんし…
Author Public Key
npub1j3un8843rpuk4rvwnd7plaknf2lce58yl6qmpkqrwt3tr5k60vfqxmlq0w