JSONã¨BigInt
ã¡ã‚‡ã£ã¨å‰ã«blueskyã§è¦‹ã‹ã‘ãŸè©±é¡Œã€‚ã‚‚ã¨ã¯ã€ŒGraphQLã®ã‚¹ã‚ーマã§ã¯intãŒ32ビットã—ã‹ãªãã¦ã€64ビット整数ã¨ã‹ãªã„ã®ãŒã‚¤ã‚±ã¦ãªã„ã€ã¨ã„ã£ãŸè©±ã ã£ãŸã‹ãªã¨æ€ã†ã€‚ç›´æ„Ÿçš„ã«ã¯ã“ã‚Œã¯ã€ŒJavascriptã§ã¯ã™ã¹ã¦ãŒå€ç²¾åº¦æµ®å‹•å°æ•°ç‚¹æ•°ã ã‹ã‚‰64bit intãŒãªã„ã‹ã‚‰ã€ã¨ã„ã†ã“ã¨ã«ãªã‚‹ãŒã€ã‚ˆãよã調ã¹ã¦ã¿ã‚‹ã¨ã„ã‚ã„ã‚ã‚„ã‚„ã“ã—ã„æ´å²çš„事情ãŒã‚るよã†ã 。 ãŸã—ã‹ã«JSã«ã¯ã‚‚ã¨ã‚‚ã¨ã²ã¨ã¤ã®Numberåž‹ã—ã‹ãªãã€ã„ã‚ゆるdoubleåž‹(å€ç²¾åº¦æµ®å‹•å°æ•°ç‚¹)ã ã‘ã§æ•°å€¤ã‚’表ç¾ã—ã¦ããŸã€‚IEEE754ã®å€ç²¾åº¦æµ®å‹•å°æ•°ç‚¹æ•°ã¯ä»®æ•°éƒ¨ãŒ52ビットã‚ã‚‹ã®ã§ã€å®Ÿéš›ã«ã¯32ビット整数ã¦ã„ã©ã§ã‚ã‚Œã°å…¨ã¦èª¤å·®ãªã表ç¾ã§ãる。ãªã®ã§32ビット整数ã¾ãŸã¯å€ç²¾åº¦æµ®å‹•å°æ•°ç‚¹æ•°ãŒã©ã¡ã‚‰ã‚‚使ãˆã‚‹ã¨ã„ã†ãµã†ã«ç†è§£ã•ã‚Œã¦ããŸã€‚ ãã†ã¯ã„ã£ã¦ã‚‚ä¸ä¾¿ãªã®ã§ã€ç¾ä»£ã®JSã«ã¯BigIntãŒã‚る。ES2020ã§å°Žå…¥ã•ã‚ŒãŸã‚‰ã—ã„。ãŸã ã—æ™®
Herbie Automatically Improving Floating Point Accuracy
Herbie detects inaccurate expressions and finds more accurate replacements. The red expression is inaccurate when x > 1; Herbie's replacement, in blue, is accurate for all x. Herbie improving accuracy on the “Hamming†benchmark suite. Longer arrows are better. Each arrow starts at the accuracy of the original expression, and ends at the accuracy of Herbie’s output, in each case on random double-pr
x86ã§doubleãŒfloatより速ã„ã‹ã©ã†ã‹ã‚’検証ã—ã¦ã¿ãŸ - Qiita
昔話 ãã‚Œã¯æ˜”々ã®ã“ã¨ã€‚ x86ã«ã¯æµ®å‹•å°æ•°ç‚¹æ¼”ç®—ã‚’è¡Œã†æ‰‹æ®µãŒãªãã€å¤–付ã‘ã®æµ®å‹•å°æ•°ç‚¹æ¼”算ユニットを接続ã™ã‚‹ã¨ã„ã†æ‰‹æ³•ã§ã€æµ®å‹•å°æ•°ç‚¹æ¼”算を実ç¾ã—ã¦ã„ãŸã®ã§ã‚ã£ãŸã€‚ x87ã¨å‘¼ã°ã‚ŒãŸãã‚Œã¯ã¨ã¦ã‚‚エクセレントãªã‚·ã‚¹ãƒ†ãƒ ã§â€¦ã¨ã„ã†è©±ã¯wikipediaã«è²ã‚ã†ã€‚ https://ja.wikipedia.org/wiki/Intel_8087 é‡è¦ãªã®ã¯ã€x87ãŒå†…部表ç¾ã¨ã—ã¦80bitã®æ‹¡å¼µå€ç²¾åº¦ã‚’使ã£ã¦ã„ã‚‹ã€ã¨ã„ã†ã“ã¨ã€‚ ã“ã‚Œã®ãŠã‹ã’ã§ã€x87ã«ãŠã„ã¦ã¯ã€ç¢ºã‹ã«~~doubleã®ã»ã†ãŒé€Ÿã‹ã£ãŸ (floatã ã¨doubleã¸ã®ã‚ャストコストãŒç™ºç”Ÿã™ã‚‹ãŸã‚)~~ 嘘ã ã‚ãれ。ASM見ãŸã‚‰åˆ¥ã«ã‚ャストã¨ã‹ã—ã¦ãªã‹ã£ãŸã‚。 ã©ã£ã¡ã‹ã¨ã„ã†ã¨ä¸¸ã‚ã®å½±éŸ¿ã§ç²¾åº¦ãŒç•°ãªã‚‹ã“ã¨ã®ã»ã†ãŒé‡è¦ã ã‚。 改ã‚ã¦èª¿ã¹ã¦ã¿ã‚‹ã¨ã€doubleãŒé€Ÿã„ã¨ã•ã‚Œã¦ã„る資料ã«ã¤ã„ã¦ã¯ã‚ã‚“ã¾ã‚Šãªã„ã“ã¨ã«æ°—付ã。 (åŒç‰ã¨ã—ã¦ã„る資料
å˜ç²¾åº¦ã€å€ç²¾åº¦ã€å¤šç²¾åº¦ã€æ··åˆç²¾åº¦ã‚³ãƒ³ãƒ”ューティングã®é•ã„ã¨ã¯? | NVIDIA
パイã«ã¤ã„ã¦ã®è€ƒãˆæ–¹ã¯ã„ãã¤ã‹ã‚ã‚Šã€ã‚¢ãƒƒãƒ—ルパイã€ãƒ‘ンプã‚ンパイã€ã‚ーライムパイãªã©ã•ã¾ã–ã¾ã§ã™ã€‚ãã‚Œã¨åŒæ§˜ã«ã€æ•°å¦å®šæ•°ã§ã‚る円周率 ℼ ã®è¡¨ç¾æ–¹æ³•ã‚‚ã•ã¾ã–ã¾ã§ã€3.14159 ã¨è¡¨ã—ãŸã‚Šã€0 㨠1 ãŒå»¶ã€…ã¨ç¶šã 2 進数ã§è¡¨ã—ãŸã‚Šã‚‚ã§ãã¾ã™ã€‚ ç„¡ç†æ•°ã§ã‚る円周率ã¯ã€ç¹°ã‚Šè¿”ã™ã“ã¨ãªãæ°¸é ã«ç¶šã 10 進数ã§ã™ã€‚ãã®ãŸã‚円周率を使ã£ã¦è¨ˆç®—ã‚’è¡Œã†å ´åˆã€äººé–“ã‹ã‚³ãƒ³ãƒ”ューターãŒæ•°å€¤ã‚’切りæ¨ã¦ãŸã‚Šå››æ¨äº”å…¥ã—ãŸã‚Šã™ã‚‹å‰ã«ã€å°æ•°ç‚¹ä»¥ä¸‹ã®æ¡æ•°ã‚’指定ã™ã‚‹å¿…è¦ãŒã‚ã‚Šã¾ã™ã€‚ å°å¦æ ¡ã§ã¯ 3.14 ã¨ã—ã¦æ‰‹è¨ˆç®—ã—ã¾ã™ãŒã€é«˜æ ¡ã®é–¢æ•°é›»å“ã§ã¯æ¡æ•°ãŒ10 æ¡ã«ãªã‚‹ã“ã¨ã‚‚ã‚ã‚Šã¾ã™ã€‚ã“ã‚Œã¯ã€åŒã˜æ•°å€¤ã‚’より高ã„詳細度ã§è¡¨ã—ã¦ã„ã¾ã™ã€‚コンピューター サイエンスã§ã¯ã“れを精度ã¨å‘¼ã³ã€é€šå¸¸ã¯ 10 進数ã§ã¯ãªãビットã€ã¤ã¾ã‚Š 2 進数をå˜ä½ã¨ã—ã¾ã™ã€‚ 複雑ãªç§‘å¦çš„シミュレーションã®å ´åˆã€é–‹ç™ºè€…ã¯é•·å¹´ã€ãƒ“ッグãƒãƒ³ã®ã‚ˆã†ãªå‡ºæ¥äº‹ã‚’ç†
浮動å°æ•°ç‚¹æ•°åž‹ã¨èª¤å·®
有é™æ¡ Ｃ言語ã§æ‰±ãˆã‚‹å®Ÿæ•°å€¤ã¯ï¼Œï¼’進数ã®æœ‰é™å°æ•°ã§è¡¨ã•ã‚ŒãŸæ•°å€¤ã§ã‚る．例ãˆã°æ¬¡ã®ã‚ˆã†ãªã‚‚ã®ã§ã‚る． 1.5(10) = 1.1(2) 3.25(10) = 11.01(2) ç†è«–çš„ã«ã¯å°æ•°ãŒç„¡é™ã«ç¶šã値ã§ã‚‚，ãã®ã†ã¡ã®æœ‰é™å€‹ã®æ¡æ•°ã§ãã®å€¤ã‚’表ã™ã—ã‹ãªã„． 例ãˆã°ï¼Œ0.1 を２進数ã®å°æ•°ã§è¡¨ã™ã¨ 0.1(10) = 0.000110011001100110011...(2) ã¨ç„¡é™ã«ç¶šããŒï¼Œã‚³ãƒ³ãƒ”ュータã®å†…部ã§ã¯æœ‰é™æ¡ã§ä¸¸ã‚られã¦ã„る． ã“ã®ã‚ˆã†ãªå ´åˆã«ã¯ï¼Œæœ¬å½“ã®å€¤ã§ã¯ãªã，近似値ã§ã—ã‹è¡¨ã™ã“ã¨ãŒã§ããªã„． 指数表記（浮動å°æ•°ç‚¹è¡¨è¨˜ï¼‰ 科å¦è¨ˆç®—ã§ã¯éžå¸¸ã«å¤§ããªå®Ÿæ•°å€¤ã‚„éžå¸¸ã«å°ã•ãªå®Ÿæ•°å€¤ã‚‚扱ã†ã“ã¨ãŒã‚る． ãã®ã‚ˆã†ãªã¨ãã«ã¯ï¼Œé€šå¸¸ã®ï¼‘ï¼é€²æ•°ã®è¡¨è¨˜ã§ã¯ãªãã¦ï¼Œæ¬¡ã®ã‚ˆã†ãªæŒ‡æ•°è¡¨è¨˜ã§è¡¨ã™ã‚Œã° 無駄㪠000...000 ã¨ã„ã†æ¡ã‚’表記ã—ãªãã¦ã‚‚よããªã‚‹ï¼Ž 1234567890000000000000
浮動å°æ•°ç‚¹æ•°ã®èª¤å·®ã‚’考慮ã—ãŸæ¯”較ã€double/floatåž‹ã®æ£ã—ã„比較方法】
// #include <float.h> // FLT_EPSILON, DBL_EPSILON, LDBL_EPSILON // #include <math.h> // fabsf, fabs, fabsl, fmaxf, fmax, fmaxl /* float型（å€ç²¾åº¦æµ®å‹•å°æ•°ç‚¹æ•°ï¼‰ */ if (fabsf(a - b) <= FLT_EPSILON * fmaxf(1.f, fmaxf(fabsf(a), fabsf(b)))) {} /* double型（å˜ç²¾åº¦æµ®å‹•å°æ•°ç‚¹æ•°ï¼‰ */ if (fabs(a - b) <= DBL_EPSILON * fmax(1, fmax(fabs(a), fabs(b)))) {} /* long double型（四å€ç²¾åº¦æµ®å‹•å°æ•°ç‚¹æ•°ï¼‰ */ if (fabsl(a - b) <= LDBL_EPSILON * fmaxl(1.L, fm
1
リリースã€éšœå®³æƒ…å ±ãªã©ã®ã‚µãƒ¼ãƒ“スã®ãŠçŸ¥ã‚‰ã›
最新ã®äººæ°—エントリーã®é…ä¿¡
j次ã®ãƒ–ックマーク
kå‰ã®ãƒ–ックマーク
lã‚ã¨ã§èªã‚€
eコメント一覧を開ã
oページを開ã
KMC Staff Blog:SoftFloatã®æœªå®šç¾©å‹•ä½œãƒã‚°ï¼ˆ1）signedã®unsignedãªçµ¶å¯¾å€¤ã‚’求ã‚ã‚‹éš›ã«INT_MIN
GitHub - 10buttons/awedio_esp32: ESP32 backend for the awedio audio playback library
GitHub - tarcieri/micromath: Embedded Rust arithmetic, 2D/3D vector, and statistics library
Float Toy
Digital signal processing for STM32 microcontrollers using CMSIS
GitHub - google/double-conversion: Efficient binary-decimal and decimal-binary conversion routines for IEEE doubles.
æ–‡å—åˆ—ãƒ»æ•°å€¤ç›¸äº’å¤‰æ› by ï¼£
{{#tags}}- {{label}}
{{/tags}}