トラ技2024年5月号に「3.3/65535」

トランジスタ技術の最新号、2024年5月号を
パラパラめくりしていたら、p.70のリスト1に
怪しい記述を発見。
A/D値から電圧値を計算するための定数を出す
のに「3.3/65535」と。


65536と65535の差はほんの僅か。

でも、リストの7行目のPID演算のところで、
6桁の数値が出ているんで、5桁数値の最小桁で
の1違いは大きくないかいなとちょいと心配。

電源電圧「3.3V」も、「ほんまかいな」だし。

元データはA/D値のまま使い、「CAL(校正)したらこうなった」
にして、「浮動小数点化したmap関数」を使って線形補間して
答えを出すてなほうが「理にかなっている」ような気がします。

・ラズピコだと1/65535が出現：トラ技2022年5月

※検索
・ラズパイマガジン2022年12月12日の訂正
　　　・・・本文中の「1023」は「1024」、図2下の式の
　　「4095」は「4096」の誤りです。
　　　・・・Raspberry Piのところで分割数が「4095」と
　　あるのは「4096」の誤り、Raspberry Pi Picoでは
　　「65535」が「65536」、micro:bitとArduinoでは
　　「1023」が「1024」の誤りでした。
訂正が出ています。