« I2C液晶のアクセス、割り込み処理で遅れる原因らしきもの | トップページ | Ni-Cd組み電池をニッケル水素電池に交換 »

2024年4月 7日 (日)

トラ技2024年5月号に「3.3/65535」

トランジスタ技術の最新号、2024年5月号を
パラパラめくりしていたら、p.70のリスト1に
怪しい記述を発見。
A/D値から電圧値を計算するための定数を出す
のに「3.3/65535」と。

Pp21
65536と65535の差はほんの僅か。

でも、リストの7行目のPID演算のところで、
6桁の数値が出ているんで、5桁数値の最小桁で
の1違いは大きくないかいなとちょいと心配。

電源電圧「3.3V」も、「ほんまかいな」だし。

元データはA/D値のまま使い、「CAL(校正)したらこうなった」
にして、「浮動小数点化したmap関数」を使って線形補間して
答えを出すてなほうが「理にかなっている」ような気がします。

ラズピコだと1/65535が出現:トラ技2022年5月

※検索
ラズパイマガジン2022年12月12日の訂正
   ・・・本文中の「1023」は「1024」、図2下の式の
  「4095」は「4096」の誤りです。
   ・・・Raspberry Piのところで分割数が「4095」と
  あるのは「4096」の誤り、Raspberry Pi Picoでは
  「65535」が「65536」、micro:bitとArduinoでは
  「1023」が「1024」の誤りでした。
訂正が出ています。

 

|

« I2C液晶のアクセス、割り込み処理で遅れる原因らしきもの | トップページ | Ni-Cd組み電池をニッケル水素電池に交換 »

重箱の隅」カテゴリの記事

ラズパイ・ピコ」カテゴリの記事

1023 vs 1024」カテゴリの記事

コメント

コメントを書く



(ウェブ上には掲載しません)




« I2C液晶のアクセス、割り込み処理で遅れる原因らしきもの | トップページ | Ni-Cd組み電池をニッケル水素電池に交換 »