1023 vs 1024:AVRマイコンとPICマイコンのデータシートより
10bit A/D変換データから電圧を計算するときに使われている
「1/1023」が気になってしかたありません。
「1/1024でっせ」っと何度も言ってるんですが・・・
AVRマイコンとPICマイコンのデーターシートから「1/1024」である
根拠をピックアップしてきました。
AVRマイコンはA/Dデータが出てくる「式」。
PICマイコンはアナログ入力に対する出力データのグラフ。
「フルスケールが出てくる点はVref - 1LSBだ」っと
どちらも明確に記されています。
※関連する過去記事
・2024年2月13日:トラ技のArduino Uno R4特集でも1/1023
・2024年2月7日:トランジスタ技術2024年3月号に記事が載りました
トラ技Jr.コーナ『実はワナだらけ…確実に動かすArduino Uno R3』
・2022年11月17日:1023 vs 1024 、255 vs 256 なんでみなさん「2^n-1」が好きなの?
・2022年11月12日:『1/1023 vs 1/1024』問題 analogReadを2bitにして確かめてみる
・2021年8月5日:PICでも「1/1023」。 トラ技2021年9月号別冊付録
・2020年5月17日:Arduino なんとかして誤用を正したい:A/Dの1/1023とmap関数
振り返ってみますと、もう5年ほどウダウダと言っております
トラ技にも記事を載せてもらったし。
皆さん、見てないのでしょうなぁ。
| 固定リンク
「1023 vs 1024」カテゴリの記事
- Arduino、analogWriteは捨てちゃえ。ちゃんとしたPWMの例(2025.03.22)
- 1023 vs 1024:AVRマイコンとPICマイコンのデータシートより(2025.03.19)
- 1/1023監視団 活動中!(2025.03.10)
- おっと。map関数の計算桁に注意(2024.10.06)
- サーミスタでの温度測定、「inf」の出現に耐えられるか?(2024.05.13)
コメント