« ニッ水電池のJIS規格C8708が2019→2024に | トップページ | Arduino、analogWriteは捨てちゃえ。ちゃんとしたPWMの例 »

2025年3月19日 (水)

1023 vs 1024:AVRマイコンとPICマイコンのデータシートより

10bit A/D変換データから電圧を計算するときに使われている
「1/1023」が気になってしかたありません。
「1/1024でっせ」っと何度も言ってるんですが・・・

AVRマイコンとPICマイコンのデーターシートから「1/1024」である
根拠をピックアップしてきました。

Analogread1023

AVRマイコンはA/Dデータが出てくる「式」。
PICマイコンはアナログ入力に対する出力データのグラフ。

「フルスケールが出てくる点はVref - 1LSBだ」っと
どちらも明確に記されています。

※関連する過去記事
2024年2月13日:トラ技のArduino Uno R4特集でも1/1023
2024年2月7日:トランジスタ技術2024年3月号に記事が載りました
  トラ技Jr.コーナ『実はワナだらけ…確実に動かすArduino Uno R3』
2022年11月17日:1023 vs 1024 、255 vs 256 なんでみなさん「2^n-1」が好きなの?
2022年11月12日:『1/1023 vs 1/1024』問題 analogReadを2bitにして確かめてみる
2021年8月5日:PICでも「1/1023」。 トラ技2021年9月号別冊付録
2020年5月17日:Arduino なんとかして誤用を正したい:A/Dの1/1023とmap関数

振り返ってみますと、もう5年ほどウダウダと言っております
トラ技にも記事を載せてもらったし。
皆さん、見てないのでしょうなぁ。

|

« ニッ水電池のJIS規格C8708が2019→2024に | トップページ | Arduino、analogWriteは捨てちゃえ。ちゃんとしたPWMの例 »

1023 vs 1024」カテゴリの記事

コメント

コメントを書く



(ウェブ上には掲載しません)




« ニッ水電池のJIS規格C8708が2019→2024に | トップページ | Arduino、analogWriteは捨てちゃえ。ちゃんとしたPWMの例 »